
用 logprobs 做置信度判断:阈值怎么定才不是拍脑袋
讲解 logprobs 置信度分数为什么经常不校准、如何用可靠性曲线检验分数是否可信,以及自动放行/人工审核/拒答三档阈值的科学设定方法。
从入门到进阶,系统学习 Gemini 的对话、提示词与多模态能力。

讲解 logprobs 置信度分数为什么经常不校准、如何用可靠性曲线检验分数是否可信,以及自动放行/人工审核/拒答三档阈值的科学设定方法。

讲解 Needle-in-a-Haystack 长上下文测试的原理、自建测试脚本方法,以及主流模型在不同上下文深度下的检索表现与局限。

深入解析 LLM logprobs(对数概率)在置信度评估、不确定性检测、分类任务和 RAG 系统中的实际应用,含代码示例与实战建议。

横向对比主流大模型在长上下文场景下的真实召回表现,揭示上下文窗口数字与实际可用长度之间的差距,给出选型建议。

同一道数学题换成中文表述,模型准确率往往会下降。本文用中文数理测试集对比主流模型表现,分析语言切换导致推理掉点的原因与规避方法。

系统横评主流大模型在 GSM8K、MATH、AIME 等数学基准上的表现,分析各模型推理策略与实际使用建议。

对比 GPT-4o、Claude Sonnet 4.6、Gemini 1.5 Pro 在会议转录文本上的纪要生成能力,含结构化输出、Action Item 提取与中文表现评分。

评测主流 LLM 在日语、韩语、法语、西班牙语、阿拉伯语等非中英语言下的指令遵循与推理能力,附选型建议。

系统讲解 LLM 多轮对话中的状态管理策略,涵盖上下文截断、摘要压缩、外部记忆存储与工程实现。

图片输入并不是按 JPEG 或 PNG 文件字节直接计费。本文拆解视觉模型如何缩放图片、切成 tile 或 patch、应用模型倍率并换算 billable token,比较 OpenAI、Anthropic 与 Gemini 当前机制差异,给出规则版本化、usage 回填、批量请求监控、成本预估和账单核对的工程方法。

用 Langfuse 在国内自部署 LLM 应用可观测性平台:tracing、用量、成本、调试、用户反馈一站搞定,含 Docker 部署与接入示例。

系统评测主流 LLM 在中文 NER 任务上的表现,对比人名、地名、机构名的识别准确率,并给出实际工程接入建议。