长文档与知识库问答

长上下文能解决什么

候选列表先按不少于 128,000 tokens 的标称上下文过滤。这只是输入容量条件，不是准确阅读整份文档的保证。文件解析、图片内容和输出预留也需要单独考虑。

什么时候比较整篇输入与检索

材料较少、问题频繁跨段引用时，可以测试整篇输入；材料很多且不断更新时，可以同时测试检索后输入。比较两者的证据完整性、响应时间和费用，不预设哪一种必然更好。

用引用位置检验答案

从自有文档中选取分布在开头、中间和结尾的事实，再加入跨段汇总题与原文无答案题。要求回答给出文档标识或段落位置。检查引用是否真的支持结论，尤其要看模型能否在证据不足时明确说明。

把重复材料计入预算

将每次问题都重复发送的材料与新问题分别计量。启用缓存前先核对具体服务商的命中条件、读写价格和保存费用。计算器中的缓存命中率是你输入的情景假设，不是平台保证。

资料与验证依据

• Google：长上下文使用与限制

候选采用本站公开参考数据；本文没有把榜单名次当作本站任务实测结果。