公司知识 · 观点评论
先改善证据选择，再控制 RAG 成本
上下文长度应跟随问题需要，而不是把能放的资料全部放入。
先规划资讯，再规划 token
更长上下文可能只是掩盖薄弱检索，把很多边缘段落一起送给模型。先确认问题真正需要哪些证据，再分开看检索数量、片段长度、重新排序与答案生成的成本。上下文检索研究提供实验背景，却没有为所有企业文件订出通用最佳长度。计算预算前，也应分辨有价值的证据与重复文字，避免因技术上放得下便全部加入。
量度每个已解决问题的成本
以假设的政策助手为例，在相同问题比较较短与较广的证据集，记录检索成功、无依据主张、延迟、用量与审核投入。便宜答案若需要长时间人工修改，总成本可能更高。长答案附很多引用，亦未必解决员工真正问题。先定义「已解决」，再订成本目标，并把转人工、重试及後续查证一起纳入，而不只计算一次模型呼叫。
流程一览
留意重复证据
重叠切片、镜像资料夹及翻译副本可能挤掉不同证据。抽查检索集合，观察额外段落是提供新资讯，还是只是重复。标签可靠时可按版本与范围筛选，但不能为节省 token 压掉例外条款。提示更短只有在保留正确及授权答案所需资讯时才有价值。成本优化应保留对照测试，否则很容易把品质下降误认为效率提升。
设定可维护的营运范围
记录预期问题量、更新频率、合理证据上限及大型请求的後备处理。试点後再按实际费用检讨，不要从实验室结果承诺固定节省。将向量化与汇入成本和日常查询成本分开，便能解释为何同样问题量下，经常更新的资料库与稳定手册有不同成本。最终选择应同时符合品质、回应时间及团队可持续承担的维护范围。
每周抽查证据集
每周抽查少数高成本问题，逐段检查取回内容。只有确认例外与矛盾证据仍可见，才移除冗余检索，并保留前後解决品质纪录。成本检讨应保护有用证据，而不是只奖励短答案。若少数查询需要很长背景，可另外设计较慢的审核路径，避免为这些特例提高所有日常问题的固定成本。
来源与延伸阅读
编辑原则
本系列以 AI 辅助原创撰写，并对照连结的公开来源。实作建议与假设情境属编辑分析，并非客户实绩。来源发布日期及产品细节可能与本系列整理日期不同。