为什么您的编码代理不再需要 RAG 来自 Cline 的 Nik Pash 解释了为什么他不再推荐 RAG 用于自主编码代理,他的观点比我预期的要强烈。 应用层正在缩小。随着模型的改进,我们围绕 LLM 构建的所有巧妙工程都变得过时。 RAG 发生了什么: 上下文窗口显着扩展,无需嵌入搜索 编码代理在直接文件访问中比分块嵌入效果更好 当您将温度设置为 0 时,幻觉甚至不是问题 嵌入存储的安全问题很重要 像 Klein 这样的现代编码代理没有使用 RAG,而是使用 Nik 所说的“叙事完整性”。让代理通过 grep 等工具有机地探索代码,完整读取文件,并遵循自己的思路。这模仿了高级工程师的实际工作方式。 就连 Cloud Code 的 Boris 也承认他们尝试过 Rag 并放弃了它。模式很清楚。 当 rag 仍然有意义时: 预算限制(嵌入搜索使用更少的令牌) 海量非结构化数据湖 一些非编码用例 但对于严肃的工程团队来说呢?停止通过嵌入搜索分散您的编码代理的注意力。让他们直接阅读代码,自然地建立理解,并专注地执行。 真正的问题不在于 Rag 是否已经死去,而是当更简单的方法现在效果更好时,你是否仍然坚持过时的解决方案。