热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
为什么您的编码代理不再需要 RAG
来自 Cline 的 Nik Pash 解释了为什么他不再推荐 RAG 用于自主编码代理,他的观点比我预期的要强烈。
应用层正在缩小。随着模型的改进,我们围绕 LLM 构建的所有巧妙工程都变得过时。
RAG 发生了什么:
上下文窗口显着扩展,无需嵌入搜索
编码代理在直接文件访问中比分块嵌入效果更好
当您将温度设置为 0 时,幻觉甚至不是问题
嵌入存储的安全问题很重要
像 Klein 这样的现代编码代理没有使用 RAG,而是使用 Nik 所说的“叙事完整性”。让代理通过 grep 等工具有机地探索代码,完整读取文件,并遵循自己的思路。这模仿了高级工程师的实际工作方式。
就连 Cloud Code 的 Boris 也承认他们尝试过 Rag 并放弃了它。模式很清楚。
当 rag 仍然有意义时:
预算限制(嵌入搜索使用更少的令牌)
海量非结构化数据湖
一些非编码用例
但对于严肃的工程团队来说呢?停止通过嵌入搜索分散您的编码代理的注意力。让他们直接阅读代码,自然地建立理解,并专注地执行。
真正的问题不在于 Rag 是否已经死去,而是当更简单的方法现在效果更好时,你是否仍然坚持过时的解决方案。
热门
排行
收藏