為什麼你的編碼代理不再需要 RAG Cline 的 Nik Pash 解釋了為什麼他不再推薦 RAG 用於自主編碼代理,他的觀點比我預期的更有說服力。 應用層正在縮小。我們圍繞 LLMs 建立的所有巧妙工程隨著模型的改進而變得過時。 RAG 發生了什麼: 上下文窗口大幅擴展,使嵌入搜索變得不必要 編碼代理在直接訪問文件時表現更好,而不是分塊嵌入 當你將溫度設置為 0 時,幻覺甚至不是問題 嵌入存儲的安全問題相當重要 現代編碼代理如 Klein 使用 Nik 所謂的 "敘事完整性",讓代理通過 grep 等工具有機地探索代碼,完整閱讀文件,並遵循自己的思路。這模仿了資深工程師的實際工作方式。 甚至雲代碼的 Boris 也承認他們嘗試過 RAG 並放棄了。這一模式很明顯。 RAG 仍然有意義的情況: 預算限制(嵌入搜索使用更少的標記) 大量非結構化數據湖 一些非編碼用例 但對於認真的工程團隊來說?停止用嵌入搜索分散你的編碼代理的注意力。讓他們直接閱讀代碼,自然建立理解,並專注執行。 真正的問題不是 RAG 是否已死,而是你是否仍然堅持過時的解決方案,而更簡單的方法現在效果更好。
93.29K