熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
為什麼你的編碼代理不再需要 RAG
Cline 的 Nik Pash 解釋了為什麼他不再推薦 RAG 用於自主編碼代理,他的觀點比我預期的更有說服力。
應用層正在縮小。我們圍繞 LLMs 建立的所有巧妙工程隨著模型的改進而變得過時。
RAG 發生了什麼:
上下文窗口大幅擴展,使嵌入搜索變得不必要
編碼代理在直接訪問文件時表現更好,而不是分塊嵌入
當你將溫度設置為 0 時,幻覺甚至不是問題
嵌入存儲的安全問題相當重要
現代編碼代理如 Klein 使用 Nik 所謂的 "敘事完整性",讓代理通過 grep 等工具有機地探索代碼,完整閱讀文件,並遵循自己的思路。這模仿了資深工程師的實際工作方式。
甚至雲代碼的 Boris 也承認他們嘗試過 RAG 並放棄了。這一模式很明顯。
RAG 仍然有意義的情況:
預算限制(嵌入搜索使用更少的標記)
大量非結構化數據湖
一些非編碼用例
但對於認真的工程團隊來說?停止用嵌入搜索分散你的編碼代理的注意力。讓他們直接閱讀代碼,自然建立理解,並專注執行。
真正的問題不是 RAG 是否已死,而是你是否仍然堅持過時的解決方案,而更簡單的方法現在效果更好。
93.29K
熱門
排行
收藏