Tại sao các tác nhân lập trình của bạn không cần rag nữa Nik Pash từ Cline giải thích lý do tại sao anh ấy không còn đề xuất rag cho các tác nhân mã hóa tự động và quan điểm của anh ấy đánh mạnh hơn tôi mong đợi. lớp ứng dụng đang thu hẹp. Tất cả các kỹ thuật thông minh mà chúng tôi xây dựng xung quanh LLM tiếp tục trở nên lỗi thời khi các mô hình được cải thiện. Điều gì đang xảy ra với Rag: Cửa sổ ngữ cảnh mở rộng đáng kể, khiến tìm kiếm nhúng trở nên không cần thiết Các tác nhân mã hóa hoạt động tốt hơn với truy cập tệp trực tiếp so với nhúng phân đoạn Ảo giác thậm chí không phải là vấn đề khi bạn đặt nhiệt độ thành 0 Mối quan tâm về bảo mật với bộ nhớ nhúng là rất quan trọng Thay vì rag, các tác nhân mã hóa hiện đại như Klein sử dụng cái mà Nik gọi là "tính toàn vẹn của tường thuật". Cho phép tác nhân khám phá mã một cách tự nhiên thông qua các công cụ như gREP, đọc toàn bộ tệp và làm theo dòng suy nghĩ của riêng mình. Điều này bắt chước cách các kỹ sư cao cấp thực sự làm việc. Ngay cả Boris của Cloud Code cũng thừa nhận họ đã thử rag và từ bỏ nó. Mô hình rõ ràng. Khi giẻ vẫn có ý nghĩa: Hạn chế ngân sách (tìm kiếm nhúng sử dụng ít mã thông báo hơn) Hồ dữ liệu phi cấu trúc khổng lồ Một số trường hợp sử dụng không phải mã hóa Nhưng đối với các nhóm kỹ thuật nghiêm túc? Ngừng làm mất tập trung các tác nhân mã hóa của bạn bằng cách nhúng tìm kiếm. Hãy để họ đọc mã trực tiếp, xây dựng sự hiểu biết một cách tự nhiên và thực hiện với sự tập trung. Câu hỏi thực sự không phải là liệu Rách rách có chết hay không, mà là liệu bạn có còn bám vào các giải pháp lỗi thời khi các cách tiếp cận đơn giản hơn hiện nay hoạt động tốt hơn.