Lập lộ trình Lookahead cho LLMs Đề xuất Lookahead, một khung lộ trình để cho phép lộ trình thông minh hơn mà không cần suy diễn đầy đủ. Đạt được mức tăng hiệu suất trung bình 7,7% so với công nghệ tiên tiến nhất. Dưới đây là lý do tại sao nó hoạt động: Lookahead là một khung mới cho việc lộ trình trong các hệ thống đa LLM, quyết định mô hình nào nên xử lý mỗi truy vấn. Ý tưởng chính: Thay vì chỉ lộ trình dựa trên truy vấn đầu vào, Lookahead dự đoán các đại diện tiềm ẩn của các phản hồi tiềm năng, cho phép nó "nhìn thoáng" vào những gì mỗi mô hình sẽ nói mà không cần tạo ra văn bản hoàn toàn. Quyết định thông minh hơn: Dự đoán nhạy cảm với phản hồi này làm cho việc lộ trình trở nên nhạy cảm với ngữ cảnh và chính xác hơn, đặc biệt là cho các nhiệm vụ mở hoặc dựa trên sở thích. Học tập hiệu quả: Nó rất hiệu quả về dữ liệu, đạt được hiệu suất đầy đủ chỉ với 16% dữ liệu huấn luyện so với các cơ sở, và học được các đại diện ngữ nghĩa tốt hơn cho việc lộ trình. Thiết kế kép: Hoạt động với cả hai biến thể LM nguyên nhân và bị che khuất, tổng quát qua nhiều kiến trúc khác nhau. Hiệu suất: Vượt trội hơn các phương pháp lộ trình tiên tiến nhất qua bảy tiêu chuẩn, với những cải tiến lớn nhất trong các nhiệm vụ tinh tế, sáng tạo. Lookahead cho thấy rằng việc thêm khả năng dự đoán sinh nhẹ có thể làm cho các hệ thống đa mô hình trở nên thích ứng và tiết kiệm chi phí hơn mà không cần suy diễn mô hình đầy đủ.