Lookahead-Routing für LLMs Vorschläge für Lookahead, ein Routing-Framework, um informierteres Routing ohne vollständige Inferenz zu ermöglichen. Erzielt einen durchschnittlichen Leistungszuwachs von 7,7 % gegenüber dem Stand der Technik. Hier ist, warum es funktioniert: Lookahead ist ein neues Framework für das Routing in Multi-LLM-Systemen, das entscheidet, welches Modell jede Anfrage bearbeiten soll. Kernidee: Anstatt das Routing nur auf der Eingabeanfrage zu basieren, sagt Lookahead latente Repräsentationen potenzieller Antworten voraus, was ihm einen "Blick" darauf gibt, was jedes Modell sagen würde, ohne den Text vollständig zu generieren. Intelligentere Entscheidungen: Diese antwortbewusste Vorhersage macht das Routing kontextsensitiver und genauer, insbesondere bei offenen oder präferenzgesteuerten Aufgaben. Effizientes Lernen: Es ist äußerst dateneffizient und erreicht die volle Leistung mit nur 16 % der Trainingsdaten im Vergleich zu Baselines und lernt bessere semantische Repräsentationen für das Routing. Dual-Design: Funktioniert sowohl mit kausalen als auch mit maskierten LM-Varianten und generalisiert über mehrere Architekturen. Leistung: Übertrifft die besten Routing-Methoden in sieben Benchmarks, mit den größten Gewinnen bei nuancierten, kreativen Aufgaben. Lookahead zeigt, dass die Hinzufügung von leichtgewichtiger generativer Voraussicht Multi-Modell-Systeme anpassungsfähiger und kosteneffizienter machen kann, ohne vollständige Modellinferenz zu benötigen.