Lookahead Routing voor LLM's Stelt Lookahead voor, een routeringsframework om meer geïnformeerde routering mogelijk te maken zonder volledige inferentie. Bereikt een gemiddelde prestatieverbetering van 7,7% ten opzichte van de state-of-the-art. Hier is waarom het werkt: Lookahead is een nieuw framework voor routering in multi-LLM-systemen, dat beslist welk model elke query moet afhandelen. Belangrijk idee: In plaats van alleen te routeren op basis van de invoervraag, voorspelt Lookahead latente representaties van potentiële antwoorden, waardoor het een "blik" krijgt op wat elk model zou zeggen zonder volledig tekst te genereren. Slimmere beslissingen: Deze responsbewuste voorspelling maakt routering contextgevoeliger en nauwkeuriger, vooral voor open-eindige of voorkeurgestuurde taken. Efficiënt leren: Het is zeer data-efficiënt, bereikt volledige prestaties met slechts 16% van de trainingsdata vergeleken met baselines, en leert betere semantische representaties voor routering. Dual ontwerp: Werkt met zowel causale als gemaskeerde LM-varianten, generaliserend over meerdere architecturen. Prestatie: Overtreft state-of-the-art routeringsmethoden over zeven benchmarks, met de grootste winsten in genuanceerde, creatieve taken. Lookahead toont aan dat het toevoegen van lichte generatieve vooruitziendheid multi-modelsystemen adaptiever en kostenefficiënter kan maken zonder volledige modelinferentie nodig te hebben.