Swarm Inference mění pravidla hry v odvětví umělé inteligence. Abyste pochopili proč, musíte začít tím, jak vypadají vratky pro tvůrce běžných inferenčních dodavatelů (GPU v datových centrech). Nasaďte si investorský klobouk: -Vidíte boom umělé inteligence. Chcete se zapojit. Nákup GPU, jejich umístění někam a jejich pronájem je jádrem tohoto obchodního modelu. - Začnete modelovat, postavíte svá PnL. Datová centra, servery, konektivitu atd. To jsou vaše CAPEX a COGS. Top-line vyniká pouze u špičkových GPU. Energie je drahá. Řízení není triviální. - Dospějete k rychlému závěru: výnosy jsou... přinejmenším drsné. Pokud si projdete toto cvičení, je zde jednoduchý TLDR: Přispívání k ekonomice umělé inteligence na úrovni infrastruktury funguje pouze s rozsahem, nebo se některé připojují k napájení/prostoru. Inferenční infrastruktura je komoditizována a výtěžek byl komprimován. Pořád se snažím najít způsob, jak to rozkrájet na kostičky, ale mám pocit, že tu prostě žádnou alfu nenajdete. Z technologického hlediska je to všechno důsledek způsobu, jakým Inference historicky fungovala dnes. Potřebujete výpočetní hustotu. Vysoká propustnost sběrnice, vysoká VRAM atd. Swarm Inference mění pravidla hry, protože hustota výpočtů již není požadavkem. Výše uvedené CAPEX a COGS jsou důsledkem nutnosti výpočetní hustoty. Ale pokud nepotřebujete výpočetní hustotu, pak nepotřebujete ani datová centra. Jinak řečeno, jednotliví poskytovatelé infrastruktury nemusí překonat překážku škálování, aby se mohli zúčastnit. A pokud k účasti nepotřebujete minimální rozsah, pak možná i jednotlivý dům může přispět k umělé inteligenci výnosy, které skutečně dávají smysl. To je důvod, proč Swarm Inference mění pravidla hry. Je to inovace, která mění to, kde lze alfu najít. Gratulujeme týmu ve Fortytwo k provedení změny paradigmatu.