Sono molto scettico riguardo all'idea di eseguire modelli locali sugli smartphone. OSS 20b è un modello che puoi a malapena eseguire su un buon laptop, eppure si classifica al 93° posto su LMArena. Gli utenti possono accedere a GPT-5-Chat gratuitamente tramite l'app ChatGPT, che si classifica al 10° posto. Ci vorrebbero almeno un paio d'anni di miglioramenti algoritmici e hardware per far funzionare un modello simile a OSS 20b su un telefono, e nel frattempo i modelli cloud saranno ancora più avanti. Come utente, sono costretto a spendere più soldi per un telefono più costoso e sacrificare la durata della batteria solo per ricevere una risposta imprecisa "riassumi questa email" da un modello locale da 3b. I telefoni Pixel di Google stanno già subendo questa sorte. Per 200 dollari potresti pagare per un 'telefono AI' e ottenere oltre 10k+ (!) conversazioni ChatGPT ai prezzi dell'API GPT-5-Chat. Sono 5 anni di 5 conversazioni al giorno. La privacy non è nemmeno una vera preoccupazione: le persone usano già servizi cloud regolarmente per cose molto più sensibili delle conversazioni ChatGPT (ad esempio, Gmail, Google Foto). Il sogno di Apple di accelerare i cicli di rinnovo perché le persone vorrebbero ottenere un modello da 4b invece di un modello da 3b con l'ultimo iPhone non è realistico, finché puoi accedere a un modello da 1 trilione nel cloud gratuitamente.