Ich bin sehr skeptisch gegenüber der Idee, lokale Modelle auf Smartphones auszuführen. OSS 20b ist ein Modell, das man kaum auf einem guten Laptop betreiben kann, und dennoch belegt es den 93. Platz auf LMArena. Benutzer können GPT-5-Chat kostenlos über die ChatGPT-App nutzen, die den 10. Platz belegt. Es würde mindestens ein paar Jahre an algorithmischen und hardwaretechnischen Verbesserungen benötigen, um ein Modell wie OSS 20b auf einem Telefon zum Laufen zu bringen, und bis dahin werden Cloud-Modelle noch weiter voraus sein. Als Benutzer bin ich gezwungen, mehr Geld für ein teureres Telefon auszugeben und die Akkulaufzeit zu opfern, nur um eine schlampige "fasse diese E-Mail zusammen"-Antwort von einem 3b lokalen Modell zu erhalten. Googles Pixel-Telefone sind bereits Opfer davon. Für 200 $ könnte man für ein 'AI-Telefon' bezahlen, mit dem man über 10k+ (!) ChatGPT-Gespräche zu den Preisen der GPT-5-Chat-API führen kann. Das sind 5 Jahre mit 5x Gesprächen pro Tag. Datenschutz ist auch kein echtes Anliegen - die Leute nutzen bereits regelmäßig Cloud-Dienste für weit sensiblere Dinge als ChatGPT-Gespräche (zum Beispiel Gmail, Google Fotos). Apples Traum, die Erneuerungszyklen zu beschleunigen, weil die Leute ein 4b-Modell anstelle eines 3b-Modells mit dem neuesten iPhone haben möchten, ist nicht realistisch, solange man Zugang zu einem 1 Billionen-Modell in der Cloud kostenlos erhält.