Estou muito deprimido com a ideia de rodar modelos locais em smartphones. O OSS 20b é um modelo que você mal consegue rodar em um bom laptop, mas ocupa o 93º lugar no LMArena. Os usuários podem acessar o GPT-5-Chat gratuitamente por meio do aplicativo ChatGPT, que ocupa o 10º lugar. Levaria pelo menos alguns anos de melhorias algorítmicas e de hardware para obter um modelo semelhante ao OSS 20b em execução em um telefone e, a essa altura, os modelos de nuvem estarão ainda mais à frente. Como usuário, sou forçado a gastar mais dinheiro em um telefone mais caro e sacrificar a vida útil da bateria apenas para obter uma resposta desleixada de "resumir este e-mail" de um modelo local 3b. Os telefones Pixel do Google já estão sendo vítimas disso. Por US $ 200, você pode pagar por um 'telefone AI', você pode obter mais de 10k + (!) Conversas ChatGPT a preços GPT-5-Chat API. São 5 anos de conversas 5x por dia. A privacidade também não é uma preocupação real - as pessoas já usam serviços em nuvem regularmente para coisas muito mais confidenciais do que conversas do ChatGPT (por exemplo, Gmail, Google Fotos). O sonho da Apple de acelerar os ciclos de renovação porque as pessoas gostariam de obter um modelo 4b em vez de um modelo 3b com o iPhone mais recente não é realista, desde que você possa ter acesso a um modelo de 1 trilhão na nuvem gratuitamente.