我對在智能手機上運行本地模型的想法非常失望。OSS 20b是一個幾乎無法在良好的筆記本電腦上運行的模型,但它在LMArena中排名第93。 用戶可以通過排名第10的ChatGPT應用免費訪問GPT-5-Chat。要在手機上運行類似OSS 20b的模型,至少需要幾年的算法和硬件改進,而到那時雲模型將會更進一步。 作為一名用戶,我被迫花更多的錢購買更昂貴的手機,並犧牲電池壽命,只為了從一個3b的本地模型獲得一個草率的「總結這封電子郵件」的回應。谷歌的Pixel手機已經成為這種情況的受害者。 花200美元,你可能會為一部「AI手機」支付,這樣你可以以GPT-5-Chat API的價格獲得超過10,000次的ChatGPT對話。這相當於每天5次對話的5年量。隱私也不是一個真正的問題——人們已經定期使用雲服務處理比ChatGPT對話更敏感的事情(例如,Gmail,Google Photos)。 蘋果希望加速更新周期的夢想並不現實,因為人們會想要獲得最新iPhone的4b模型,而不是3b模型,只要你可以免費訪問雲中的1萬億模型。