熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
Anthropic 和 OpenAI 都在對於在三年內自動化科學發表大膽的聲明。
我獨立的評估是這些時間表過於激進 - 但在 4 到 20 年內是可能的(90%CI)。
我們應該注意這些聲明。如果他們是對的呢?


2025年10月30日
昨天我們進行了一次直播。簡而言之:
我們設定了內部目標,希望在2026年9月之前擁有一個自動化的AI研究實習生,運行在數十萬個GPU上,並在2028年3月之前擁有一個真正的自動化AI研究者。我們可能會完全失敗於這個目標,但考慮到其潛在的重大影響,我們認為公開透明是符合公共利益的。
我們有一個依賴於五個層次的安全策略:價值對齊、目標對齊、可靠性、對抗性穩健性和系統安全。思維鏈的忠實性是我們特別感興趣的一個工具,但它有些脆弱,需要劃定邊界和清晰的抽象。
在產品方面,我們正試圖朝著一個真正的平台邁進,讓人們和公司在我們的產品上構建,並捕捉大部分價值。今天,人們可以在我們的API和ChatGPT應用上進行構建;最終,我們希望提供一個AI雲,能夠支持大型企業。
我們目前已承諾約30吉瓦的計算能力,總擁有成本在多年內約為1.4萬億美元。考慮到我們對模型能力增長和收入增長的預期,我們對此感到滿意。我們希望能做得更多——我們希望建立一個AI工廠,每週能生產1吉瓦的新產能,並且相對於今天的成本大幅降低——但這需要對未來模型、收入和技術/金融創新有更多的信心。
我們的新結構比舊結構簡單得多。我們有一個名為OpenAI Foundation的非營利組織,負責管理一個名為OpenAI Group的公共利益公司。該基金會最初擁有PBC的26%股份,但如果PBC表現良好,隨著時間的推移可以通過認股權證增加股份。PBC可以吸引實現使命所需的資源。
我們的使命,無論是對於我們的非營利組織還是PBC,始終如一:確保人工通用智能造福全人類。
該非營利組織最初承諾投入250億美元用於健康和治療疾病,以及AI韌性(所有能幫助社會成功過渡到後AGI世界的事物,包括技術安全以及經濟影響、網絡安全等)。該非營利組織現在能夠相對快速地實際部署資本,這與之前不同。
在2026年,我們預期我們的AI系統可能能夠進行小的發現;到2028年,我們可能會看到重大的發現。這是一個非常重要的事情;我們認為科學以及讓我們廣泛分發科學成果的機構,是提高生活質量的最重要方式。
@METR_Evals 發現了一個 AI 軟體能力的趨勢,該能力每 7 個月翻倍。這成功預測了 o3 和 GPT-5。
目前的 AI 可以完成約 2 小時的人類工作。如果趨勢持續到 2027 年底,預計將能夠進行多天的自主工作。

31.94K
熱門
排行
收藏

