Anthropic 和 OpenAI 都在對於在三年內自動化科學發表大膽的聲明。 我獨立的評估是這些時間表過於激進 - 但在 4 到 20 年內是可能的(90%CI)。 我們應該注意這些聲明。如果他們是對的呢?
Sam Altman
Sam Altman2025年10月30日
昨天我們進行了一次直播。簡而言之: 我們設定了內部目標,希望在2026年9月之前擁有一個自動化的AI研究實習生,運行在數十萬個GPU上,並在2028年3月之前擁有一個真正的自動化AI研究者。我們可能會完全失敗於這個目標,但考慮到其潛在的重大影響,我們認為公開透明是符合公共利益的。 我們有一個依賴於五個層次的安全策略:價值對齊、目標對齊、可靠性、對抗性穩健性和系統安全。思維鏈的忠實性是我們特別感興趣的一個工具,但它有些脆弱,需要劃定邊界和清晰的抽象。 在產品方面,我們正試圖朝著一個真正的平台邁進,讓人們和公司在我們的產品上構建,並捕捉大部分價值。今天,人們可以在我們的API和ChatGPT應用上進行構建;最終,我們希望提供一個AI雲,能夠支持大型企業。 我們目前已承諾約30吉瓦的計算能力,總擁有成本在多年內約為1.4萬億美元。考慮到我們對模型能力增長和收入增長的預期,我們對此感到滿意。我們希望能做得更多——我們希望建立一個AI工廠,每週能生產1吉瓦的新產能,並且相對於今天的成本大幅降低——但這需要對未來模型、收入和技術/金融創新有更多的信心。 我們的新結構比舊結構簡單得多。我們有一個名為OpenAI Foundation的非營利組織,負責管理一個名為OpenAI Group的公共利益公司。該基金會最初擁有PBC的26%股份,但如果PBC表現良好,隨著時間的推移可以通過認股權證增加股份。PBC可以吸引實現使命所需的資源。 我們的使命,無論是對於我們的非營利組織還是PBC,始終如一:確保人工通用智能造福全人類。 該非營利組織最初承諾投入250億美元用於健康和治療疾病,以及AI韌性(所有能幫助社會成功過渡到後AGI世界的事物,包括技術安全以及經濟影響、網絡安全等)。該非營利組織現在能夠相對快速地實際部署資本,這與之前不同。 在2026年,我們預期我們的AI系統可能能夠進行小的發現;到2028年,我們可能會看到重大的發現。這是一個非常重要的事情;我們認為科學以及讓我們廣泛分發科學成果的機構,是提高生活質量的最重要方式。
@METR_Evals 發現了一個 AI 軟體能力的趨勢,該能力每 7 個月翻倍。這成功預測了 o3 和 GPT-5。 目前的 AI 可以完成約 2 小時的人類工作。如果趨勢持續到 2027 年底,預計將能夠進行多天的自主工作。
31.94K