热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
Anthropic 和 OpenAI 都在大胆地声称将在三年内实现科学自动化。
我独立的评估是,这些时间表过于激进——但在 4 到 20 年内是可能的(90% 置信区间)。
我们应该关注这些声明。如果他们是对的呢?


2025年10月30日
昨天我们进行了直播。总结:
我们设定了内部目标,希望到2026年9月拥有一个自动化的AI研究实习生,运行在数十万块GPU上,并希望到2028年3月实现真正的自动化AI研究员。我们可能完全无法实现这个目标,但考虑到其潜在的巨大影响,我们认为向公众透明是符合公共利益的。
我们有一个依赖于五个层次的安全策略:价值对齐、目标对齐、可靠性、对抗鲁棒性和系统安全。我们特别期待的一个工具是思维链的忠实性,但它有些脆弱,需要划定边界和明确的抽象。
在产品方面,我们正在努力朝着一个真正的平台发展,让在我们产品基础上构建的人和公司能够捕获大部分价值。今天,人们可以在我们的API和ChatGPT应用上进行构建;最终,我们希望提供一个AI云,能够支持大型企业。
我们目前承诺提供约30吉瓦的计算能力,随着时间推移,总拥有成本约为1.4万亿美元。考虑到我们对模型能力增长和收入增长的预期,我们对此感到满意。我们希望做得更多——我们希望建立一个AI工厂,每周能够生产1吉瓦的新能力,且相较于今天大幅降低成本——但这需要对未来模型、收入以及技术/金融创新有更多信心。
我们的新结构比旧结构简单得多。我们有一个名为OpenAI Foundation的非营利组织,管理一个名为OpenAI Group的公共利益公司。该基金会最初拥有公共利益公司的26%的股份,但如果公共利益公司表现良好,随着时间的推移可以通过认股权证增加股份。公共利益公司可以吸引实现使命所需的资源。
我们的使命,无论是对于我们的非营利组织还是公共利益公司,始终如一:确保人工通用智能造福全人类。
该非营利组织最初承诺投入250亿美元用于健康和治愈疾病,以及AI韧性(所有能够帮助社会成功过渡到后AGI世界的事物,包括技术安全以及经济影响、网络安全等)。该非营利组织现在能够相对快速地部署资金,这与之前不同。
我们预计到2026年,我们的AI系统可能能够进行小规模的新发现;到2028年,我们可能会看到重大的发现。这是一个非常重要的事情;我们认为,科学以及让我们广泛分配科学成果的机构,是提高生活质量的最重要方式。
@METR_Evals 发现了一个关于 AI 软件能力的趋势,即每 7 个月翻倍。这成功预测了 o3 和 GPT-5。
当前的 AI 可以完成大约 2 小时的人类工作。如果趋势持续到 2027 年底,这预计将能够进行多天的自主工作。

31.94K
热门
排行
收藏

