@karpathy 的另一个重要见解,指出了 AI 可验证性的重要性 "我认为最强的类比是将 AI 视为一种新的计算范式(软件 2.0) ... 软件 1.0 容易自动化你可以指定的内容。软件 2.0 容易自动化你可以验证的内容。 ... 在这个新的编程范式中,最值得关注的新预测特征是可验证性。 如果一个任务/工作是可验证的,那么它可以直接或通过强化学习进行优化,并且神经网络可以被训练得非常好。" 在这种框架下,可验证性更多地围绕训练/优化的上下文 - 评估 AI 输出是否正确 + 由于此原因实现更好的自动化。 AI + 加密货币中的可验证性更侧重于执行上下文。 - 我们能否验证输入、模型和输出是正确的,并且没有被篡改(可验证推理) - 世界上任何人能否重新执行这个推理,并在今天、明天和一年后得到相同的结果(确定性推理) - 我们能否验证运行这个代理的确切代码(可验证运行时) - 我们能否验证只有该代理可以访问其钱包,并且有能力进行交易(可验证运行时) - 我们能否验证该代理的声誉(ERC-8004)