我特别想问@karpathy，为什么自动驾驶汽车从出色的演示骑行到甚至有些部署花了十多年。Andrej在特斯拉领导AI工作五年。 我真的想知道这些摩擦是否应该延长我们的AGI时间表，或者它们是否是自动驾驶特有的。 驾驶的失败成本非常高。人类的驾驶者出奇地可靠——我们每40万英里/7年才会发生一次严重事故。自动驾驶汽车需要达到或超过这个安全标准才能被部署。 但大多数领域都是这样吗？在采访之前，我觉得几乎每个我们想要将AGI应用的领域都有更低的失败成本。如果完全自主的软件工程师在7年内不允许犯错，部署确实会非常缓慢。 Andrej提出了一个我之前没听过的有趣观点：与自动驾驶相比，软件工程的失败成本更高（并且可能没有上限）： > 如果你在编写实际的生产级代码，任何错误都可能导致安全漏洞。数亿人的个人社会安全号码可能会泄露。 > 在自动驾驶中，如果出现问题，你可能会受伤。还有更糟糕的结果。但在软件中，事情可能变得几乎没有界限。 > 在某种程度上，软件工程是一个比自动驾驶更难的问题。自动驾驶只是人们所做的成千上万件事情中的一件。它几乎就像一个单一的垂直领域。而当我们谈论通用软件工程时，涉及的范围更广。 还有可能另一个原因是LLM -> 广泛部署AGI的过渡可能会发生得更快：LLM为我们提供了感知、表示和常识（以处理分布外示例），而这些必须为自动驾驶汽车从零开始塑造。我问Andrej关于这个问题： > 我不知道我们能免费获得多少。LLM仍然相当容易出错，并且有很多空白需要填补。我不认为我们能完全从一开始就获得神奇的泛化。 > 我想回到的另一个方面是，自动驾驶汽车仍然远未完成。部署相当有限。即使是Waymo也只有很少的汽车。他们构建了一个生活在未来的东西。他们不得不收回未来，但他们不得不使其变得不经济。 > 此外，当你看到这些汽车而没有人驾驶时，实际上人机交互比你想象的要多。从某种意义上说，我们并没有真正移除这个人，而是把他们移到了一个你看不见的地方。