我特別好奇想問 @karpathy 為什麼自駕車從驚人的示範試乘到實際部署花了十年以上的時間。Andrej 在特斯拉領導 AI 五年。 我真的想知道這些摩擦是否應該延長我們的 AGI 時間表，或者它們是否只是自駕車的特例。 駕駛的失敗成本非常高。人類的駕駛者出奇地可靠 - 我們每 400,000 英里/7 年才會發生一次嚴重事故。而自駕車需要達到或超過這一安全標準才能被部署。 但大多數領域都是這樣嗎？在面試之前，我覺得幾乎每個我們想要將 AGI 應用的領域都有更低的失敗成本。如果完全自主的軟體工程師不被允許犯錯 7 年，那麼部署的確會非常緩慢。 Andrej 提出了一個我之前沒聽過的有趣觀點：與自駕相比，軟體工程的失敗成本更高（且可能無上限）： > 如果你在編寫實際的生產級代碼，任何錯誤都可能導致安全漏洞。數億人的社會安全號碼可能會被洩露。 > 在自駕中，如果事情出錯，你可能會受傷。還有更糟的結果。但在軟體中，事情可能變得幾乎無法想像的糟糕。 > 在某些方面，軟體工程是一個比自駕更難的問題。自駕只是人們所做的數千件事情中的一個。這幾乎就像是一個單一的垂直領域。而當我們談論一般的軟體工程時，面臨的範圍更廣。 還有可能的另一個原因，為什麼 LLM -> 廣泛部署的 AGI 轉變可能會發生得更快：LLMs 為我們提供了感知、表徵和常識（以處理分佈外的例子），而這些必須從零開始為自駕車塑造。我問了 Andrej 關於這一點： > 我不知道我們能免費獲得多少。LLMs 仍然相當容易出錯，並且有很多空白需要填補。我不認為我們能完全從盒子裡獲得神奇的泛化。 > 我想回到的另一個方面是，自駕車仍然遠未完成。部署相當有限。即使是 Waymo 也只有很少的車輛。他們建造了一些生活在未來的東西。他們不得不縮回未來，但他們不得不使其變得不經濟。 > 此外，當你看到這些車而沒有駕駛者時，實際上有比你想像的更多的人在環路中。在某種意義上，我們並沒有真正移除那個人，而是把他們移到了你看不見的地方。