Sangat penasaran untuk bertanya kepada @karpathy mengapa mobil swakemudi membutuhkan waktu satu dekade+ dari perjalanan demo yang luar biasa hingga bahkan agak dikerahkan. Andrej memimpin AI di Tesla selama 5 tahun. Saya benar-benar ingin tahu apakah gesekan ini harus memperpanjang garis waktu AGI kami, atau apakah itu khas untuk mengemudi sendiri. Mengemudi memiliki biaya kegagalan yang sangat tinggi. Manusia adalah pengemudi yang sangat andal - kami mengalami kecelakaan serius setiap 400.000 mil / 7 tahun. Dan mobil swakemudi harus mencocokkan atau mengalahkan profil keselamatan ini sebelum dapat dikerahkan. Tetapi apakah sebagian besar domain seperti ini? Sebelum wawancara, menurut saya hampir setiap domain yang ingin kami masukkan ke AGI memiliki biaya kegagalan yang jauh lebih rendah. Jika insinyur perangkat lunak otonom sepenuhnya tidak diizinkan membuat kesalahan selama 7 tahun, penerapan memang akan sangat lambat. Andrej membuat poin menarik yang belum pernah saya dengar sebelumnya: dibandingkan dengan mengemudi sendiri, rekayasa perangkat lunak memiliki biaya kegagalan yang lebih tinggi (dan berpotensi tidak terbatas): > Jika Anda menulis kode tingkat produksi yang sebenarnya, segala jenis kesalahan dapat menyebabkan kerentanan keamanan. Ratusan juta nomor Jaminan Sosial pribadi orang bisa bocor. > Dalam mengemudi sendiri, jika terjadi kesalahan, Anda mungkin terluka. Ada hasil yang lebih buruk. Tetapi dalam perangkat lunak, hampir tidak terbatas betapa mengerikannya sesuatu. > Dalam beberapa hal, rekayasa perangkat lunak adalah masalah yang jauh lebih sulit [daripada mengemudi sendiri]. Mengemudi sendiri hanyalah salah satu dari ribuan hal yang dilakukan orang. Ini hampir seperti satu vertikal. Sedangkan ketika kita berbicara tentang rekayasa perangkat lunak umum, ada lebih banyak luas permukaan. Ada potensi alasan lain mengapa transisi AGI LLM -> yang digunakan secara luas mungkin terjadi jauh lebih cepat: LLM memberi kita persepsi, representasi, dan akal sehat (untuk menangani contoh di luar distribusi) secara gratis, sedangkan ini harus dibentuk dari awal untuk mobil swakemudi. Saya bertanya kepada Andrej tentang ini: > saya tidak tahu berapa banyak yang kami dapatkan secara gratis. LLM masih cukup salah dan mereka memiliki banyak celah yang masih perlu diisi. Saya tidak berpikir bahwa kita mendapatkan generalisasi ajaib sepenuhnya di luar kotak. > Aspek lain yang ingin saya kembali adalah bahwa mobil self-driving masih belum selesai. Penerapan cukup minim. Bahkan Waymo memiliki mobil yang sangat sedikit. Mereka telah membangun sesuatu yang hidup di masa depan. Mereka harus menarik kembali masa depan, tetapi mereka harus membuatnya tidak ekonomis. > Juga, ketika Anda melihat mobil-mobil ini dan tidak ada yang mengemudi, ada lebih banyak manusia dalam lingkaran daripada yang Anda harapkan. Dalam arti tertentu, kami belum benar-benar menghapus orang tersebut, kami telah memindahkannya ke suatu tempat di mana Anda tidak dapat melihatnya.