Ще один чудовий висновок від @karpathy, який підкреслює важливість перевірки ШІ «Я вважаю, що найсильніша аналогія — це ШІ як нова обчислювальна парадигма (Software 2.0) ... Software 1.0 легко автоматизує те, що ви можете вказати. Software 2.0 легко автоматизує те, що ви можете перевірити. ... У цій новій парадигмі програмування найбільшою передбачуваною особливістю є перевіреність. Якщо завдання/завдання можна перевірити, то його можна оптимізувати безпосередньо або за допомогою навчання за допомогою підкріплення, і нейронну мережу можна навчити працювати надзвичайно ефективно.» Перевіреність у цьому фреймінгу більше залежить від контексту навчання/оптимізації — оцінки правильності результату ШІ + забезпечення кращої автоматизації завдяки цьому. Перевірковість у ШІ + крипто більше зосереджена на контексті виконання. - Чи можемо ми перевірити, що вхід, модель і вихід правильні і не були змінені (перевірене виведення) - Чи може хтось у світі повторити цей висновок і отримати той самий результат сьогодні, завтра і через рік (детерміноване виведення)? - Чи можемо ми перевірити точний код, що виконує цей агент (перевірене середовище виконання) - Чи можемо ми перевірити, що лише агент має доступ до свого гаманця та можливість здійснювати транзакції з нього (перевірений час виконання) - Чи можемо ми перевірити репутацію цього агента (ERC-8004)