Další skvělý postřeh od @karpathy, který zdůrazňuje důležitost ověřitelnosti AI "Myslím, že nejsilnější analogií je AI jako nový výpočetní paradigmat (Software 2.0) ... Software 1.0 snadno automatizuje to, co si můžete specifikovat. Software 2.0 snadno automatizuje to, co můžete ověřit. ... V tomto novém programovacím paradigmatu je tedy nejprediktivnější vlastností ověřitelnost. Pokud je úkol/práce ověřitelná, pak je optimalizovatelná přímo nebo pomocí posilovaného učení a neuronová síť může být trénována tak, aby fungovala velmi dobře." Ověřitelnost v tomto rámci se více točí kolem tréninkového / optimalizačního kontextu – tedy vyhodnocení, zda je výstup AI správný + umožnění lepší automatizace díky tomu. Ověřitelnost v AI + kryptoměnách se více zaměřuje na kontext provádění. - Můžeme ověřit, že vstup, model a výstup jsou správné a nebyly upraveny (ověřitelná inference) - Může kdokoli na světě tuto inferenci znovu provést a získat stejný výsledek dnes, zítra a za 1 rok (deterministická inference) - Můžeme ověřit přesný kód, který tohoto agenta spouští (ověřitelné runtime) - Můžeme ověřit, že pouze agent má přístup ke své peněžence a možnost z ní provádět transakce (ověřitelné runtime)? - Můžeme ověřit pověst tohoto agenta (ERC-8004)