Alcuni tentativi timidi e tiepidi sul futuro della politica dell'IA: Fino ad oggi, la maggior parte delle persone nel settore si è concentrata sui modelli - cioè sul lato R&D. Si assume implicitamente che la cosa pericolosa/trasformativa sia il modello di base stesso, piuttosto che come è configurato, vincolato e integrato nei sistemi reali; quindi il modello diventa l'"oggetto" rilevante di regolamentazione o supervisione. Questo potrebbe essere vero o meno, e sono contento che ci sia molto pensiero lungo queste linee. Ma è altrettanto plausibile che ciò che finisce per contare altrettanto sia il sistema che sfrutta il modello attraverso impalcature, strumenti, sub-agenti e altro - ciò che le persone di solito si riferiscono come il lato "implementazione" delle cose. Questi sistemi/servizi appariranno molto diversi a seconda degli utenti, dei mercati e dei settori rilevanti. Questo potrebbe significare alcune cose diverse: In primo luogo, penso che le implementazioni contino molto di più di quanto sia tipicamente implicato. Questo è stato in parte interiorizzato nei dibattiti sul bias, dove è diventato ovvio che non puoi ottenere un modello che affronti simultaneamente tutti i bias che si possono pensare, e invece il miglior punto di intervento è all'implementazione date le leggi e i contesti locali. La visione centrata sul modello a volte incoraggia uno stile di ragionamento che è distaccato dal contesto istituzionale e specifico del dominio in cui i rischi si materializzano effettivamente. In secondo luogo, per battere la Cina o curare malattie o ottenere alti livelli di crescita, è inutile avere un modello super potente che giace lì nel tuo seminterrato. Hai effettivamente bisogno della tecnologia implementata su tutta la linea. E la mia ipotesi è che questo sarà piuttosto difficile, per le stesse ragioni per cui molte economie occidentali faticano a costruire qualsiasi cosa (abitazioni, energia, infrastrutture, medtech, finanza al consumo, ecc.). Il "lato implementazione" è paralizzato dalle molte leggi non-IA legacy che rallenteranno l'adozione utile. Considera come Londra abbia ancora conducenti di metropolitana nonostante la "capacità" sia automatizzabile. Se vuoi che l'AGI aiuti le società a prosperare, allora dovrai affrontare molti problemi politici che non riguardano l'IA. In terzo luogo, se le implementazioni contano di più, allora l'ossessione recente per i modelli di IA "sovrani" è probabilmente fuorviante. La forza economica deriva dall'implementare l'IA in modo efficace nella tua economia, non dal possedere un modello di base. Questo richiede sia di risolvere le barriere all'implementazione (come sopra) sia di utilizzare pragmaticamente i migliori modelli disponibili indipendentemente dall'origine. Più in generale, la stessa logica si applica oltre i modelli stessi. Cercare di riportare tutto localmente, sia attraverso politiche industriali che protezionismo, ignora le realtà economiche di base. Il Belgio beneficia di più dall'accesso a milioni di libri piuttosto che dal possedere tipografie; similmente, le economie avanzate guadagnano di più da una specializzazione intelligente e dal commercio con gli alleati piuttosto che da costosi tentativi di autarchia. Anche se l'IA è una tecnologia anomala, i fondamenti di come le economie organizzano la produzione complessa non sono cambiati. Se questo è giusto, gran parte del lavoro politico che ci attende consiste nel ridurre l'attrito nell'implementazione, facilitare il commercio e costruire capacità settoriali e istituzionali: sempre-è-stato-atronaut.gif!