Много людей спрашивали меня о письме "остановить ИИ", которое было отправлено вчера, и @deanwball, возможно, лучше всего его прокомментировал. Скажем прямо: когда люди говорят, что мы должны "приостановить ИИ", они имеют в виду (a) все основные страны должны согласиться и выполнить свои обязательства (b) вероятно, потребуется некий глобальный орган для обеспечения соблюдения этого ("позвольте мне проверить вашу модель и дата-центры, чтобы убедиться, что вы сдерживаете свое слово...") Следуя этой логике, вы получите глобальную организацию с почти неограниченной властью, которую люди, желающие остановить ИИ, затем попытаются укомплектовать, или другие страны попытаются повлиять на нее, чтобы она имела власть над суверенитетом США.