Julian Schrittwieser (antropisk): - Diskussionen om AI-bubblan på X är "väldigt skild" från vad som händer i gränslabben. "I gränslaboratorierna ser vi ingen avmattning av framstegen." - AI kommer att ha en "massiv ekonomisk inverkan". Intäktsprognoserna för OpenAI, Anthropic och Google är faktiskt "ganska konservativa". - Om man extrapolerar från saker som METR-data kommer modellerna nästa år att kunna arbeta på egen hand med en hel rad uppgifter. Uppgiftens längd är viktig, eftersom den låser upp möjligheten för en människa att övervaka ett team av modeller, som var och en arbetar autonomt i timmar i taget (jämfört med att behöva prata med en agent var 10:e minut för att ge den feedback). - "Extremt troligt" att den nuvarande metoden för att träna AI-modeller (pre-training, RL) kommer att producera ett system som kan prestera på ungefär mänsklig nivå i princip alla uppgifter vi bryr oss om produktivitetsmässigt. - Om Move 37: "Jag tycker att det är ganska tydligt att de här modellerna kan göra nya saker." AlphaCode och AlphaTensor "bevisade att man kan upptäcka nya program och algoritmer". AI "upptäcker absolut nya saker" redan, och "vi rör oss bara uppåt på skalan för hur imponerande, hur intressanta de saker som den kan upptäcka på egen hand." - "Mycket troligt" att vi någon gång nästa år kommer att ha några upptäckter som folk är eniga om är superimponerande. - AI kommer på egen hand att kunna göra ett genombrott som är värt ett Nobelpris 2027 eller 2028. - Om AI:s förmåga att påskynda utvecklingen av AI: Ett mycket vanligt problem inom många vetenskapliga områden är att det blir svårare och svårare att göra framsteg i takt med att området utvecklas (för 100 år sedan kunde en enda forskare upptäcka det första antibiotikumet av en slump, medan det nu krävs miljarder dollar för att upptäcka ett nytt läkemedel). Samma sak kan hända med AI-forskningen – även om AI kommer att göra forskningen om ny AI mer produktiv är det inte säkert att det blir någon explosion på grund av att nya framsteg blir allt svårare att hitta.