Trendaavat aiheet
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

prinz
Älä pelkää suuruutta
Julian Schrittwieser (antropinen):
- Keskustelu tekoälykuplasta X:ssä on "hyvin kaukana" siitä, mitä tapahtuu rajalaboratorioissa. "Eturintaman laboratorioissa emme näe edistymisen hidastumista."
- Tekoälyllä on "valtava taloudellinen vaikutus". OpenAI:n, Anthropicin ja Googlen tuloennusteet ovat itse asiassa "melko konservatiivisia".
- Ekstrapoloimalla esimerkiksi METR-tiedoista mallit pystyvät ensi vuonna työskentelemään itsenäisesti monenlaisissa tehtävissä. Tehtävän pituus on tärkeä, koska se avaa ihmisen kyvyn valvoa malliryhmää, joista jokainen työskentelee itsenäisesti tuntikausia kerrallaan (verrattuna siihen, että hänen pitäisi puhua agentin kanssa 10 minuutin välein antaakseen sille palautetta).
- "Erittäin todennäköistä", että nykyinen lähestymistapa tekoälymallien kouluttamiseen (esikoulutus, RL) tuottaa järjestelmän, joka pystyy suoriutumaan suunnilleen ihmisen tasolla periaatteessa kaikissa tuottavuuden kannalta tärkeissä tehtävissä.
- Liikkeestä 37: "Mielestäni on melko selvää, että nämä mallit voivat tehdä uusia asioita." AlphaCode ja AlphaTensor "osoittivat, että voit löytää uusia ohjelmia ja algoritmeja". Tekoäly "löytää jo ehdottomasti uusia asioita", ja "olemme vain siirtymässä ylöspäin asteikolla sen suhteen, kuinka vaikuttavia ja mielenkiintoisia ovat ne asiat, jotka se pystyy löytämään itse".
- "Erittäin todennäköistä", että joskus ensi vuonna saamme löytöjä, jotka ihmiset ovat yksimielisesti yhtä mieltä erittäin vaikuttavista.
- Tekoäly pystyy yksinään tekemään Nobel-palkinnon arvoisen läpimurron vuonna 2027 tai 2028.
- Tekoälyn kyvystä nopeuttaa tekoälyn kehitystä: Hyvin yleinen ongelma monilla tieteenaloilla on, että edistyminen alan edetessä on yhä vaikeampaa (eli 100 vuotta sitten yksi tiedemies saattoi löytää ensimmäisen antibiootin vahingossa, kun taas nyt uuden lääkkeen löytäminen vaatii miljardeja dollareita). Sama voi tapahtua tekoälytutkimuksessa - vaikka tekoäly tekee uuden tekoälyn tutkimuksesta tuottavampaa, räjähdysmäistä ei välttämättä tapahdu, koska uusia edistysaskeleita on yhä vaikeampi löytää.

Matt Turck24.10.2025
Failing to Understand the Exponential, Again?
My conversation with @Mononofu - Julian Schrittwieser (@AnthropicAI, AlphaGo Zero, MuZero) - on Move 37, Scaling RL, Nobel Prize for AI, and the AI frontier:
00:00 - Cold open: “We’re not seeing any slowdown.”
00:32 - Intro — Meet Julian
01:09 - The “exponential” from inside frontier labs
04:46 - 2026–2027: agents that work a full day; expert-level breadth
08:58 - Benchmarks vs reality: long-horizon work, GDP-Val, user value
10:26 - Move 37 — what actually happened and why it mattered
13:55 - Novel science: AlphaCode/AlphaTensor → when does AI earn a Nobel?
16:25 - Discontinuity vs smooth progress (and warning signs)
19:08 - Does pre-training + RL get us there? (AGI debates aside)
20:55 - Sutton’s “RL from scratch”? Julian’s take
23:03 - Julian’s path: Google → DeepMind → Anthropic
26:45 - AlphaGo (learn + search) in plain English
30:16 - AlphaGo Zero (no human data)
31:00 - AlphaZero (one algorithm: Go, chess, shogi)
31:46 - MuZero (planning with a learned world model)
33:23 -Lessons for today’s agents: search + learning at scale
34:57 - Do LLMs already have implicit world models?
39:02 - Why RL on LLMs took time (stability, feedback loops)
41:43 - Compute & scaling for RL — what we see so far
42:35 - Rewards frontier: human prefs, rubrics, RLVR, process rewards
44:36 - RL training data & the “flywheel” (and why quality matters)
48:02 - RL & Agents 101 — why RL unlocks robustness
50:51 - Should builders use RL-as-a-service? Or just tools + prompts?
52:18 - What’s missing for dependable agents (capability vs engineering)
53:51 - Evals & Goodhart — internal vs external benchmarks
57:35 - Mechanistic interpretability & “Golden Gate Claude”
1:00:03 - Safety & alignment at Anthropic — how it shows up in practice
1:03:48 - Jobs: human–AI complementarity (comparative advantage)
1:06:33 - Inequality, policy, and the case for 10× productivity → abundance
1:09:24 - Closing thoughts
203,11K
Johtavat
Rankkaus
Suosikit



