Teile ein interessantes, kürzlich geführtes Gespräch über die Auswirkungen von KI auf die Wirtschaft. KI wurde mit verschiedenen historischen Präzedenzfällen verglichen: Elektrizität, industrielle Revolution usw. Ich denke, die stärkste Analogie ist die von KI als ein neues Rechenparadigma (Software 2.0), da es bei beiden grundlegend um die Automatisierung der digitalen Informationsverarbeitung geht. Wenn du die Auswirkungen des Rechnens auf den Arbeitsmarkt in den ~1980er Jahren vorhersagen würdest, wäre das am stärksten prädiktive Merkmal einer Aufgabe/eines Jobs, inwieweit der Algorithmus dafür festgelegt ist, d.h. ob du Informationen nur mechanisch gemäß festgelegten, leicht zu spezifizierenden Regeln (z.B. Tippen, Buchhaltung, menschliche Rechner usw.) transformierst? Damals war dies die Klasse von Programmen, die die Rechenkapazität dieser Ära uns erlaubte zu schreiben (von Hand, manuell). Mit KI sind wir jetzt in der Lage, neue Programme zu schreiben, die wir zuvor nie von Hand hätten schreiben können. Wir tun dies, indem wir Ziele spezifizieren (z.B. Klassifikationsgenauigkeit, Belohnungsfunktionen), und wir durchsuchen den Programmraum mittels Gradientenabstieg, um neuronale Netze zu finden, die gut gegen dieses Ziel funktionieren. Dies ist mein Software 2.0 Blogbeitrag von vor einiger Zeit. In diesem neuen Programmierparadigma ist dann das neue am stärksten prädiktive Merkmal, auf das man achten sollte, die Überprüfbarkeit. Wenn eine Aufgabe/ein Job überprüfbar ist, dann kann er direkt oder über verstärkendes Lernen optimiert werden, und ein neuronales Netz kann trainiert werden, um extrem gut zu funktionieren. Es geht darum, inwieweit eine KI etwas "üben" kann. Die Umgebung muss zurücksetzbar sein (du kannst einen neuen Versuch starten), effizient (es können viele Versuche unternommen werden) und belohnbar (es gibt einen automatisierten Prozess, um jeden spezifischen Versuch zu belohnen, der unternommen wurde). Je mehr eine Aufgabe/ein Job überprüfbar ist, desto mehr ist sie in diesem neuen Programmierparadigma für die Automatisierung geeignet. Wenn sie nicht überprüfbar ist, muss sie aus dem neuronalen Netz-Magie der Verallgemeinerung herausfallen, Daumen gedrückt, oder über schwächere Mittel wie Nachahmung. Das treibt die "gezackte" Grenze des Fortschritts in LLMs voran. Aufgaben, die überprüfbar sind, machen schnell Fortschritte, möglicherweise sogar über die Fähigkeiten von Top-Experten hinaus (z.B. Mathematik, Code, Zeit, die mit dem Ansehen von Videos verbracht wird, alles, was wie Rätsel mit richtigen Antworten aussieht), während viele andere im Vergleich zurückbleiben (kreative, strategische Aufgaben, die reales Wissen, Zustand, Kontext und gesunden Menschenverstand kombinieren). Software 1.0 automatisiert leicht, was du spezifizieren kannst. Software 2.0 automatisiert leicht, was du überprüfen kannst.