Absolutnie zafascynowany tym, jak racjonaliści z Berkeley pozostają mocno zaangażowani w ostateczną prymat symbolicznej AI, pomimo trzech dekad dowodów na przeciwną tezę.

Twierdzenie: Maksymalny możliwy czas trwania osobliwości obliczeniowej wynosi 470 lat. Dowód: Szacuje się, że zdolność FLOPs wszystkich komputerów, które istniały w roku 1986, wynosiła maksymalnie 4.5e14 (Hilbert i in. 2011). Na podstawie publicznych przychodów Nvidia i specyfikacji GPU, ta zdolność wzrosła do co najmniej 1e22 FLOPs w 2025 roku. Ta różnica implikuje średni wskaźnik wzrostu na poziomie 55% rocznie od 1986 roku. Zauważmy teraz, że wszechświat fizyczny może wspierać maksymalnie 10^104 FLOPs (Lloyd 2000). Dlatego, nawet jeśli pozwolimy na odkrycie podróży szybszej niż światło, osobliwość obliczeniowa — tzn. historyczny okres podwyższonej społecznej i technologicznej nieprzewidywalności napędzany szybkim wzrostem globalnej zdolności obliczeniowej — nie może trwać dłużej niż (2025 - 1986) + (104-22)/log_10(1.55) ~= 470 lat. Bibliografia: S. Lloyd, „Ostateczne fizyczne ograniczenia obliczeń,” *arXiv preprint quant-ph/9908043*, 1999, doi:10.48550/arXiv.quant-ph/9908043. M. Hilbert i P. López, „Technologiczna zdolność świata do przechowywania, komunikowania i obliczania informacji,” *Science*, vol. 332, nr 6025, s. 60–65, kwi. 2011, doi:10.1126/science.1200970.

Nowy rekord prędkości treningu CIFAR-10: 94% w 1,99 sekundy na jednym A100 Poprzedni rekord: 2,59 sekundy (10 listopada 2024) Nowy rekordzista: Silnik odkryć algorytmicznych opracowany przez @hivergeai Dziennik zmian: - Muon: Wektoryzacja iteracji NS i zmniejszenie częstotliwości kroku 'normalizacji wag' 1/3