Trendaavat aiheet
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
You Jiacheng
Mikä kaunis teoria!
1.10. klo 09.02
Jopa täyden erän gradienteilla DL-optimoijat uhmaavat klassista optimointiteoriaa, koska ne toimivat vakauden *reunalla.*
@alex_damian_:n avulla esittelemme "keskusvirrat": teoreettisen työkalun tämän dynamiikan analysointiin, joka tekee tarkkoja kvantitatiivisia ennusteita todellisista NN:istä.
69,15K
BTW, He julkaisivat syväsukelluksen MLA:n FP8 KVCacheen.
joten itse asiassa ≈1/5 verrattuna FP8:n tiheään MLA:han.
29.9.2025
Kuten odotettiin, NSA ei ole yhteensopiva MLA:n kanssa, joten DeepSeek valitsi toisen menetelmän: käytä indeksoijana pienempää (d=128) huomiota (ilman arvoa).
Asymptoottinen kustannussuhde = 128/576.
Lisäksi indeksoija käyttää FP8:aa, kun taas pää-MLA käyttää 16-bittistä, joten = 64/576 = 1/9.
23,69K
Johtavat
Rankkaus
Suosikit