Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
You Jiacheng
For en vakker teori!
1. okt., 09:02
Selv med full-batch-gradienter, trosser DL-optimalisatorer klassisk optimaliseringsteori, da de opererer på *kanten av stabilitet.*
Med @alex_damian_ introduserer vi "sentrale strømmer": et teoretisk verktøy for å analysere denne dynamikken som gir nøyaktige kvantitative prediksjoner på reelle NN-er.
60,36K
K-POP, forplikt @basedjensen
29. sep. 2025
Mennesker: roboter erstatter menneskeheten.
Ekte: robotdanseshow på en ledende robotkonferanse uten å bevege en tå.
2,57K
BTW, De ga ut et dypdykk på FP8 KVCache av hoved MLA.
så faktisk ≈1/5 sammenlignet med FP8 tett MLA.
29. sep. 2025
Som forventet er ikke NSA kompatibel med MLA, så DeepSeek valgte en annen metode: bruk en mindre (d=128) oppmerksomhet (uten verdi) som indekserer.
Asymptotisk kostnadsforhold = 128/576.
I tillegg bruker indekserer FP8 mens hoved-MLA bruker 16-bit, så = 64/576 = 1/9.
23,61K
Topp
Rangering
Favoritter