🚀 DeepSeek-OCR – OCR:n uusi raja vuodelta @deepseek_ai, joka tutkii optisen kontekstin pakkausta LLM:ille, toimii räjähtävän nopeasti vLLM:llä ⚡ (~2500 tokenia/s A100-40G:llä) – virtalähteenä vllm==0.8.5 päivä-0-mallin tuelle. 🧠 Pakkaa visuaaliset kontekstit jopa 20 × säilyttäen 97 %:n OCR-tarkkuuden <10 ×. 📄 Päihittää GOT-OCR2.0:n ja MinerU2.0:n OmniDocBenchissä käyttämällä vähemmän näkötokeneita. 🤝 vLLM-tiimi työskentelee DeepSeekin kanssa tuodakseen virallisen DeepSeek-OCR-tuen seuraavaan vLLM-julkaisuun, mikä tekee multimodaalisesta päättelystä entistä nopeampaa ja helpompaa skaalata. 🔗 #vLLM #DeepSeek #OCR #LLM #VisionAI #DeepLearning