🚀 DeepSeek-OCR — новий рубіж OCR від @deepseek_ai, що досліджує оптичне стиснення контексту для LLM, працює надзвичайно швидко на vLLM ⚡ (~2500 токенів/с на A100-40G) — працює на vllm==0.8.5 для підтримки моделі day-0. 🧠 Стискає візуальний контекст до 20× зберігаючи точність OCR 97% на рівні <10×. 📄 Перевершує GOT-OCR2.0 і MinerU2.0 на OmniDocBench з використанням меншої кількості токенів зору. 🤝 Команда vLLM співпрацює з DeepSeek, щоб впровадити офіційну підтримку DeepSeek-OCR у наступний реліз vLLM, зробивши мультимодальне висновування ще швидшим і простішим для масштабування. 🔗 #vLLM #DeepSeek #OCR #LLM #VisionAI #DeepLearning