🚀 DeepSeek-OCR — новая граница OCR от @deepseek_ai, исследующая оптическое сжатие контекста для LLM, работает с невероятной скоростью на vLLM ⚡ (~2500 токенов/с на A100-40G) — поддержка модели day-0 на vllm==0.8.5.
🧠 Сжимает визуальные контексты до 20×, сохраняя 97% точности OCR при <10×.
📄 Превосходит GOT-OCR2.0 и MinerU2.0 на OmniDocBench, используя меньше токенов визуализации.
🤝 Команда vLLM работает с DeepSeek, чтобы добавить официальную поддержку DeepSeek-OCR в следующий релиз vLLM — делая многомодальное вывод еще быстрее и проще для масштабирования.
🔗
#vLLM #DeepSeek #OCR #LLM #VisionAI #DeepLearning