🚀 DeepSeek-OCR — 来自 @deepseek_ai 的新一代 OCR,探索 LLM 的光学上下文压缩,运行速度极快,使用 vLLM ⚡(在 A100-40G 上约 2500 tokens/s) — 由 vllm==0.8.5 提供支持,支持 day-0 模型。 🧠 在保持 97% OCR 准确率的情况下,将视觉上下文压缩高达 20×,在 <10× 的情况下。 📄 在 OmniDocBench 上使用更少的视觉 tokens 超越 GOT-OCR2.0 和 MinerU2.0。 🤝 vLLM 团队正在与 DeepSeek 合作,将官方 DeepSeek-OCR 支持引入下一个 vLLM 版本 — 使多模态推理更快、更易于扩展。 🔗 #vLLM #DeepSeek #OCR #LLM #VisionAI #DeepLearning