🚀 DeepSeek-OCR は、LLM の光コンテキスト圧縮を模索している @deepseek_ai の OCR の新しいフロンティアであり、vLLM ⚡ 上で驚異的な速度で実行されています (A100-40G では ~2500 トークン/秒) — vllm==0.8.5 を搭載しています。 🧠 視覚的なコンテキストを最大 20× 圧縮し、97% の OCR 精度を <10× に維持します。 📄 OmniDocBenchでGOT-OCR2.0とMinerU2.0を上回り、より少ないビジョントークンを使用します。 🤝 vLLM チームは DeepSeek と協力して、公式の DeepSeek-OCR サポートを次の vLLM リリースに導入し、マルチモーダル推論をさらに高速かつ簡単に拡張できるようにしています。 🔗 #vLLM #DeepSeek #OCR #LLM #VisionAI #DeepLearning