Baidu Just Fixed DeepSeek-OCR for Reading Long Documents
3-Second Blueprint (English)
- Baidu's Unlimited-OCR fine-tunes DeepSeek-OCR as a 3B-parameter MoE vision-language model (0.5B active) for multi-page transcription.
- Reference Sliding Window Attention (RSWA) retains all compressed image tokens in view while limiting text history to 128 tokens.
- Bounding text KV-cache growth keeps memory flat and boosts decoding speed up to 35% on dense documents exceeding 6,000 visual tokens.
Unlimited-OCRDeepSeek-OCRRSWA AttentionMixture-of-Experts VLM
3-Sekunden-Fazit (Deutsch)
- Baidus Unlimited-OCR basiert auf DeepSeek-OCR als 3B-MoE-Vision-Language-Modell (0,5B aktiv) für lange Dokumenttranskriptionen.
- Reference Sliding Window Attention (RSWA) behält alle Bild-Tokens im Kontext, begrenzt den Textverlauf aber auf 128 Wörter.
- Konstanter KV-Cache-Speicher beschleunigt die Dekodierung dichter Seiten mit über 6.000 Bild-Tokens um bis zu 35 Prozent.
Unlimited-OCRDeepSeek-OCRRSWA-AttentionMixture-of-Experts-VLM
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.