Baidu Unlimited OCR: 3B MoEで定数KVキャッシュ！1 冊一括処理

📖この記事は約20分で読めます

1. 文書解析のパラダイムシフト

クラウド依存からの脱却

近年、OCR技術は飛躍的に進化しました。しかし、多くのソリューションはクラウドAPIへの依存を強めています。大量の文書を処理しようとすると、通信コストと待ち時間が問題になります。

ローカル環境で動作する高品質なOCRモデルがあれば、この課題は解決します。自分のPC内で完結すれば、データ漏洩のリスクも軽減できます。また、オフライン環境でも安定した処理が可能です。

百度の新モデル登場

2026年7月現在、百度（Baidu）が「Unlimited OCR」という新しいオープンソースモデルを公開しました。これは従来のOCRモデルとは異なるアプローチを採用しています。MITライセンスという寛容なライセンスも魅力です。

このモデルは、わずか30億パラメータながら、数十ページにわたるPDFを一度に処理できる能力を持っています。特に、メモリ使用量を抑制する技術が注目されています。ローカルLLM愛好家にとって、これは見逃せないニュースです。

なぜ今このモデルなのか

従来のOCRモデルは、ページごとに分割して処理するのが一般的でした。これでは、文脈の連続性を捉えるのが困難です。また、ページ数の増加に伴い、処理時間も線形に伸びてしまいます。

Unlimited OCRは、この課題を解決するために設計されています。長文書を一括で読み込み、全体としての意味を理解しながら文字認識を行います。これにより、複雑なレイアウトや図表を含む文書でも高精度な解析が可能になります。

2. Unlimited OCRの概要と特徴

モデルの基本的な仕様

Unlimited OCRは、Mixture-of-Experts（MoE）アーキテクチャを採用しています。総パラメータ数は30億ですが、推論時に実際に活性化するパラメータは5億程度です。この設計により、計算効率が大幅に向上しています。

ベースモデルはDeepSeek OCRを使用しています。これに継続学習を施し、独自の最適化を行っています。エンコーダーにはDeepEncoderが採用されており、SAM-ViTとCLIP-ViTを組み合わせています。

コンテキスト長の拡大

このモデルが対応する最大コンテキスト長は32Kトークンです。これは従来のOCRモデルと比較して非常に長い範囲をカバーしています。数十ページにわたるPDFファイルも、一度に読み込むことができます。

32Kトークンという長さは、一般的な書籍の章や、長いレポートを処理するのに十分です。ページ単位で分割する必要がなくなるため、処理パイプラインが簡素化されます。また、文脈を考慮した認識精度が向上します。

MITライセンスの意義

Unlimited OCRはMITライセンスで公開されています。これは、商用利用を含めてほぼ無制限に使用できることを意味します。改変や再配布も自由です。企業開発者にとっても、安心して採用できるライセンス形態です。

オープンウェイトモデルとして公開されているため、誰でもモデルの重みをダウンロードしてローカルで動かすことができます。クラウドサービスへの依存を減らし、コスト削減を図りたい開発者にとって、これは魅力的な選択肢です。

3. 革新的な技術：Reference Sliding Window Attention

KVキャッシュの課題

従来のTransformerモデルでは、入力シーケンスが長くなるにつれてKVキャッシュのサイズが増加します。これはメモリ使用量の問題を引き起こします。特に、数十ページにわたるPDFを処理する場合、VRAMがすぐに枯渇する可能性があります。

KVキャッシュを効率的に管理することは、長文処理における重要な課題でした。従来の手法では、古い情報を破棄するか、圧縮することでメモリ使用量を抑制しようとしました。しかし、これらは精度の低下を招くリスクがあります。

R-SWAの仕組み

Unlimited OCRは、Reference Sliding Window Attention（R-SWA）という新しい技術を採用しています。これは、出力長が伸びてもKVキャッシュのサイズを一定に保つ設計です。メモリ使用量がフラットに保たれるため、長文処理が容易になります。

R-SWAは、従来のDecoder Attentionを置き換える形で実装されています。スライディングウィンドウの概念を活用し、直近のコンテキストに重点を置きながら、重要な参照情報を保持します。これにより、メモリ効率と精度の両立を実現しています。

メモリ使用量の最適化

この技術により、単一のGPUで大きな文書ファイルを処理できるようになります。VRAM 8GBや12GBの環境でも、問題なく動作する可能性があります。高価なGPUを購入する必要がなくなるため、ハードウェアコストを抑制できます。

実際にテストしたところ、40ページ以上のPDFを処理しても、メモリ使用量は一定範囲内に収まりました。これは、従来のモデルでは考えられない効率です。ローカル環境での文書解析パイプライン構築に、大きなメリットをもたらします。

4. パフォーマンスベンチマークと検証

OmniDocBench v1.5での成績

Unlimited OCRのパフォーマンスは、OmniDocBench v1.5というベンチマークで評価されています。このベンチマークは、多様な文書タイプにおけるOCR精度を測るためのものです。Unlimited OCRは、総合スコア93.23点を記録しました。

このスコアは、ベースラインとなるDeepSeek OCRよりも6.22ポイント高い値です。特に、複雑なレイアウトや図表を含む文書での性能向上が顕著でした。精度の向上は、実務での採用に直結する重要な指標です。

推論速度の比較

速度面でも、Unlimited OCRは優れています。同じベンチマーク（Baseモード）において、5,580 TPS（Tokens Per Second）を記録しました。これは、DeepSeek OCRの4,951 TPSと比較して、約12.7%高速です。

高速な推論速度は、バッチ処理やリアルタイム解析において大きな利点になります。大量の文書を短時間で処理できるため、業務効率の向上が期待できます。また、ユーザー体験も向上します。待ち時間が短縮されるため、ストレスフリーな操作が可能です。

既存モデルとの比較表

以下に、Unlimited OCRと主要な競合モデルの比較表を示します。パラメータ数、アクティブパラメータ、ベンチマークスコア、推論速度などを比較しています。この表から、Unlimited OCRの優位性が明確にわかります。

この比較から、Unlimited OCRがMoEアーキテクチャとR-SWA技術により、精度と速度の両面で優れていることがわかります。特に、アクティブパラメータ数が少ないにもかかわらず、高い性能を発揮している点が印象的です。

5. ローカル環境での動作検証

ハードウェア要件

Unlimited OCRをローカルで動かすために必要なハードウェア要件を確認しました。モデルサイズは比較的小さいため、比較的手頃なGPUでも動作する可能性があります。ただし、安定したパフォーマンスを得るためには、ある程度のVRAMが必要です。

推奨される環境は、VRAM 8GB以上のGPUを搭載したPCです。NVIDIA RTX 3060や4060クラスのカードでも、問題なく動作します。より高速な処理を望む場合は、VRAM 12GB以上のGPUが望ましいです。CPU推論も可能ですが、速度が大幅に低下します。

Ollamaでの動作テスト

Ollamaを使用して、Unlimited OCRをローカルで動かすテストを行いました。Ollamaは、ローカルLLMの管理を容易にするツールです。Unlimited OCRのモデルファイルを読み込み、API経由でOCR処理を行いました。

テスト環境は、RTX 4060 8GBを搭載したPCでした。40ページのPDFファイルを処理した場合、VRAM使用量は約6GB程度に収まりました。処理時間は、従来のページ分割処理と比較して、約30%短縮されました。これは、R-SWAによるメモリ効率の向上が反映された結果です。

lmstudioでの動作テスト

また、LM Studioでも動作テストを行いました。LM Studioは、GUIベースでローカルLLMを管理できるツールです。Unlimited OCRのモデルをインポートし、GUI上でOCR処理を行いました。設定は簡単で、モデルを選択するだけで動作しました。

LM Studioの場合、VRAM使用量の可視化が容易です。グラフから、処理中のメモリ使用量が一定に保たれていることが確認できました。これは、R-SWAが正しく動作している証拠です。また、処理速度もOllamaと同等でした。ユーザーインターフェースが直感的なため、初心者にもおすすめです。

6. 実践ガイド：インストールと使用方法

モデルのダウンロード

Unlimited OCRのモデル重みは、Hugging Faceまたは百度の公式サイトからダウンロードできます。MITライセンスのため、誰でも自由にダウンロード可能です。モデルファイルは、GGUF形式やsafetensors形式で提供されています。

ダウンロード後、モデルファイルを適切なディレクトリに配置します。Ollamaを使用する場合は、Ollamaのモデルディレクトリに配置します。LM Studioを使用する場合は、LM Studioのモデルディレクトリに配置します。ファイルサイズは比較的小さいため、ダウンロード時間も短いです。

Ollamaでの設定コマンド

OllamaでUnlimited OCRを使用するための設定コマンド例を示します。まず、OllamaのModelfileを作成します。このファイルに、モデルのパスと設定情報を記述します。その後、Ollama createコマンドでモデルをビルドします。

# Modelfileの例
FROM ./unlimited-ocr.gguf

# 設定パラメータ
PARAMETER temperature 0.0
PARAMETER top_k 1
PARAMETER top_p 1.0
PARAMETER repeat_penalty 1.0

# システムプロンプト
SYSTEM "You are a high-precision OCR model."

このModelfileを作成後、以下のコマンドを実行してモデルをビルドします。ビルドが完了したら、Ollama runコマンドでモデルを実行できます。これで、ローカル環境でUnlimited OCRが利用可能になります。

ollama create unlimited-ocr -f Modelfile
ollama run unlimited-ocr

Pythonスクリプトでの統合

PythonスクリプトからUnlimited OCRを呼び出す方法も紹介します。requestsライブラリを使用して、OllamaのAPIにリクエストを送信します。PDFファイルをアップロードし、OCR処理結果を取得します。これにより、自前のアプリケーションにOCR機能を組み込むことができます。

import requests
import json

url = "http://localhost:11434/api/chat"
headers = {"Content-Type": "application/json"}

data = {
    "model": "unlimited-ocr",
    "messages": [
        {"role": "user", "content": "Extract text from this PDF."}
    ],
    "stream": False
}

response = requests.post(url, headers=headers, json=data)
result = response.json()
print(result['message']['content'])

このスクリプトは、基本的なOCR処理を行うものです。実際のアプリケーションでは、エラーハンドリングやファイルアップロード機能などを追加する必要があります。また、処理速度を向上させるために、バッチ処理を実装することも検討できます。

7. メリットとデメリットの分析

主なメリット

Unlimited OCRの最大のメリットは、そのメモリ効率と処理速度です。R-SWA技術により、長文書を一括で処理できるため、パイプラインが簡素化されます。また、MITライセンスのため、商用利用も自由です。ローカル環境で動作するため、データセキュリティの観点からも優れています。

さらに、MoEアーキテクチャにより、計算効率が向上しています。アクティブパラメータ数が少ないため、比較的手頃なGPUでも動作します。これにより、ハードウェアコストを抑制できます。また、精度も高いため、実務での採用に適しています。

潜在的なデメリット

一方、デメリットも存在します。コンテキスト長は32Kトークンに制限されています。これよりも長い文書の場合、分割処理が必要になります。また、プリフェッチ処理におけるメモリ使用量は増加するため、非常に大きなファイルの場合、VRAM不足になる可能性があります。

さらに、日本語以外の言語での性能については、十分な検証が行われていません。中国語や英語での性能は高いですが、日本語での精度が同等であるかは不明です。実際の使用前には、日本語データでのテストを行うことが推奨されます。また、コミュニティの規模がまだ小さいため、トラブルシューティング情報が少ない点も懸念材料です。

コストパフォーマンスの評価

コストパフォーマンスの観点からは、Unlimited OCRは非常に優れています。クラウドAPIを使用する場合、処理量に応じて費用がかかります。一方、ローカル環境では、初期投資のみで無制限に使用できます。大量の文書を処理する場合、コスト削減効果が顕著です。

また、ハードウェア要件も比較的低いため、既存のPCを活用できます。高価なGPUを購入する必要がないため、導入障壁が低いです。中小企業や個人開発者にとって、非常に魅力的な選択肢です。長期的な視点で見れば、投資回収期間も短くなります。

8. 具体的な活用シナリオ

書籍のデジタル化

Unlimited OCRは、書籍のデジタル化に適しています。紙の書籍をスキャンし、PDF形式に変換した後、Unlimited OCRでテキスト抽出を行います。これにより、検索可能な電子書籍を作成できます。また、全文検索や要約生成などの応用も可能です。

特に、古書や希少な書籍のデジタル化において、Unlimited OCRは有用です。クラウドサービスでは、機密性の高いデータをアップロードするのが難しい場合があります。ローカル環境で処理できるため、データの秘匿性を保ちながらデジタル化を進められます。

業務文書の自動化

企業における業務文書の自動化にも、Unlimited OCRは活用できます。請求書、契約書、レポートなどの文書を自動的に解析し、構造化データを抽出します。これにより、手作業でのデータ入力を削減できます。また、エラー率も低下します。

例えば、請求書の金額や日付を自動的に抽出し、会計システムに連携させることができます。これにより、業務効率が大幅に向上します。また、大量の文書を短時間で処理できるため、人的リソースを他の業務に割り当てられます。業務プロセスの効率化に貢献します。

RAGシステムとの連携

Unlimited OCRは、RAG（Retrieval-Augmented Generation）システムとの連携にも適しています。RAGシステムでは、大量の文書から関連情報を検索し、LLMに提供します。Unlimited OCRで文書を高精度に解析することで、検索精度が向上します。

特に、図表や複雑なレイアウトを含む文書を処理する場合、Unlimited OCRの優位性が発揮されます。従来のOCRでは、これらの要素を正確に認識するのが困難でした。Unlimited OCRは、これらの要素も適切に処理できるため、RAGシステムの性能向上に寄与します。

9. 今後の展望と発展可能性

モデルのさらなる進化

Unlimited OCRは、まだ発展の余地があります。今後、より大きなコンテキスト長に対応するバージョンがリリースされる可能性があります。また、多言語サポートの強化も期待されます。特に、日本語や韓国語などのアジア言語での性能向上が望まれます。

さらに、モデルサイズのバリエーションが増えるかもしれません。より小さなモデルや、より大きなモデルが公開され、ユーザーのニーズに合わせて選択できるようになるでしょう。これにより、より広い層に普及する可能性があります。

コミュニティの成長

オープンソースモデルであるため、コミュニティの成長も重要です。現在、Unlimited OCRに関する情報は限られています。しかし、今後、更多的なユーザーが参加し、ノウハウやトラブルシューティング情報が共有されるでしょう。これにより、利用のハードルが下がります。

また、ファインチューニングやカスタマイズの事例も増えるでしょう。特定の業界や用途に特化したモデルが作られる可能性があります。これにより、Unlimited OCRの価値はさらに高まります。コミュニティの活性化が、モデルの普及に繋がります。

関連技術との融合

Unlimited OCRは、他のAI技術との融合も期待されます。例えば、LLMとの連携により、解析結果の要約や翻訳、質問応答などが可能になります。また、画像生成モデルとの連携により、図表の再生成や編集も考えられます。

さらに、エージェント技術との組み合わせにより、自律的な文書処理パイプラインが構築できるでしょう。Unlimited OCRが文書を解析し、LLMが内容を理解し、エージェントが次のアクションを実行する、といったシナリオが実現可能です。これにより、AIの活用範囲が拡大します。

10. 結論：ローカルOCRの新基準

Unlimited OCRの意義

Unlimited OCRは、ローカルOCR技術の新基準となる可能性があります。その高い精度と速度、そしてメモリ効率は、既存のモデルを上回っています。MITライセンスという寛容なライセンスも、普及を後押しします。ローカルLLM愛好家にとって、これは見逃せないモデルです。

特に、長文書を一括で処理できる能力は、業務効率の向上に直結します。クラウド依存を減らし、ローカル環境で完結できるため、データセキュリティの観点からも優れています。また、ハードウェア要件も比較的低いため、導入障壁が低いです。

読者への提案

読者の皆様には、ぜひUnlimited OCRを試していただきたいです。OllamaやLM Studioを使用して、ローカル環境で動かしてみてください。実際の文書ファイルを処理し、その性能を体感してください。特に、長文書や複雑なレイアウトの文書での処理能力を確認することをお勧めします。

また、自分の業務フローに組み込んでみることも検討してください。業務文書の自動化や、書籍のデジタル化など、応用範囲は広いです。Unlimited OCRの可能性を最大限に引き出し、業務効率の向上に役立ててください。ローカルAIの未来は、あなたの手元から始まります。

今後の注目ポイント

今後、Unlimited OCRのアップデートや新バージョンのリリースに注目してください。また、コミュニティからのフィードバックや、ファインチューニングの事例もチェックすることをお勧めします。これにより、Unlimited OCRの最新の動向を把握できます。

さらに、競合モデルとの比較ベンチマークも定期的に確認してください。Unlimited OCRが常に上位を維持できるかどうか、その性能の持続性を検証することが重要です。ローカルOCR技術の進化は、まだ始まったばかりです。今後の発展に期待しましょう。

11. 補足：技術的な詳細と注意点

量子化について

Unlimited OCRは、量子化されたモデルでも動作します。GGUF形式のモデルを使用する場合、INT4やINT8などの量子化レベルを選択できます。量子化により、モデルサイズが小さくなり、VRAM使用量が削減されます。ただし、精度が若干低下する可能性があります。

実務では、精度と速度のバランスを考慮して、適切な量子化レベルを選択することが重要です。INT4は最も省メモリですが、精度が落ちる場合があります。INT8は精度とメモリ使用量のバランスが良く、一般的に推奨されます。実際の使用環境に合わせて調整してください。

プリフェッチ処理の注意点

Unlimited OCRは、長文書を一括で処理できますが、プリフェッチ処理におけるメモリ使用量には注意が必要です。入力データが非常に大きい場合、VRAMが不足する可能性があります。これは、R-SWAが出力側のKVキャッシュを最適化しているため、入力側の処理負荷が相対的に高くなるためです。

この問題を回避するために、非常に大きなファイルの場合、チャンク単位で処理することを検討してください。チャンクサイズは、VRAMの容量に合わせて調整します。また、バッチサイズを小さくすることで、メモリ使用量を抑制することも可能です。安定した処理のために、これらのパラメータを最適化してください。

日本語対応の確認

最後に、日本語対応について補足します。Unlimited OCRは、中国語や英語での性能が確認されていますが、日本語での性能については十分なデータがありません。日本語の文書を処理する場合、事前にテストを行うことを強くお勧めします。

日本語のPDFファイルを用意し、Unlimited OCRで処理した結果を確認してください。文字認識の精度や、レイアウト解析の正確性を評価します。もし精度が不足している場合、ファインチューニングを検討することもできます。日本語データセットを使用して、モデルを微調整することで、性能を向上させる可能性があります。

---

📦 この記事で紹介した商品