AIニュース

Hunyuan OCR:クリエイターが実際に展開できるエンドツーエンドの多言語OCRエンジン

著者: Story321 チーム読了目安 8 分
Hunyuan OCR:クリエイターが実際に展開できるエンドツーエンドの多言語OCRエンジン
目次

クリエイターがHunyuan OCRに関心を持つべき理由

もしあなたのクリエイティブなワークフローが、画像、PDF、デザインアセット、またはビデオフレーム内のテキストに触れるなら、Hunyuan OCRは、あらゆる面で時間を節約できる稀なアップグレードです。Tencent Hunyuanによって構築された、10億パラメータのエンドツーエンドVision-LanguageモデルであるHunyuan OCRは、OCRスタック全体(検出、認識、解析、抽出、さらには翻訳)を1つのモデルに統合します。これは、可動部品が少なく、壊れやすいグルースクリプトが少なく、パイプラインを脱線させるダウンストリームエラーが少ないことを意味します。

コンテンツクリエイター(字幕を抽出するビデオ編集者、レイアウトをローカライズするデザイナー、ドキュメントを調査するライター、またはスクリプトをバッチ処理する声優)にとって、Hunyuan OCRは、強力な精度と実用的な速度、そして展開の容易さを兼ね備えています。100以上の言語をサポートし、vLLMまたはTransformersで効率的に動作し、クリーンでタスク指向のプロンプトと、本番環境に適した推論ルートを組み合わせます。

このガイドでは、Hunyuan OCRの何が特別なのか、それがあなたの特定のクリエイティブな役割にどのように役立つのか、そしてそれを数分で実行する方法を学びます。

Hunyuan OCRの何が違うのか

従来のOCRパイプラインは、複数のモデルとヒューリスティクスをデイジーチェーン接続します。テキスト領域を検出し、トリミングし、文字を認識し、後処理を行い、構造を解析します。各ホップは、複合的なエラーを引き起こす可能性があります。Hunyuan OCRのエンドツーエンドのアプローチは、このスタックを簡素化し、1回のフォワードパスで画像から構造化された出力に移行できるようにします。

主な差別化要因:

  • エンドツーエンド設計:Hunyuan OCRは、検出、認識、およびダウンストリームの理解を1つの屋根の下に維持することで、カスケードOCRスタックで一般的なエラー伝播を回避します。
  • 軽量なパワー:Hunyuan OCRは、わずか10億のパラメータで最先端の結果を達成し、出荷とスケーリングを実用的にします。
  • 多言語対応:Hunyuan OCRは100以上の言語をサポートし、グローバルなコンテンツ制作とローカリゼーションを可能にします。
  • 幅広いタスク範囲:Hunyuan OCRは、テキストスポッティング、ドキュメント解析、情報抽出、ビデオ字幕抽出、画像翻訳、およびドキュメントの質問応答を処理します。
  • プラグアンドプレイ展開:Hunyuan OCRは、高スループットのサービスにはvLLMで、柔軟なスクリプトワークフローにはTransformersで実行できます。

公式リポジトリおよびテクニカルレポートで公開されているベンチマークによると、Hunyuan OCRは、ドキュメント解析(例:OmniDocBench)でSOTAパフォーマンスを提供し、社内評価でテキストスポッティングおよび情報抽出で強力な結果を示し、画像翻訳ではほぼ同等の性能を発揮します。これらすべてをコンパクトなモデルサイズで実現しています。

Hunyuan OCRがクリエイターにできること

Hunyuan OCRは、最小限の摩擦でクリエイターの実用的な問題を解決するように設計されています。

  • ビデオ字幕抽出
    • フレームまたはクリップから字幕を抽出します。
    • 焼き付けられたキャプションを、編集用に時間調整されたテキストに変換します。
    • 翻訳用の多言語字幕ドラフトを作成します。
  • ドキュメントの解析とレイアウトの理解
    • PDF、フォーム、およびパンフレットを構造化されたフィールドに変換します。
    • テーブル、ヘッダー、リスト、および読み取り順序を抽出します。
    • CMS取り込み用のJSON対応の出力を生成します。
  • レシート、請求書、およびIDの情報抽出
    • ベンダー名、合計、日付フィールド、住所、およびIDを抽出します。
    • バッチ処理のために固定スキーマを適用します。
  • クリエイティブアセットの画像翻訳
    • ポスター、ソーシャルグラフィック、UI画面、またはコミックのテキストを翻訳します。
    • レイアウトのセマンティクスを保持して、再植字をガイドします。
  • 調査が重要なワークフローのドキュメントQA
    • 長いドキュメントに質問し、証拠付きのターゲットを絞った回答を受け取ります。
    • 複雑なファイリングから抽出されたフィールドをクロスチェックします。

これらの各タスクについて、Hunyuan OCRは「アプリケーション指向のプロンプト」を中心に展開するため、既存のツールに組み込むことができる構造化された形式に出力を誘導できます。

パフォーマンスの概要

結果はドメインによって異なりますが、著者は次のように報告しています。

  • テキストスポッティング:Hunyuan OCRは、社内ベンチマークでいくつかの一般的なOCRおよびVLMベースラインを上回っています。
  • ドキュメント解析:Hunyuan OCRは、OmniDocBenchおよび多言語の内部スイートでSOTAに到達し、大規模な汎用VLMおよび特殊なOCR-VLMを上回っています。
  • 情報抽出:Hunyuan OCRは、社内評価でカード、レシート、および字幕抽出タスクで大きな改善を示しています。
  • 画像翻訳:Hunyuan OCRは、展開可能な状態を維持しながら、はるかに大きなモデルに匹敵する精度を提供します。

これらの結果と、10億パラメータのフットプリントを組み合わせることで、Hunyuan OCRは、かさばるOCR/VLMスタックの展開に苦労している場合に、魅力的なアップグレードになります。

参考文献:

モデルの内部:Hunyuan OCRの仕組み

内部では、Hunyuan OCRは、ネイティブのVision Transformer(ViT)エンコーダーを、MLPアダプターを介して軽量LLMに接続します。これにより、ビジョン側は高密度のテキストパターン(フォント、スクリプト、レイアウト)をキャプチャでき、言語側は構造、スキーマ、および指示について推論できます。その結果、プロンプトによって駆動される、統一されたOCRプラス理解の動作が実現します。

テクニカルレポートでは、OCR固有の指示の追跡と出力品質をさらに向上させる強化学習戦略についても説明しています。実際には、Hunyuan OCRは非常に具体的なプロンプト(例:「合計のみをUSDとして抽出し、ISO日付を返す」)で誘導できることを意味します。これは、クリーンで、すぐに使用できる出力を必要とするクリエイターにとって不可欠です。

システム要件とインストール

Hunyuan OCRは、vLLMとTransformersの両方に対して、コード、重み、およびクイックスタートを公開しています。本番環境のスループットにはvLLMが推奨されます。カスタムスクリプトまたはプロトタイピングには、Transformersが適しています。

最小環境(リポジトリのガイダンスごと):

  • OS:Linux
  • Python:3.12+
  • CUDA:12.9
  • PyTorch:2.7.1
  • GPU:CUDAをサポートするNVIDIA GPU(vLLMサービスには約20 GBのメモリを推奨)
  • ディスク:重み用に〜6 GB

インストールパス:

  • vLLM(サービス):vllmをインストールし、Hugging Faceからモデルをダウンロードして、APIサーバーを起動します。
  • Transformers(スクリプト):transformersとaccelerateをインストールし、チェックポイントをロードして、推論を実行します。

Hunyuan OCRは、リポジトリのREADMEで両方のルートに対して明確なスクリプトを公開しています。

クイックスタート:vLLMを使用したHunyuan OCR

1)vLLMと依存関係をインストールします:

pip install vllm

2)Hunyuan OCRを使用してvLLMサーバーを起動します:

python -m vllm.entrypoints.openai.api_server \
  --model tencent/HunyuanOCR \
  --trust-remote-code \
  --tensor-parallel-size 1 \
  --max-model-len 32768 \
  --gpu-memory-utilization 0.9 \
  --port 8000

3)OpenAI互換APIを介してサーバーを呼び出します:

import base64, requests

def encode_image(path):
    with open(path, "rb") as f:
        return base64.b64encode(f.read()).decode("utf-8")

image_b64 = encode_image("invoice.jpg")
prompt = """あなたはOCRおよび情報抽出アシスタントです。
タスク:画像からvendor_name、date(YYYY-MM-DD)、total_amount(USD)、およびline_itemsを抽出します。
これらのキーのみを含む有効なJSONを返し、余分なテキストは含めないでください。"""

payload = {
  "model": "tencent/HunyuanOCR",
  "messages": [
    {"role": "user", "content": [
      {"type": "text", "text": prompt},
      {"type": "image_url", "image_url": {"url": f"data:image/jpeg;base64,{image_b64}"}}
    ]}
  ],
  "temperature": 0.0
}
r = requests.post("http://localhost:8000/v1/chat/completions", json=payload, timeout=120)
print(r.json()["choices"][0]["message"]["content"])

この設定では、Hunyuan OCRは、パイプラインに直接フィードできる構造化されたJSONで応答します。

クイックスタート:Transformersを使用したHunyuan OCR

1)依存関係をインストールします:

pip install "transformers>=4.45.0" accelerate torch torchvision

2)簡単な推論を実行します:

from transformers import AutoProcessor, AutoModelForVision2Seq
from PIL import Image
import json

model_id = "tencent/HunyuanOCR"
processor = AutoProcessor.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForVision2Seq.from_pretrained(model_id, trust_remote_code=True).eval().cuda()

image = Image.open("receipt.png").convert("RGB")
prompt = (
  "すべてのテキスト領域を検出し、その内容を認識します。 "
  "{bbox:[x1,y1,x2,y2], text:'...'}のJSON配列を返します。"
)

inputs = processor(text=prompt, images=image, return_tensors="pt").to("cuda")
with torch.no_grad():
    outputs = model.generate(**inputs, max_new_tokens=1024)
result = processor.batch_decode(outputs, skip_special_tokens=True)[0]
print(result)

Transformersを使用すると、プロンプトをすばやく反復処理し、ノートブックと統合し、Hunyuan OCRを他のPythonツールと組み合わせることができます。

プロンプト設計:Hunyuan OCRをあなたのために機能させる

Hunyuan OCRはエンドツーエンドで指示に従うため、プロンプトがインターフェイスになります。明確で制約されたプロンプトは、クリーンな出力を生成します。

一般的なヒント:

  • タスク、スキーマ、および出力形式を明示的に記述します。
  • 構造化データの場合は、厳密なJSONを要求し、キーを順番にリストします。
  • 多言語入力の場合は、ソース言語とターゲット言語を指定します。
  • レイアウトタスクの場合は、必要に応じてバウンディングボックスまたは読み取り順序を要求します。
  • 決定論的な出力のために、温度を低く(0〜0.2)保ちます。

適応できるプロンプトテンプレート:

  • テキストスポッティング
    • 「すべてのテキスト領域を検出し、その内容を認識します。読み取り順序でオブジェクト{bbox:[x1,y1,x2,y2], text:'...'}のJSON配列を返します。」
  • ドキュメント解析
    • 「このドキュメントをタイトル、サブタイトル、セクション、テーブル、および脚注に解析します。各テーブルについて、セルの2D配列を含めます。フィールド:title、subtitle、sections[]、tables[]、footnotes[]を含むJSONを返します。」
  • レシートの情報抽出
    • 「vendor_name、date(YYYY-MM-DD)、currency(ISOコード)、subtotal、tax、total、およびline_items[{name、qty、unit_price、amount}]を抽出します。これらの正確なキーを持つ有効なJSONを返します。値が欠落している場合は、nullに設定します。」
  • ビデオフレームからの字幕抽出
    • 「画像上の字幕テキストを識別します。各字幕行の{bbox、text}の配列を返します。テキストが複数行にまたがる場合は、各行を個別に保持します。」
  • 画像翻訳
    • 「表示されているすべてのテキストを[SOURCE_LANGUAGE]から[TARGET_LANGUAGE]に翻訳します。レイアウトの順序を維持し、{bbox、source、target}の配列を返します。説明は追加しないでください。」

プロンプトはHunyuan OCRが輝く場所です。個別のOCRモジュールとNLPモジュール間を往復することなく、非構造化ピクセルから構造化JSONまたはバイリンガル出力に移行できます。

クリエイター向けのワークフローレシピ

以下は、クリエイターがHunyuan OCRを日常業務に組み込むための実用的な方法です。

  • ビデオクリエイター

    • バッチ字幕復元:1秒あたり1つのフレームをサンプリングし、字幕スポッティングプロンプトでHunyuan OCRを実行し、タイムスタンプ付きのおおよそのSRTを組み立てます。クリーンアップが大幅に高速化されます。
    • 外国語キャプション:Hunyuan OCRを実行してテキストを抽出し、画像翻訳プロンプトを介して翻訳して、バイリンガル字幕のドラフトを作成します。
  • デザイナーおよびローカリゼーションチーム

    • ポスターおよびUI翻訳:各アセットについて、Hunyuan OCRを使用してバウンディングボックス付きのテキストを抽出し、翻訳し、FigmaまたはPhotoshopで再植字するために{bbox、target}をデザイナーに渡します。
    • レイアウトQA:Hunyuan OCRに読み取り順序とセクションヘッダーを要求して、レスポンシブレイアウトが論理的に読み取れることを確認します。
  • ライター、研究者、編集者

    • ドキュメントスキャンからメモ:Hunyuan OCRを使用してPDFをセクションと引用に解析し、すぐに編集に使用できるようにします。
    • 事実抽出:Hunyuan OCRに、スキャンされたアーカイブ全体からキーフィールド(日付、数値、エンティティ)を抽出し、統合されたデータセットを返すように指示します。
  • 声優およびダビングスタジオ

    • 行の分離:スクリプトがストーリーボードまたは漫画のパネルに埋め込まれている場合は、Hunyuan OCRに行ごとのテキストを抽出し、パネルの順序を保持させます。
    • 発音コンテキスト:Hunyuan OCRを使用して、正確な配信のために翻訳とともに元の言語の名前と用語をキャプチャします。

これらのそれぞれは、Hunyuan OCRのエンドツーエンドの動作から恩恵を受け、パイプラインの破損の可能性を減らし、グルーコードを大幅に削減します。

展開:vLLM対Transformers

  • サービス用のvLLM

    • 複数のユーザー、バッチ、または高スループットを処理するためにサーバーが必要な場合、vLLMはHunyuan OCRをホストする最も速い方法です。
    • ヒント:
      • スムーズなスループットのために、20 GB以上のGPUから開始します。
      • 低い温度を使用し、出力サイズに適した最大トークンを設定します。
      • いくつかのサンプルリクエストでサーバーをウォームアップして、レイテンシを安定させます。
  • スクリプト用のTransformers

    • プロンプトをプロトタイピングしたり、オフラインバッチを実行したり、小さなカスタムツールを構築したりする場合は、Transformersが柔軟性を提供します。
    • ヒント:
      • 一貫したDPIと向きのために画像を前処理します。
      • 出力トークンを制限して、実行を予測可能に保ちます。
      • より高速な起動のために、モデルとプロセッサをディスクにキャッシュします。

どちらのルートを選択しても、同じプロンプトを維持し、プロトタイプから本番環境に移行するときにバックエンドを交換できます。これは、Hunyuan OCRのもう1つの利点です。

実用的な考慮事項とベストプラクティス

  • 画像の品質が重要
    • 強力な認識であっても、Hunyuan OCRは鮮明な画像から恩恵を受けます。可能な場合は、歪みを修正し、ノイズを除去し、アップスケールします。
  • スキーマを明示的にする
    • 抽出タスクの場合は、フィールド名とタイプを適用します。Hunyuan OCRは、正確な指示とJSONの例によく反応します。
  • インテリジェントにバッチ処理する
    • vLLMサービスでは、可能な場合は複数のリクエストまたはフレームをバッチ処理して、Hunyuan OCRのスループットを向上させます。
  • 出力を監視する
    • 日付形式、通貨コード、または数値範囲のバリデーターを追加します。値が検証に失敗した場合は、修正指示でHunyuan OCRを再プロンプトします。
  • プライバシーを尊重する
    • 組織のデータポリシーに基づいて、機密性の高いID、医療費の領収書、または契約書を処理する必要があります。Hunyuan OCRをセルフホストすると、サードパーティAPIよりも厳密な制御が可能になります。
  • 制限を知る
    • 非常に長い複数ページのドキュメントでは、チャンクが必要になる場合があります。ページごとのプロンプトを使用して結果をステッチするか、Hunyuan OCRにセクションを段階的に要約するように依頼します。

アーキテクチャとトレーニングのメモ(好奇心旺盛な方向け)

リーンアーキテクチャがHunyuan OCRを強化します。

  • ビジョンバックボーン:ネイティブViTは、高密度のテキスト機能とレイアウトキューを処理します。
  • 言語ヘッド:コンパクトなLLMは、指示の追跡と構造化された生成を実行します。
  • MLPアダプター:ビジョン埋め込みと言語ヘッドをブリッジします。
  • RL戦略:報告されているように、強化学習はOCRスタイルの指示に大きな改善をもたらし、形式とスキーマへの準拠を改善します。

この組み合わせは、Hunyuan OCRを正確に誘導できる理由を説明しています。厳密なJSONまたはバイリンガルアラインされた出力を要求すると、従来のOCRスタックと比較して確実に機能します。

ステップバイステップ:ドキュメント解析パイプラインの構築

Hunyuan OCRの動作を確認するために、簡単なPDFから構造化JSONへのフローを次に示します。 1)ページを画像に変換します(例:300 DPI PNG)。 2)各ページについて、Hunyuan OCRにセクション、ヘッダー、テーブル、およびフッターを解析するように指示します。 3)検証:すべてのテーブルの行ごとに同じ列数があることを確認します。日付をISOに強制します。 4)マージ:ページレベルの結果を結合します。読み取り順序でセクションをリフローします。 5)エクスポート:最終的なJSONをCMSまたはデータウェアハウスに保存し、ソースファイルのハッシュを保持します。

単一のモデルは、統合の頭痛の種が少なく、メンテナンスが少ないことを意味します。これは、中小規模のチームにとってHunyuan OCRの最大の利点の1つです。

試用、ダウンロード、および詳細情報

結論:現代のクリエイティブチーム向けの実際的なOCRアップグレード

Hunyuan OCRは、エンドツーエンドのOCR、多言語対応、および強力な精度を、実際に展開できるコンパクトな10億パラメータパッケージにもたらします。検出、認識、解析、および翻訳をステッチする代わりに、1つのモデルにプロンプトを出して、ワークフローに必要なものを正確に返すようにします。クリーンなJSON、アラインされた翻訳、またはタイムスタンプ付きの字幕です。

ドキュメント、フレーム、およびデザインファイルに住むコンテンツクリエイターにとって、Hunyuan OCRは以下を可能にします。

  • より少ないツールでより速いターンアラウンド
  • よりクリーンで、スキーマに一貫性のある出力
  • 信頼性の高い多言語処理
  • vLLMまたはTransformersを介した簡単な展開

開発者のオーバーヘッドを小さく保ちながら、実際の制作に適合するOCRエンジンを待っていた場合、Hunyuan OCRは適切な開始点です。デモを試して、モデルをロードして、今週どれだけの時間を取り戻せるかを確認してください。

次の作品を作りましょう

Story321 のツールでアイデアを形に。

創作を始める

関連記事