DharmaOCR: ブラジルポルトガル語OCRにおける専門化の優位性

DharmaOCRは、ターゲットファインチューニングとDirect Preference Optimization（DPO）を通じて単一ドメインにすべてのモデルパラメータを集中させることにより、ブラジルポルトガル語のドキュメントにおいて、Mistral OCR4やUnlimited-OCRなどの新しい一般的モデルを上回ります。

ドメイン専門化 vs 多言語の幅

専門化は、有限なモデルパラメータの割り当てを最適化することにより、一般的なモデルに対して構造的な優位性を提供します。多言語モデルはN言語にわたって表現能力を分配しなければなりませんが、DharmaOCRのような専門モデルは、単一のターゲット言語の特定の語彙、形態学、および正書法パターンにすべてのパラメータを専念します。

このリソースの集中により、モデルは一般的なモデルがしばしば見逃す言語のニュアンスを捉えることができます。たとえば、ENEMエッセイ（ブラジルの全国高校試験）を使用したベンチマークでは、一般的なモデルは「Chico Buarque」などの全国的に認識されているブラジルの人物やフレーズを正確に転写できませんでしたが、DharmaOCRは正しく処理しました。これは、一般的なモデルがランダムに失敗するのではなく、より広い多言語コーパスから特定の言語を区別する語彙や固有名詞において特に失敗することを示しています。

パフォーマンスベンチマーク

ポルトガル語に焦点を当てた評価では、DharmaOCRは自身のデビュー後にリリースされた新しくリソースが豊富なモデルを大幅に上回りました：

モデル	抽出品質スコア
DharmaOCR	0.925
Mistral OCR4	0.798
Unlimited-OCR	0.7587

DharmaOCRは、Mistral OCR4に対して約13ポイント、Unlimited-OCRに対して16ポイント以上のリードを維持しており、これはドメイン専門化がより最近のアーキテクチャの進歩に対して依然として効果的であることを示しています。

DPOによるテキストデグレデーションへの対応

テキストデグレデーション－モデルが反復的、 incoherent、または semantically disconnectedな出力を生成する状況－は、生産OCRにおける重大な障害モードであり、通常は小さなフォントやスキャン品質の低下などの視覚的あいまいさによって引き起こされます。

DharmaOCRは、以下の2段階のトレーニングパイプラインを通じてこれを緩和します：

1. 教師ありファインチューニング (SFT): この段階は、ブラジルポルトガル語の語彙とドキュメント構造にモデルの重みを合わせることにより、ドメイン能力を構築します。
2. 直接嗜好最適化 (DPO): SFTとは異なり、SFTはトークンをステップごとに予測するのに対し、DPOは完全な出力の品質に対してモデルを訓練します。完全な抽出の一貫性に基づいて競合する応答の間を区別するようにモデルを教えることにより、DPOはデグレデーションを引き起こすドリフトと反復ループを抑制します。

このアプローチにより、モデルは、Mistral OCR4などの一般的なモデルがソースドキュメントから完全に切り離された出力を生成する可能性がある条件下でも安定します。

専門化の構造的論理

新しいアーキテクチャと拡張されたデータセットは、すべてのモデルの絶対的な性能の上限を引き上げる可能性がありますが、専門化の相対的な優位性は持続します。構造的なダイナミクスは同じままです：単一のドメインにすべてのリソースを向けるシステムは、それらのリソースを多くのドメインに分配するシステムよりも、そのドメインにおいてそれらのリソースからより多くの価値を引き出します。

DharmaOCRの戦略は、新しいアーキテクチャとアライメント方法を含む新興のフロンティア技術を、ブラジルポルトガル語OCRという固定ドメインに特化して適用することにより、最低のコストと推論時間で最高可能な抽出品質を維持することです。