なぜ今、文書の「前処理」が問題になっているのか

ChatGPTやClaude에 社内資料を読み込ませようとしたとき、最初にぶつかる壁が「PDFのままでは上手くいかない」という現実です。試しに1枚のPDFをアップロードして要約させれば、それなりの結果は得られます。ところが、議事録が200本、仕様書が500本、過去5年分の契約書が1,000本——という規模になると、手作業での変換はとても現実的ではなく、既存のOCRツールでは文字化けや表崩れが頻発して使い物にならないことが多い。ここに「文書の前処理」という地味だけど重要な工程が存在します。
Datalabが公開したMarker v2は、このボトルネックに正面から取り組んだ文書パーサーです。PDF、画像、Word(DOCX)、PowerPoint(PPTX)を入力として受け取り、AIが扱いやすいMarkdown形式に変換します。処理速度はNVIDIAのB200 GPU(最新世代のデータセンター向けチップ)1枚で最大23.7ページ/秒。100%オープンソースで、90以上の言語に対応しています。
Marker v2が解決する具体的な問題
文書変換ツールは以前から存在しますが、既存ツールが苦手とする場面がいくつかあります。表が複数段に分かれているPDF、図表と本文が入り混じったスライド、縦書きや手書き混じりの日本語文書——こうした「厄介なレイアウト」で変換精度が落ちる点が長年の課題でした。
Marker v2は変換パイプライン(処理の流れ全体)を刷新し、レイアウト認識とテキスト抽出を分けて処理することで精度を上げています。出力がMarkdownであることのメリットは、そのままLLM(大規模言語モデル)のプロンプトに貼り付けられる点と、RAG(検索拡張生成:社内文書を検索してAIに回答させる仕組み)のインデックス構築に直接使える点にあります。プロンプトの書き方を工夫するよりも、入力するテキストの質を上げる方が回答精度への影響が大きいケースは少なくなく、プロンプトエンジニアリングの基礎と並んで「文書の前処理」を学ぶ意義はここにあります。
処理速度23.7ページ/秒は個人に関係あるか
「B200 GPU 1枚で23.7ページ/秒」という数字だけ見ると、クラウド事業者や大企業のインフラ担当者向けの話に聞こえます。ただ、この数字は別の角度から読むことができます。
下の表は、ファイル規模別に変換にかかる時間を試算したものです(B200環境を基準とし、一般的なGPUサーバーでは3〜5倍の時間がかかると想定)。
| ファイル規模 | 総ページ数 | B200環境での目安 | 一般GPUサーバーでの目安 |
|---|---|---|---|
| 月次レポート1冊 | 約20ページ | 約1秒 | 3〜5秒 |
| 社内規定集 | 約200ページ | 約9秒 | 30〜45秒 |
| 過去3年の議事録 | 約3,000ページ | 約2分 | 6〜10分 |
| 全社契約書データベース | 約50,000ページ | 約35分 | 2〜3時間 |
月次レポート20枚程度なら、個人のPCでも十分現実的な時間で終わります。「社内文書を全部RAGに入れたい」という要件になって初めてGPUサーバーが必要になる規模感で、個人ユーザーやスモールチームにとっては過剰スペックな話ではありません。
30代の実務担当者が使うとしたらどんな場面か
営業企画部で働く人を例にとると、こんな使い方が考えられます。四半期ごとに競合他社のプレスリリースやIR資料をかき集め、トレンドをまとめる作業を任されているとします。PDFで届く資料を1本ずつコピペして要約を取るのではなく、Marker v2で一括変換してMarkdownのファイル群を作り、それをChatGPTやClaudeに投げて横断比較させる——この流れを作れれば、半日かかっていた作業が1〜2時間に縮まる可能性があります。
もう一つ、法務・コンプライアンス担当者の場面も考えてみます。毎年改定される社内規程や取引先との契約書を「去年との差分をチェックしたい」というニーズは多いですが、PDFのまま比較するのは難しい。Markdownに変換してしまえば、差分ツールで変更箇所を抽出することもできますし、変更点をAIに説明させることも容易になります。ChatGPTを業務で使う際の基本的な流れは別記事で整理していますが、その「入力品質を上げる」ステップとして文書変換ツールは位置づけられます。
オープンソースであることの実際的な意味
100%オープンソースという点は、無料で使えるという側面だけでなく、データが外部サーバーに送られないという点でも重要です。商用の変換APIを使う場合、契約書や個人情報を含む社内文書を外部に送信することになり、情報セキュリティの観点からIT部門が許可しないケースが出てきます。Marker v2はセルフホスト(自社のサーバーや手元のPCで動かすこと)が可能なため、機密性の高い文書でも扱いやすい選択肢になります。
GitHubでコードが公開されており、Pythonが動く環境であればインストールして試せます。PIPコマンド数行で動作するので、エンジニアでなくても少し調べれば動かせるレベルです。ただし、GPU環境なしでCPUだけで動かすと処理速度は大幅に落ちるため、大量処理をするならGoogle ColabやAWSのGPUインスタンスを使う選択肢を検討する価値があります。
Marker v2を試す前に確認しておきたいこと
期待値を正しく持つために、現時点での制限も把握しておく方が良いでしょう。完全な手書き文字の認識精度はOCR専用ツールには及ばないことがあります。また、複雑な数式や化学構造式のような特殊な記号は、Markdownで完全に再現できない場合があります。日本語については90言語対応の中に含まれていますが、縦書き文書での精度は横書きより落ちる傾向があります。
社内展開を考えるなら、まず手持ちのPDFで変換テストを行い、出力の質を確認してから判断する方が確実です。「どんな文書でも完璧に変換できる」というツールは現時点では存在しません。Marker v2が得意なのは、標準的なレイアウトの文書を高速に、一定以上の品質でMarkdownに変換することです。
AIを使った副業やスキルアップを考えているなら、AI副業の全体像で紹介しているようなRAG構築の案件で、Marker v2のような前処理ツールの知識は差別化要因になります。文書変換の工程を自動化できる人材は、単にChatGPTを使えるだけの人よりも提案の幅が広がるからです。
まとめ
Marker v2は「PDFをAIに読める形にする」という地味な作業を、大規模でも現実的な速度でこなせるようにするツールです。1枚のPDFを変換したいだけなら選択肢はいくつもあります。ただ、数百〜数千ページの社内文書をまとめてAIに処理させたい、かつデータを外部に出したくないという条件が重なったとき、オープンソースで高速なMarker v2は検討に値します。
あなたの職場で「AIに読み込ませたいけれど、変換が面倒で手が止まっている」ファイルは、どこにどれだけ眠っているでしょうか。

