新規ソリューション KOVA® : 全社のAIを、ひとつに。安全に。 詳細を見る →
Blog
ブログ · インサイト記事

非構造化データを、構造化データとどう結ぶか

FOLLOW US

ドキュメント・画像から、オントロジー/知識グラフへ

構造化ストリーム(直接接続)と非構造化ストリーム(抽出→マッピング→エンティティ解決)をオントロジー/ナレッジグラフで結びAIにつなぐパイプライン

本稿は、エンタープライズAIの「意味の層」シリーズの併走記事です。シリーズ(第1部)では、確率論的なAIを、決定論的な業務知識(オントロジー/ナレッジグラフ)で支えるという考え方を扱いました。そこで前提にしていた——けれど詳しくは述べていなかった——のが、「構造化データと非構造化データを、どう結ぶのか」という問いです。本稿は、その技術的な道筋を掘り下げます。

価値の多くは、非構造化の中にある

業務の意思決定に効く情報の多くは、整然としたデータベースの外にあります。クレームの自由記述、契約書、技術マニュアル、メール、点検レポート、そして画像——損傷写真、部品の画像、図面、スキャンされた帳票。これらは「非構造化データ」と呼ばれます。

一方、基幹システムが持つのは「構造化データ」——行と列に整理された、取引やマスタの記録です。問題は、価値ある非構造化データと、信頼できる構造化データが、別々の世界に分かれていることです。そして現場の問いは、しばしば両方にまたがります。

二つのストリームと、その非対称性

第1部で触れたとおり、企業のデータは構造化・非構造化の二つのストリームとして並行して流れています。ただし、両者の扱いには非対称性があります。

構造化データは、すでに「意味」を持っています。VINは車両を、顧客IDは顧客を指す——だから、オントロジーの実体としてほぼそのまま接続できます。一方、非構造化データは、人間には読めても、機械にとっては「意味」が明示されていません。そこから業務上の意味を取り出す工程が必要になります。

その工程は、大きく三段階です。抽出 → マッピング → エンティティ解決。順に見ていきます。

ステップ1 ― 非構造化から「意味」を取り出す(抽出)

入力タイプ別の抽出(テキスト/ドキュメント/画像)から共通の中間表現(エンティティ・属性・関係)へ

抽出の手法は、入力の種類によって異なります。

テキスト(メール・自由記述)。 固有表現抽出(NER)でエンティティ(人・組織・製品・部品など)を取り出し、関係抽出やLLMによって「主語・述語・目的語」のトリプルを起こします。たとえば「カローラの保証クレーム」という一文から、(クレーム, 対象, 車両) (車両, 種別, カローラ) といった構造を取り出す。これは、第1部で触れたGraphRAG(テキストからグラフを起こす手法)と同じ発想です。

ドキュメント(帳票・契約・クレーム票)。 単なるOCR(文字起こし)では足りません。ドキュメントAIは、レイアウトを理解し、キーと値、表、項目の対応関係まで構造として取り出します。Cubastionが用いるAzure Document Intelligence(Form Recognizer)はこの領域の技術で、スキャンPDFや手書きを含む帳票から、フィールド単位でデータを抽出します。

画像(損傷写真・部品・図面)。 マルチモーダルのモデルが、画像から属性や状態を推定します。たとえば損傷部位の特定、部品種別の判別、図面からの記号の読み取りなど。ただし画像は、テキストや帳票よりも誤りやすい領域です。だからこそ、後述する信頼度と検証が、ことさら重要になります。

入力の種類ごとに手法は違っても、出力は共通の中間表現——エンティティ・属性・関係(トリプル)——に揃えます。これが、次の工程の入口です。

ステップ2 ― オントロジーという「受け皿」にマッピング

抽出した生のエンティティや属性は、まだ表記の揺れを抱えています。「保証」「ワランティ」「Warranty」が、別物として出てくる。ここで効くのが、オントロジー(定義済みのスキーマ)を受け皿にすることです。

抽出された語を、オントロジーが定義する正規の概念(クラス)とプロパティに対応づけます。同義語や表記揺れを、一つの正規概念に寄せる。こうして、どの入力源から来たデータも、同じ「意味」の上に揃います。受け皿となるスキーマがあるからこそ、雑多な抽出結果が、一貫した知識として積み上がっていきます。

ステップ3 ― 構造化データと「結ぶ」=エンティティ解決

抽出された言及をエンティティ解決(名寄せ)で構造化側の正準実体(VIN・顧客ID)に結ぶ

ここが、本稿の核心です。非構造化から取り出したエンティティを、構造化側の正準ID(VIN、顧客ID、部品番号)に解決して、同一の実体に束ねる——この工程をエンティティ解決(名寄せ/レコードリンケージ)と呼びます。これが、「結ぶ」の正体です。

手順は、おおむね次のように進みます。

  • ブロッキング: 比較対象を絞り込む(全件同士を突き合わせない)。
  • 候補生成: 似ている可能性のあるペアを挙げる。
  • マッチング: 決定的キー(VINの完全一致など)と、確率的な類似(氏名・住所の表記揺れを許容した照合)を組み合わせて、同一性を判定する。
  • マージ/信頼度: 同一と判定したものを束ね、曖昧なものは信頼度付きで保留し、人手の確認に回す。

この工程を経て、文書から取り出した「あるクレーム」が、構造化側に実在する車両・顧客・部品に接続されます。ここで初めて、非構造化と構造化が一つのグラフになります。抽出やマッピングだけでは、まだ「結ばれて」いません。正準IDへの解決があって、はじめて両者は同じ実体を指すようになります。

アーキテクチャとして見る

全体像は、二つのストリームが一つの意味の層に合流する形になります。

  • 構造化ストリーム: 基幹システムのデータを、ほぼそのまま実体として接続。
  • 非構造化ストリーム: 文書・画像・テキストを、抽出 → マッピング → エンティティ解決を経て接続。
  • 両者が、オントロジー/ナレッジグラフの上で同じ実体に結ばれ、その上でLLM・AIエージェントが推論する。

つまり、データ → AI でも データ → オントロジー → AI でもなく、非構造化については データ → 抽出 → マッピング → 解決 → オントロジー → AI という、もう一段の工程が挟まります。

実装の現実 ― 抽出は完璧ではない

率直に言えば、抽出は完璧にはなりません。特に画像や手書き、品質の悪いスキャンでは、誤りが避けられません。だからこそ、誤った抽出を、そのままグラフに入れない仕組みが要ります。

  • 信頼度スコア: 抽出・解決の各段階に確からしさを持たせ、低いものは保留する。
  • ヒューマン・イン・ザ・ループ: 曖昧なものは人が確認する経路を用意する。
  • 出典トレース: グラフ上の各事実に、それが「どの文書の・どの箇所から来たか」を必ず持たせる。これは、第1部・シリーズで一貫して重視してきた、説明可能性と監査可能性の土台です。
  • ガバナンス/プライバシー: 文書や画像には機微情報が含まれます。何を取り込み、何を取り込まないかを、設計の段階で決める。

そして、ここでもシリーズと同じ原則が効きます。すべてを一度にやらない。一つのユースケースに範囲を絞り、そこで必要な入力源と抽出だけを、検証可能な形で組み込む。

Cubastionの実装

Cubastionは、この「結ぶ」工程を、実際のエンタープライズ環境で実装しています。ドキュメントAI・OCR(Azure Document Intelligence/Form Recognizer)による帳票・文書の構造化、Engineering.IAに見られる構造化フィルタとセマンティック検索のハイブリッド、そしてAI-CMSによる技術文書・部品情報のライフサイクル管理——いずれも、非構造化と構造化を同じ意味の上に束ねるための部品です。

まとめ ― 「結ぶ」は、魔法ではなく工程

非構造化データと構造化データを結ぶことは、魔法ではありません。抽出・マッピング・エンティティ解決という、再現可能な工程です。そして、その全工程の「受け皿」になるのが、オントロジーという意味の層です。

文書や画像の中に眠っていた情報が、基幹システムの実体と同じグラフ上で結ばれたとき——AIは、ようやく企業の知識の「全体」を相手に推論できるようになります。意味の層が効くのは、構造化データだけではありません。むしろ、これまで活かしきれなかった非構造化データを取り込めることにこそ、その真価があります。

「意味の層」という考え方の全体像は、シリーズ第1部にまとめています。自社のどのデータを、どう結ぶと効くのかを整理したい方は、AI・生成AIサービスもあわせてご覧ください。

目次

お問い合わせ

DX推進のご相談は、日本チームが1営業日以内に返信します。

ご相談ください

レポートを無料でダウンロードする

Cubastionの個人情報保護方針については弊社Website上Privacy Policyをご覧ください。