日本語
English技術者とAI
── ある自動車メーカーが、人工知能と人間の専門知識の境界線をどのように定義したか ──
「品質第一・安全第一」。日本のものづくり、特に自動車業界において、揺るがぬ原則です。AIの登場は、この原則と無関係ではありません。むしろ、新しい試練を与えています。
CUBASTION · ケーススタディ
AIが検索する。
技術者が判断する。
AIがすること
手順書の検索・提示
類似ケースの抽出
サービスブレティンの提示
文脈情報の比較
付加価値の高い業務。
説明責任を伴う業務ではない。
技術者がすること
診断
意思決定
承認・リリース
署名
説明責任を伴う業務。
委任できない。
2024年末、ある日本の商用車グループの技術部門で、一つの問いが議論されました。「AIはどこまで担い、技術者の権限はどこから始まるべきか。」その問いに、その週どう答えたか——そして、なぜそう答えたか——が、その後の展開を決めました。技術者向けコパイロット(Technician Co-Pilot)は、一年以上にわたり本番運用が続いています。同種のAIプロジェクトが、依然としてPoC段階に留まっている他社の状況とは対照的です。
この導入の物語は、技術の物語ではありません。設計判断の物語です。判断とは、境界の引き方でした。
課題:診断知識が、現場のスピードで参照できない
商用車整備の現場には、一つの構造的な課題があります。診断に必要な知識が、作業のスピードで参照できない。整備工場に入庫する現代の大型車には、数百のトラブルコードが残されていることがあります。整備履歴は複数のシステムに分かれて存在します。技術通報は長年にわたり蓄積しています。
技術者——診断と修理の判断について、法的・業務的に唯一責任を負う者——は、これらすべてを短時間で統合しなければなりません。参考資料は存在します。専門知識も存在します。しかし、いずれも、必要な瞬間に手元にはありません。
設計の問い:AIに何ができるかではなく、技術者の仕事とは何か
このグループの技術部門は、議論を「AIに何ができるか」から始めませんでした。別の問いから始めました。
技術者の仕事とは何か。そのうち、機械に委ねてはならない部分はどこか。
議論の末に明確になった答えは、業務的かつ具体的でした。技術者の責任業務は、「診断し、判断し、承認し、リリースし、署名する」ことです。これら一つ一つの行為が、規制上の重み、安全上の含意、お客様との信頼関係を背負っています。推論が完全には監査できないシステムに、これらを委ねることはできません。
一方、これら責任業務の周囲にある作業——検索、比較、統合、類似事例の参照——は、価値は高いが、責任を伴わない作業です。時間を消費する一方で、権限を確立する性質を持ちません。知性が役立つ場所は、まさにここです。
境界の決定:AIは検索する。技術者が判断する
この区別から、境界は明示的に引かれました。
AIが担うこと:技術者の照会に応じて、Technician Co-Pilotは、関連するサービス手順、類似する過去事例、該当する技術通報を、ナレッジベースから取得します。それらを、会話のスピードで技術者に返します。
AIが担わないこと:診断の確定。修理の承認。車両のリリース。サービス記録への署名。お客様向けの修理承認書の発行。これらは、設計上、AIの責任範囲から意図的に除外されています。「たまたま」除外されたのではありません。設計判断として除外されています。
この境界の根拠は、四つに分かれます。
- 規制上の責任。商用車の安全は、運輸規制当局に対する明文化された説明責任を伴います。
- 安全。更新の間に挙動が変動し得るシステムが下した診断結果を、本番に流すことは、いつか起きる安全事象を準備する行為です。
- 責任の所在。修理が現場で問題を起こした場合、責任の系列は、判断を下した特定の人間まで辿れなければなりません。
- 信頼。グループ経営層は、現実をこう理解していました——技術者は、自分の権限を脅かすAIを採用しない。一方で、自分の権限を尊重するAIは、進んで採用する。結果は、まさにその通りでした。
境界の4つの柱
柱 01
規制上の責任
サービス記録への署名は法的な証拠物件である。確率的なシステムが法的署名を担うことはできない。
柱 02
安全性
挙動がずれる可能性のあるシステムによる診断は、安全上のインシデントになりかねない。
柱 03
説明責任
責任の連鎖は、特定の人間にたどり着かなければならない。AIと技術者の間で責任が分散する構造は成立しない。
柱 04
信頼
自分の権限を脅かすAIを技術者は受け入れない。それを尊重するAIなら、進んで受け入れる。
4つすべてを満たす必要があった。どれひとつとして、妥協できなかった。
図1．境界決定の背後にある4つの柱。
実際の運用:現場のワークフロー
車両が入庫する。技術者は点検を開始する。診断に参照資料が必要となった瞬間、技術者はCo-Pilotに照会します。照会は自然言語で可能で、技術者の業務言語で行え、その場の文脈をそのまま使えます。
Co-Pilotが返すもの:関連するサービス手順、過去に解決された類似事例、当該部品または当該モデルに発行されている技術通報、その車両の整備履歴に関するディーラー側のメモ。数秒で、作業を中断せずに目を通せる形式で返ってきます。
技術者は、読み、判断し、行動します。診断は技術者のものです。修理承認は技術者のものです。署名は技術者のものです。Co-Pilotは終始、技術者が自分で参照しに行く手間を肩代わりしてくれる「速い参照経路」です。
サービスワークフロー ― 2つのレーン、1人の意思決定者
|
AIレーン検索のみ
|
検索 手順書 |
検索 過去事例 |
検索 サービスブレティン |
返却 資材情報 |
|||||
| クエリ | 返答 | ||||||||
|
技術者 意思決定者 |
→ |
点検 入庫確認 |
→ |
クエリ作成 自然言語 |
→ |
診断 判断・署名 |
|||
検索
手順書
検索
過去事例
検索
サービスブレティン
返却
資材情報
技術者
意思決定者
点検
入庫確認
クエリ作成
自然言語
診断
判断・署名
AIが検索を加速する。意思決定は技術者が担う。
図2．AIがどこから入ってどこで停止するかを示すワークフロー。
採用と成果:境界が信頼を生んだ
運用開始から一年以上が経過しました。二つの成果を挙げておきたいと思います。
一つ目は、わかりやすい成果です。診断時間が測定可能な改善を見せました。[具体的な数値はクライアントNDA確認後に差し替え]。初回訪問解決率が向上しました。
二つ目は、より語るに値する成果です。技術者によるシステム採用率が、AIを「代替」「専門家システム」「判断権限を持つパートナー」として位置づけた他社の類似展開を、明確に上回りました。AIに懐疑的であったベテラン技術者の何人かが、結果としてシステムの最も活発な利用者となりました。
境界が、信頼を生みました。判断を「より良くする」手助けはあっても、判断を「不要にする」ことはなかったからです。
他の業務AI導入への示唆
Technician Co-Pilotは、より広い原理の一例です。本番運用において四半期ではなく年単位で持続するAI導入には、ある共通する設計判断があります。「AIの業務と、責任を伴う人間の業務の境界が、技術構築の前に決められている」ことです。後付けではありません。失敗を取り繕うためでもありません。前です。
この順序——境界が先、技術が後——こそが、業務システムがAIを取り込みながらも、これまで築き上げてきた規律を失わずに済む条件です。品質第一・安全第一。これは標語ではありません。これは、AIを設計する際の制約条件です。
CIO・経営層がオペレーショナルなAIプロジェクトに対して問うべき、最も実用的な質問は、「AIはここで何をするのか」ではありません。「AIはここで意図的に何をしないのか、そしてなぜか。」この二つ目の問いに、精度をもって答えられるチームが手がけるAIだけが、本番で持続します。
境界が、設計でした。
