AIをどこに置き、どこに置かないか

失敗したAI導入の多くは、根本の原因を共有しています——信頼性を要する運用システムの「中」にAIを埋め込んだのです。本来は、洞察を要するシステムの「上」に、知性の層として置くべきだったのに。運用の卓越性は一貫性とトレーサビリティを重んじ、それは何世代もかけて築かれた規律です。リーダーが直面する問いは、もはや「どこにAIを足すか」ではなく、「AIはどこに座るべきか——そして、どこに意図的に座らせないべきか」です。本稿では、CXOの視点で解説します。

衝突：運用とAIは、異なる要件を持つ

運用の卓越性は、AIが自然には提供しない4つの能力を要します。

• 決定論(Determinism)運用システムは同じ入力から同じ出力を生まねばなりません——それが信頼性の定義です。AIは確率的に動き、「同じプロンプトが異なる補完を返し得る」。ナレッジワークには許容できても、取引処理には許容できません。
• 監査可能性(Auditability)あらゆる運用判断には、誰が・何を根拠に・どのデータで・いつ決めたかの追跡が要ります。AIの推論は不透明になり得る。「思考の連鎖(Chain-of-thought)」は要約であって記録ではなく、規制当局も裁判所もモデルの推論を証拠として扱う基準を持ちません。
• 境界づけられた説明責任運用上の責任は、名前のある人間かシステムに帰属しなければなりません。AIがプロセスを代行するとき、アーキテクチャがそれを防がない限り、説明責任は拡散します——「エージェントが誤ったAPIを呼んだとき、誰が責任を負うのか?」
• 継続的で可逆な改善運用は、漸進的で測定可能、かつ可逆な変更——カイゼンの規律——で改善します。AIの更新はそうふるまうことが稀です。「モデルのアップグレードは段階的な飛躍になり得る。プロンプトの一改訂が、下流のすべての消費者に波及する」。

AIが運用に「危険」なのではありません。AIは運用卓越性の要件を直接満たすようには設計されていないのです。

3つのゾーン：AI主導・AI支援・AI不在

• AI主導(AI-driven)システムが本質的に「知性の層」として機能し、人間には届かない速度でパターンを見つけ、異常を浮かび上がらせ、洞察を生みます。AIがなければシステムは存在しない。ただしAIは記録システム(整備指示・部品の解放・請求・規制申告)には踏み込みません。
• AI支援(AI-assisted)決定論的なコアが記録システムとして保たれ、AIは隣に座って取得を加速し、応答を草案し、文脈を浮かび上がらせます。AIは診断判断・顧客への約束・契約執行・安全上の承認には踏み込まず、人間が主たる意思決定者であり続けます。
• AI不在(AI-free)システムが事業を直接動かします——取引処理、金融決済、コンプライアンス承認、安全クリティカルな出力。AIは洞察や文脈でオペレーターに情報を与え得ますが、このゾーンが存在するのは技術的にAIが不能だからではなく、これらのシステムで確率的なふるまいが招くコストが「非対称で深刻」だからです。

選択の原則

ゾーンを決める単一のテストはこうです——「この判断は決定論を要するのか、それとも知性から恩恵を受けられるのか?」。決定論を要する判断はAI不在またはAI支援へ。適切なガバナンスを伴う知性重視の判断は、AI主導を可能にします。ここで、任天堂の横井軍平が説いた「枯れた技術の水平思考」を想起しましょう。その系として——何年もかけて磨かれた運用システムを、AIが利用可能になったというだけで書き換えてはなりません。「システムが要件を確実に満たしているなら、立証責任はAIで拡張した版の側にあり、機能している既存システムの側にはない」。動いているものを、むやみに乱さないことです。

本番の3ゾーン

日本の自動車で最も丁寧に設計されたAIプログラムから、3つの本番事例があります。AI主導(本番):ある国内商用車グループは、複数のディーラー拠点にわたるリアルタイムのディーラー・インテリジェンス基盤を運用。異なるシステムのシグナルを統合し、整備スループットの異常を浮かび上がらせ、10分ごとに更新されるダッシュボードで部品需要を予測します。「AIがシステムそのもの。なければ、その可視性は存在しない」。修理指示・部品解放・顧客への約束・財務照合といった運用判断は、運用システムに戻されます。AI支援(本番):同グループは2024年後半から整備士向けのナレッジCo-Pilotを展開。複雑な診断状況で手順・過去事例・速報を取得しますが、診断判断・修理承認・車両解放・署名は行いません。この境界が、同種展開より高い採用率を生みました——「信頼は境界に“もかかわらず”ではなく、境界“から”生まれた」。AI不在(本番):注文解放・部品請求・ディーラー報奨の決済といった取引システムは、グループ全体でAI不在のままです。

これからの方向

いま(2025〜2026)、企業はAIを既存運用に後付けし、緊張に直面します。パイロットは狭くは成功しても、広い運用スタックに出会うと失速する。次の2年(2026〜2028)、この緊張を学んだ企業は、意図的にAIを「ゾーニング」します。3ゾーンの規律が標準的な実践となり、語彙は「AI戦略」から「AIアーキテクチャ」へ移ります。2028年以降、運用の卓越性はAIネイティブになり、AIは後付けではなく構造的に設計に組み込まれます。3つの事例を貫くのはAIそのものではなく、「AIがどこに座るかを決めた規律」です。ゾーンはモデルの前に選ばれた——その選択こそが、展開を「四半期」ではなく「何年も」持続させたのです。AIをどこに置き、どこに置かないかを設計するために、Cubastionのビジネスソリューションにご相談ください。

Kumar Gaurav Harsh, Cubastion Consulting