「生成AIは“答え”を出すために使うな」 IT運用で成果を出す「発散」の生かし方：“AI浅慮”を防ぎ、IT運用の品質を高める生成AI活用法

生成AIはIT運用の切り札として期待を集める一方、使い方を誤れば“劇薬”にもなる。成果を引き出すために、IT運用担当者は生成AIをどう生かすべきか。専門家が実践的な活用法を解説する。

[名須川竜太, 編集：鳥越武史，＠IT]

　システム開発で急速に普及する生成AIは、IT運用の現場においても業務変革の手段として期待が寄せられている。こうした中「生成AIはIT運用の切り札になり得るものの、使い方によっては品質とスピードの低下を招く“劇薬”にもなる」と注意を促す専門家がいる。科学的／工学的な視点で長期的に通用するIT運用設計の在り方を提唱し、近年は「エンジニアの再定義」にも注力する、運用設計ラボの波田野裕一氏（シニアアーキテクト）だ。

　「1回正しく動いた論理は、何回でも正しく動く」ことを前提に構築したIT運用業務に、確率による揺らぎがつきまとう生成AIをどう組み込めばよいのか。安易なAIへの信奉が招く“AI浅慮（せんりょ：十分に考えず判断すること）”のわなを回避し、属人化の解消と暗黙知の形式知化へとつなげるために、システムと人の役割をどう分担すべきなのか──。

　波田野氏はこうした問いに答えるために、2026年2月開催の「＠IT Operator Live 2026 冬」で、「生成AIは運用の切り札か、劇薬か ― AIOps時代に求められる“賢い使い分け”」と題して講演した。本稿はその内容を基に、IT運用担当者が知るべき生成AIの特性と、実践的な活用指針を紹介する。

“演繹のIT"と“帰納のAI"　完全な手離れが不可能な理由

　IT運用のベースになるのは「演繹（えんえき）的推論」だ（図1）。これは、正しいことが分かっている前提を個別の事象に当てはめて、結論を導く考え方を指す。ITシステムは、この演繹的推論に基づいて、論理を機械的かつ「決定的」に実行する。波田野氏の言葉を借りれば「1回正しく動いた論理は、100万回正しく動く」というのがITの世界だ。

　これに対して生成AIは「帰納的推論」をベースにしていると、波田野氏は説明する。

　帰納的推論は、複数の実例から共通する傾向や法則性を見いだす考え方を指す。演繹的推論のように結論が必ず1つに収束するわけではなく、複数の候補に広がる可能性がある。こうした帰納的推論をベースにする生成AIは、同じ入力であっても毎回同じ結果を返すとは限らない「非決定的」な性質を持つ。同氏は、こうした性質を「発散」と表現する。

図1　IT運用がベースにする演繹的推論と、生成AIなどのAIがベースにする帰納的推論の違い（出典：波田野氏の講演資料）《クリックで拡大》

　日本企業は必要以上に100％の正確さを求める傾向があると、波田野氏は指摘する。

　生成AIは確率に基づいて回答を生成することから、期待した回答を返さないことがある。仮に期待通りの回答が得られる割合が高かったとしても、処理件数が増えれば、確認や修正が必要な回答の件数が無視できなくなる。そうした回答を見つけ出して修正する作業は、最初から演繹的推論に基づいて処理するよりも、はるかに手間がかかる。

　波田野氏は、生成AIに期待するのは60〜80％程度の完成度にとどめた方がよいと指摘する（図2）。「回答を100％まで仕上げるための最終的な判断や意思決定は、人が演繹的推論に基づいて担うという割り切りが必要です」（同氏）。生成AIがどのような回答を示したとしても、最終的な責任を負うのは人だ。生成AIが帰納的推論に基づく非決定的なツールである以上、完全に任せ切ることは難しい。

図2　非決定的な性質による生成AIの限界（出典：波田野氏の講演資料）《クリックで拡大》

過信がもたらす“AI浅慮"　業務品質を低下させる失敗パターン

　非決定的である生成AIをIT運用に組み込む際、波田野氏が最も危惧するのが、“AI浅慮”のわなだ。これは生成AIの回答を過剰に信頼し、そのまま実務に適用してしまう状態を指す。集団で不合理な判断が繰り返される「集団浅慮」に着想を得て、昨今使われ始めている言葉だという。「生成AIがいかにも正しいことを言っているように見えることから、生成された回答を過剰に信頼し、そのまま実務に適用してしまうケースが増えています」と波田野氏は指摘する。

　生成AIがもっともらしい回答を返すからといって、これまで確実なIT運用を担ってきたエンジニアを軽視し、生成AIで代替しようと考えるのは致命的な間違いだ。生成AIの特性を理解しないまま適用範囲を広げれば、妥当性を説明できない回答が大量に生まれ、レビューや承認の負荷が増してしまう。結果として「レビューや承認を担うシニアエンジニアやマネジャーが疲弊してしまうでしょう」と波田野氏は警鐘を鳴らす。その結果としてIT運用の品質は低下し、スピードも落ちる。生成AIが組織をむしばむ“劇薬”となってしまうのだ。

生成AIの真価は「発散」　属人化や暗黙知の整理に生きる

　IT運用業務は、ドキュメントの有無や突発性、起因組織によって「定時作業」「申請作業」「緊急作業」「属人／専門作業」の4つに分類できると波田野氏は説明する（図3）。このうち3つ目までは演繹的推論に基づいて作業手順を定義できる。一方で属人／専門作業は、十分なドキュメントが存在しないことがほとんどであり、作業手順をあらかじめ定義することが難しい。そのため決められた手順に沿って処理する演繹的推論だけでは対処しにくい。

図3　4つのIT運用業務における生成AI活用の基本的な方針（出典：波田野氏の講演資料）《クリックで拡大》

　人が1人で考える場合は、どうしても個人の経験や知識の範囲にとどまりがちだ。生成AIはその発散という特徴によって、大量の情報を基に、人が気付きにくい特徴や関連性を見いだせる可能性がある。インターネットなどオンラインの膨大な社会知識や専門知識を基に、多角的な視点から情報やアイデアを提示できるのも生成AIの強みだ。こうした特性を持つ生成AIは、作業手順をあらかじめ定義しにくい属人／専門作業との相性が良い（図4）。

　例えば障害原因の探索は「職人芸的な要素が強く、最も生成AIを活用しやすい」と波田野氏は話す。以前は確率に基づいて推論する手法である「ベイズ推定」を利用して、障害原因を確率統計的に特定しようとする試みが見られた。近年は生成AIを活用した手法も広がりつつあり、大手クラウドベンダーも関連機能の開発に注力している。

　波田野氏が「個人的に生成AIを一番使いたい」と話すのが、ブラックボックス化したツールのリバースエンジニアリングだ。ツールの仕組みを解析して理解するこの作業は「開発者以上のスキルを要し、多くの時間がかかるにもかかわらず、評価されにくい」（同氏）。生成AIならば、調査の当たりをある程度付けてくれる。「現場で苦労している者にとっては、まさに救世主です」と同氏は語る。

　既に属人化された暗黙知の整理にも、生成AIは役立つ。生成AIがインタビュー形式で質問を重ねながら、担当者の知識や経験を引き出し、整理する――。こうした活用方法は「これまで十分に手を付けられなかった、属人化の課題への特効薬になる可能性があります」と波田野氏は話す。

　IT運用で生成AIを活用する場合、最も取り組みやすいのがブレーンストーミングだと波田野氏は説明する。打開策を検討する際、1人で考え込むのではなく、生成AIと対話しながら進めるといった活用だ。「他の活用方法と比べて副作用がほとんどなく、発散の効果も実感しやすい」と同氏は話し、最初の取り組みとして勧める。

図4　IT運用の属人／専門作業における生成AIの活用例（出典：波田野氏の講演資料）《クリックで拡大》

最後に“収束"させるのは人　生成AIに淘汰されないエンジニアの条件

　属人／専門作業での活用に慣れたら、次は定時作業や申請作業、緊急作業といった演繹的推論に基づく業務のブラッシュアップに進む（図5）。人が構築したIT運用の手順をベースにしながら、改善案や新たな視点を検討する際に、生成AIの特性を生かす。

　具体的な活用例としては、さまざまな作業手順のレビューや、自動生成したレポートに対するコメント案の生成、ツールの見直しなどが挙げられる。過去の緊急作業の内容を分析し、改善案の候補を生成AIに提示させる活用方法も有効だ。

図5　IT運用の定時作業や申請作業、緊急作業における生成AI活用の基本的な方針（出典：波田野氏の講演資料）《クリックで拡大》

　生成AIを活用する際には、忘れてはならない生産工学の常識がある。「どんな入出力も、入力の品質以上の出力は得られない」ということだ。まずは生成AIへの指示であるプロンプトを、前提条件やルールを明確にした上で論理的に設計する必要がある。そうすることで、より妥当な回答が得やすくなる。その上で、生成AIが提示した回答の中から妥当なものを取捨選択して、1つの結論に収束させる――。これこそが生成AIを使いこなすエンジニアに求められる能力だというのが、波田野氏の考えだ。

　「生成AIの回答に対して、最終的に人が『演繹的に責任を取る』ことを繰り返すことが重要です」と波田野氏は話す。これを実践できるかどうかは、エンジニアのスキルセットに依存する。同氏によると、基礎を身に付ける段階にあるジュニアエンジニアには「読解力」、実務の担い手で業務報告や障害報告をする機会の多いレギュラーエンジニアには「論述力」、関係者を巻き込む立場にあるミドルエンジニア以上には「説得力」が求められる。生成AIを使いこなす上では、特に説得力が重要になるという。

　生成AIは、オンラインで入手できる一般的な社会知識や専門知識は豊富に持つ一方で、企業固有の業務知識など、現場で培われた知識は基本的には持っていない。そのため業務で生成AIを活用するには、人が持つ知識や経験との組み合わせが不可欠だ。

　一方で生成AIが示す社会知識や専門知識も、そのまま正しいとは限らない。回答を適切に評価して自社の業務に適用するには、使う側にも社会知識や専門知識が求められる。「社会知識や専門知識を日ごろから学び続けているエンジニアほど、生成AIをより有効に活用できる」と波田野氏は説明する。

　演繹的推論に基づいて仕事ができる人の価値は上昇する一方で、複数の情報から候補や仮説を導き出すといった「帰納的な仕事」しかしていないミドル未満のエンジニアは、「将来的に仕事を失う可能性が非常に高い」と波田野氏は語る（図6）。生成AIが帰納的な仕事を担うようになれば、人には演繹的推論に基づく判断や責任を果たす役割が一層求められるようになる。その結果、将来のエンジニア組織にはトップエンジニアとシニアエンジニアしか残らない可能性があるという。

図6　生成AIがエンジニアに及ぼす影響（出典：波田野氏の講演資料）《クリックで拡大》

AI活用の前に「演繹的アプローチ」を徹底すべし

　生成AIの活用を進める上で最大の障壁として、波田野氏は日本企業に根付くボトムアップ偏重の企業文化を挙げる。同氏によると日本企業はIT運用において、あるべき姿や原則を定めてから個別の業務に落とし込む「演繹的アプローチ」が苦手であり、現場任せのボトムアップ型でIT運用を進めがちだ。その結果、IT運用のやり方が組織全体で整理されず、現場の実態が経営層から見えにくくなっているという。「経営層は『IT運用担当者はいつも忙しそうだが、何をしているか分からない』という状態に陥っている」と同氏は指摘する。

　現場の実態がブラックボックス化したまま、安易に生成AIを導入しても期待した効果は望めない。生成AIを活用する大前提として、まずはトップダウンの演繹的アプローチに基づくIT運用を徹底すべきだと波田野氏は指摘する。具体的には「人が理解しやすい」「システムで扱いやすい」「論理的な正しさが検証されている」という3つの条件を満たした“あるべきIT運用”を構築することが先決だという。

　演繹的アプローチに基づいてIT運用を整備すれば、「なぜこの作業をするのか」という根拠が明確になる。その結果、ドキュメントや引き継ぎでも作業の意図を説明しやすくなり、新人エンジニアも業務の背景を理解しやすくなる。まずは演繹的アプローチに基づくIT運用を整備した上で、生成AIによる発散を組み合わせる――。これが波田野氏の考える、IT運用への生成AI活用の基本的な考え方だ。

生成AIは「優秀だが暴走しがちで無責任な外注エンジニア」

　生成AIを業務で活用するには、付き合い方に工夫が必要になる。波田野氏は、生成AIを「優秀だけれど暴走しがちで、責任は取ってくれない低価格の外注エンジニア」に見立ててマネジメントすることを勧める。あるいは同氏の妻の言葉を借りて「“ドラえもんのひみつ道具”だと思って付き合うといい」と例える。「ひみつ道具はすごいものですが、使い方を間違えると痛い目に遭う。そうした前提で使うと、非常に付き合いやすいのではないでしょうか」と同氏は語る。

　IT運用の基本は、あくまでも演繹的推論にある。生成AIは全てを任せる相手ではなく、人による確実なIT運用を支えるツールとして、賢く使い分けることが重要になる。「何よりも言いたいのは、日本の組織はまず演繹的アプローチに比重を置くべきだということ（図7）。その土台があって初めて、使い方を誤らずに生成AIを活用できるのです」（波田野氏）

図7　生成AI活用における演繹的アプローチの重要性（出典：波田野氏の講演資料）《クリックで拡大》