AIが書いたコードの「未知のリスク」にどう向き合う？――鍵は「エンジニアの能力を拡張できるか」：New Relic CEOに聞いた、これからのSREと可観測性

AIによってソフトウェア開発のスピードは飛躍的に高まっている。一方、AIで生成されるコードの増加は、システムの挙動にどのような影響があるのか把握することを一段と難しくする。企業はこれにどう向き合うべきか。オブザーバビリティーツールを提供するNew RelicのCEO、アシャン・ウィリー氏に聞いた。

[遠藤文康，＠IT]

　「私の30年のキャリアの中でも見たことのないほどの技術革新や進化がこの1年ほどの間に起きているが、中でもソフトウェア開発への影響が大きい」――。オブザーバビリティー（可観測性）ツールを提供するNew RelicのCEO、アシャン・ウィリー氏は、われわれは今“スーパーヒューマン”時代にあり、AIと共に働くことで人間の能力が拡張され、従来の仕事の在り方が大きく変わりつつあると指摘する。

　ソフトウェア開発のスピードがこれから一段と加速していく一方で、AIによって生み出されるコードの増加は新たな課題も生む。全てのコードを人間が把握し、システム全体の挙動を理解することは一層難しくなってくる。AIがシステム開発やシステム運用の在り方を変える中で、企業はどうこの変化に向き合うことができるのか。ウィリー氏に聞いた。

AI生成コードがもたらす“見えないリスク”

New Relicのアシャン・ウィリーCEO

――AIコーディングが広がることで、AI生成コードの影響を把握し切れなくなるという新たな課題感が浮き彫りになりつつあります。

ウィリー氏　「人間のソフトウェア開発を支援する」だけにとどまらず、ソフトウェア自らがソフトウェアを作り始める段階へと移行している。世界中のどの国に行っても、企業との対話の中でAI導入に関する課題が出てくる。日本でもCTO（最高技術経営者）は「ジュニアエンジニアが書いていたコードをAIが担うようになる中、チームをどのように再教育（リスキリング）すればいいのか」「AIが生成するコードをどのように監視すればいいのか」といった課題を挙げている。

　AIによってより多くのソフトウェアが生み出されるほど、企業はそのソフトウェアが事業にどのような影響を及ぼすのかを理解しなければならない。これは企業にとって差し迫った深刻な問題だ。

――AIの利用が広がるほど、システムの安定性と信頼性を維持することについて従来以上に気を配らなければなりません。

ウィリー氏　システムにおける何らかの問題がビジネスに与える影響はますます大きくなっている。当社の調査（2025 オブザーバビリティ予測レポート）では、深刻なシステム停止が発生した場合の1時間当たりの損失コストは、中央値で200万ドル（約3億円）に上っている。

　CIO（最高情報責任者）やCTOは、レイテンシといった技術的な視点よりも、それがビジネス成果にどのような影響をもたらすのかにより大きな関心を持ち始めている。システム運用の問題は、自社のエンドユーザーの体験、ユーザー満足度など、事業の損益に直結する問題になり得る。今はAIエージェントが生み出すコードを把握できなくなることのリスクを併せて考える必要がある。

システムの信頼性を維持するための“これからのオブザーバビリティー（可観測性）”

――AIエージェントがますます多くのコードを生み出すようになる中で、今後はどのようなアプローチが重要になってくるのでしょうか。

ウィリー氏　まずはコードが本番環境で適切に動作しているかどうかを確認し、それによって迅速にコードの改善につなげられるようにすることをNew Relicとしては重視している。これまで以上にコードが高速に生成されるようになってきたからこそ、そのコードを信頼できるのかどうかを迅速に確認することが重要になる。

　オブザーバビリティーは、コードの信頼性を維持するためのフィードバックの役割を担う。例えばNew Relicは2025年に「GitHub Copilot」のエージェント機能との連携を発表した。エージェントに対して「どこを修正すべきか」に関するシグナルを提供し、エージェントはそれを基にコードを修正する。ソフトウェアを迅速にリリースする上で、この役割は重要になる。

　処理の中にAIが組み込まれる場合は、「トークンコストの適正さ」「プロンプトの正しさ」「コンプライアンスへの適合」「適切なモデルやツールの選択」などの観点も必要になる。そうした情報も含めてコードが正しく動作しているのかどうかを判断するための材料を提供する。

　本番環境における脆弱（ぜいじゃく）性を検出し、そのリスクを踏まえて改善につなげることもオブザーバビリティーの役割として重要になっている。

――AI活用が拡大する中で、オブザーバビリティー自体はどのような方向性で変わっているのでしょうか。

ウィリー氏　オブザーバビリティーは「システム内部でなぜその事象が起きているのか」を明らかにするためものだ。システム環境が複雑化すると、システムで何らかの問題が発生した場合に、何を確認すればよいのか自体が分からなくなるケースが増えてくる。

　オブザーバビリティーと混同される概念としては、「モニタリング」があるが、モニタリングは「何を探すのか」が分かっている前提で実施するものだ。オブザーバビリティーでは場所や形式を問わずさまざまなデータ（メトリックス、ログ、トレースなど）を収集し、「なぜ起きているのか」という問いに答えようとする。

　AIの活用が進むと、問題を突き止めるために何を探せばよいのかが分からなくなる傾向はより顕著になるので、オブザーバビリティーの必要性は一段と高まる。

　流入するデータ量があまりにも増大し、人間だけではそれを理解するのが難しくなっているのが今起きていることだ。そうした中でオブザーバビリティーは、「何が問題なのか」「どう解決すべきか」「ビジネスにはどのような影響があるのか」をシステムが自動的に提示する“インテリジェント・オブザーバビリティー”へと進化していく必要がある。

――オブザーバビリティーにおいてオープン標準を重視する動きがあります。

ウィリー氏　「OpenTelemetry」は当社にとって重要な注力領域だ。顧客におけるOpenTelemetryの採用が進んでおり、特に大規模な環境において利用が広がっている。当社はOpenTelemetryとNew Relicのエージェントを組み合わせて活用できるように推進している。これによってベンダーロックインを回避できるというオープンソースの利点を取り入れつつ、New Relic独自の技術やノウハウも生かすことができる。

　ソフトウェア開発においては、開発プロセスの中にOpenTelemetryを組み込む動きがある。これにより、開発段階からテレメトリーデータを取得し、New Relicのプラットフォーム上で可視化、分析できるようになり、問題の早期発見と迅速な修正につながる。

　ただしOpenTelemetryを選ぶかどうかは単純な置き換えの問題ではなく、顧客ごとの考え方の違いによるものだ。ある顧客はオープン標準を重視し、できるだけOpenTelemetryを使いたいと考える。機能性やビジネスへの影響を重視するある顧客は、New Relicの機能をフルに活用したいと考える。

人間の能力を拡張するSREエージェント

――問題の解決にAIが役立つ一面もあります。SRE（サイト信頼性エンジニアリング）エンジニアの役割にはどのような影響があるのでしょうか。

ウィリー氏　AIを使って“人間の能力をどれだけ高められるか”が重要な局面に来ている。われわれは今のフェーズを「完全自動化の時代」ではなく、「スーパーヒューマン時代」と呼んでいる。スーパーヒューマン時代を迎えるということは、人間の生産性や判断力をAIを使って引き上げることを意味する。SREエージェントは人間をより賢くし、問題解決へとより迅速に到達できるようにするためのものであり、それによってシステム運用において非常に複雑な問題が発生した場合、その平均修復時間（MTTR）を大幅に短縮できるようになる。これは、その先にある完全自動化へと向かうための基盤となる。

　AnthropicやOpenAIなどさまざまなベンダーのAIが使われるようになる中で、企業が安心してAIを導入・利用できるようにすることもオブザーバビリティーに求められる役割だ。

――何をもってオブザーバビリティーが成功していると言えるのでしょうか。

ウィリー氏　まず前提として、オブザーバビリティーはツールを導入しただけでは成功しない。組織内のデータをどのように統合するかが重要だ。データを一元化された基盤に集約することで、AIを活用した高度な分析や洞察が可能になる。ツールの分断（サイロ化）を解消することも重要だ。乱立、分散しているツールやデータを集約し、一元的に把握できるようにすることでより効果的なオブザーバビリティーを目指せるようになる。

　それによって十分なデータを集め、適切なアクションを導き出せる状態にすることが成功の一つの要素だと言える。問題が発生した後に対処するだけではなく、事前に予測し、先回りして解決できるレベルに到達することを目指すべきだ。

　もう一つ「民主化」を重要な視点として加えておきたい。つまり、オブザーバビリティーの価値をSREチームのエンジニアだけに限定するのではなく、ビジネス全体に広げること。エンジニアなど技術者だけがデータを利用できる状態になりがちだが、開発、運用、セキュリティ、さらにはビジネス部門まで含めて、誰もがリアルタイムのデータやインサイトを活用できる状態にすることがもう一つの成功の要素になる。

　オブザーバビリティーはビジネス目標の達成を加速するためのものだ。オブザーバビリティーのデータを部門間で共有することで、顧客満足度を向上させる。それが最終的には企業の収益拡大に結び付く。

---

　近年、クラウドシフトやCI／CD（継続的インテグレーション／継続的デリバリー）の採用、マイクロサービス化などによってシステム変更のスピードが向上する一方、システム構成が複雑になりオブザーバビリティーの必要性が高まってきた。そうした中でAI生成コードという状況を一層複雑にする要因が加わり、システム内部の「ブラックボックス化」はこれまで以上に急速に広がることになる。

　ウィリー氏が現状についてあえて“スーパーヒューマン時代”だと強調したのは印象的だ。AIが勝手にシステムを維持してくれるならよいが現状はその段階には至っておらず、AIがもたらす非決定的な挙動と変更スピードの加速に対して、AIを活用しながら人間の能力を“拡張”することで状況を把握し、適切な判断を下していかなければならない。

　ただしオブザーバビリティーのツールやAIエージェント機能を導入しただけで解決し得ないことは、ウィリー氏も前置きしている通りだ。観測したデータを継続的な改善につなげる「組織文化」を醸成し、開発や運用、そしてビジネス部門が同じインサイトを共有して収益拡大に向けて動く組織間連携も求められる。AIが生成するコードがビジネスにプラスにもマイナスにも計り知れない影響を与え得る今こそ、システム稼働状態をビジネスの損益を左右する現実的な問題として捉え直すチャンスだと言える。