期待外れの生成AI、何が足りない？ なぜ「コンテキストエンジニアリング」が必要か：AIと検索についてElasticに聞いた

生成AIやAIエージェントの導入が進む中、その成果を左右する鍵として「コンテキストエンジニアリング」が注目されている。全文検索エンジンを中核としてデータ活用基盤を提供するElasticのCPOに、AIと検索の関係や、コンテキストエンジニアリングが重要になる背景、エンジニアに求められる役割などを聞いた。

[齋藤公二, 編集：遠藤文康，＠IT]

　生成AIやAIエージェントの企業における導入が進む中、重要になってきたのがデータの管理だ。AIから適切な回答を得るためには、LLM（大規模言語モデル）やAIエージェントに対して適切なデータを適切な形で渡す必要がある。そうして受け渡すデータの意味や利用される状況など“コンテキスト”を含めて管理する取り組みは、「コンテキストエンジニアリング」と呼ばれる。

　コンテキストエンジニアリングがなぜ重要なのか。どのように取り組めばよいのか。全文検索エンジンを中核としてデータ活用基盤を提供するElasticで、CPO（最高製品責任者）を務めるケン・エクスナー氏に聞いた。

AI体験の源泉は「検索」にある

――エンタープライズサーチと呼ばれるような企業情報の検索には歴史があります。生成AIの登場によってどう進化しているのでしょうか。

ElasticのCPO、ケン・エクスナー氏

エクスナー氏　検索エンジンはこの15年間で大きく変化した。キーワード検索から始まって、話し言葉を使った自然文検索、NLP（自然言語処理）モデルを使ったセマンティック検索へと移り変わり、2026年現在は、生成AIによる検索やAIエージェントを使った推論ベースの検索が主流になり始めている。

　ここで注目したいのは、AI体験の源泉は検索にあるということ。対話型の生成AI、推論ベースのAIエージェント、そのいずれにおいても行っていることは検索だ。

――AIの進化と検索という行為は密接に結び付いているということですか。

　そうだ。その結び付きについては2つの方向性がある。1つ目は、検索がAIを駆動させるという側面。生成AIの登場以前からNLP技術や機械学習モデルを利用して検索精度を高めてきた。そうした取り組みがLLMを使った検索につながっている。

　2つ目は、AIが検索を駆動させるという側面だ。LLMを使うことで検索がさらに改良されるようになった。かつては検索でAIを使っていたが、今はAIを通じて検索を行っている状況だ。さらに、AIと検索の統合も進んでいる。お互いが良い影響を与え合い、それぞれで改善が加速している。

“便利ツール”で終わる生成AI活用　なぜ「コンテキストエンジニアリング」が必要か

――生成AIの導入が必ずしも成果に結び付いていない例が目立ちますが、企業が陥りがちな課題はどこにあるのでしょうか。

　生成AIの導入担当者と3年半にわたって話をしてきたが、典型的な失敗パターンがあることが分かった。

　「ほとんど役に立たない」「期待した効果が出ない」「業務の変革につながらない」などはその一例だ。そうした失敗の根底には、AIへの過剰な期待と現実のギャップがある。「ChatGPT」の登場以降、他社に先んじて生成AIを導入しようという意欲が高まった。しかし、実際に導入してみると既存のチャットボットとほとんど変わらない使い方になることがよくあった。生成AIが企業変革のツールになると期待したのに、実際は業務アプリの端に置かれた便利ツールの一つに過ぎなかった。生成AIがどう業務を変えるのか、想像力が欠けていたという言い方もできる。

　ただし、欠けていた想像力を補ってくれるような進化が起きている。例えば、AIエージェントに仕事を依頼するだけで、さまざまな業務プロセスを組み合わせ、判断して、自動化できるようになった。過剰な期待は現実的な期待へ変わってきている。ただ、そうなることで、次の課題に直面するようになった。それは、AI活用に向けたデータの質だ。

――データの質について企業は何を考えるべきですか。

　データの質というのは、AIで活用できる形にデータが整えられていないことを意味する。AIアプリケーションの質は、そこに入れるデータの質によって変わる。データの質が悪ければシステムとして機能しない。特にAIエージェントはその傾向が強くなる。データの質が悪くなる背景はさまざまなだ。例えば、従来の機械学習用のデータ、チャットボット用のデータ、初期の生成AI用のデータといったように、AIアプリケーションだけでもデータソースが分散し、適切に管理できていないのが現状だ。適切なデータをAIに適切に渡す仕組みが求められる。そこで重要な考え方になってきたのがコンテキストエンジニアリングだ。

「開発の仕事はコンテキストエンジニアリングそのもの」

――コンテキストエンジニアリングとは何でしょうか。

　コンテキストエンジニアリングは、適切なデータをLLMやAIエージェントに適切な形で渡すことで、より適切な回答を得たり、適切なアクションを実行したりするための仕組みを作る取り組みだ。適切なデータを渡し、適切な回答を得るためにはデータだけでなく、データのコンテキストが重要になる。コンテキストをエンジニアリングすることは、AIアプリケーションの成否を分け、企業の競争力を生むキーポイントになる。

――コンテキストエンジニアリングは新しい考え方ですか。

　プロンプトエンジニアリングの発展形と言える。プロンプトエンジニアリングはLLMから適切な回答を得るためにプロンプトを検討するものだが、コンテキストエンジニアリングの対象はプロンプトに限らない。例えば、「RAG」（検索拡張生成）を利用する場合、プロンプトに加えてコンテキストとなるデータが必要だ。

　また、AIエージェントを利用する場合、「MCP」（Model Context Protocol）ツールやエージェントのスキル、すなわち、データとビジネスロジックが必要だ。その他にも、「セマンティック検索」や「グラフ検索」「ベクトル検索」などの技術、データ準備や格納のためのデータベース、推論サービスの基盤なども必要だ。これら技術を含めてエンジニアリングの手法でアプローチすることをコンテキストエンジニアリングと呼んでいる。AIアプリケーションのための新しいアーキテクチャとも言える。

――具体例を教えてください。

　Elasticのソフトウェア開発チームが良い例だ。ソフトウェア開発の現場では、AIコーディングツールが広く活用されている。ElasticにもAIコーディングが得意なエンジニアがいる。先日、彼に「開発の仕事に変化はあるか」と聞いたところ、彼は「LLMやAIエージェントが適切に回答してくれるように適切なデータをいかに渡すかが重要になっている。つまり、開発の仕事はコンテキストエンジニアリングそのものだ」と答えた。

コンテキストエンジニアリングにどう取り組むか

――コンテキストエンジニアリングにどう取り組めばよいですか。取り組みの障壁、必要な要素、注意すべきポイントはありますか。

　企業が保有するデータはサイロ化している。非構造化データも多く、データ形式もさまざまだ。アプリケーションに固有なデータも多い。多くの企業はプライベートな環境でAIベースのアプリケーションを作成したいと考えているが、その際には、オブザーバビリティー（可観測性）やセキュリティも課題になる。そこでElasticが提案しているのが、検索とAIを1つのプラットフォーム上で利用することだ。プラットフォームにより、バラバラになったデータソースを統合できる。また、データの理解やチャンクの手順、推論モデルの適用、データのベクトル化など複雑になりやすいプロセスをシンプルに実施できる。

――Elasticのプラットフォームはどのように進化しているのでしょうか。

　まず、検索とAIを融合したエンジンとして「Elasticsearch」を提供している。また、ElasticsearchにデータストアやAI分析、AI処理、可視化などを加えたプラットフォーム「Search AI Platform」を提供している。Search AI Platformは、オブザーバビリティーやセキュリティでも利用できるプラットフォームだ。コンテキストエンジニアリングは、直接的には検索とAIに関連するソリューションだが、オブザーバビリティー製品やセキュリティ製品でも利用できる。検索の在り方がAIによって大きく変わったように、コンテキストエンジニアリングによって、オブザーバビリティーやセキュリティの体験も今後大きく変わっていくはずだ。

――コンテキストエンジニアリングの成功事例があれば教えてください。

　企業向けに会計や税務サービスを展開するErnst & Young（EY）や、弁護士向けに法務サービスを展開するスウェーデンのスタートアップLegoraなどの事例がある。EYでは、銀行などの金融機関向けに、膨大な会計情報や税務情報を検索するためのプラットフォームを、Elasticsearchを用いて開発した。Legoraでは、膨大な法務資料から適切な情報を検索するAIエージェントサービスを、Elasticsearchを用いて開発した。

　いずれの事例にも共通するのは、企業会計や税務、法務といった分野で正しい回答を得るためには、チャットボットのようなAIでは不十分で、RAGやベクトル検索などの正しい活用が必要だったことだ。そうした正しいデータとAIの活用の鍵になったのがコンテキストエンジニアリングであり、Elasticはそのプラットフォーム構築を支援した。

エンジニアの役割、スキルも再定義

――エンジニアの役割にはどのような変化がありますか。

　AIモデルが優れたパフォーマンスを出せるようになってきた。コード生成の精度も上がっており、コーディングツールも日々進化している。コーディングなどのソフトウェア開発の業務はAIコーディングツールに任せることができる。実際、手作業でコーディングを行っているエンジニアはほとんどいなくなった。開発者は目標を定めて、コンテキストとデータをAIに渡すだけだ。開発者やエンジニアはAIエージェントのマネジャーのような存在になっている。

――ジュニアエンジニアがコーディングスキルを習得しにくくなっているとの指摘もありますが、エンジニアに求められるスキルはどう変わりつつありますか。

　今後、コーディングスキルは必要なくなると考えている。コメントを書いたり、テストを書いたりする作業は全てAIで自動化されるようになる。その一方で、ソフトウェア開発の基礎となるシステムに対する理解やシステムの設計方法などは今後も重要であり続ける。今後、開発者やエンジニアに求められる必須スキルは、AIコーディングツールの使い方だ。まだ使っていない開発者がいたら、今すぐ取り組んでほしい。また、コンテキストエンジニアリングの手法を学んでほしい。