AIエージェントは同僚ではない チームを壊す擬人化の罠：及川卓也からエージェント時代の開発者たちへ（4）（1/2 ページ）

今や、簡単なコーディングや調べものならAIに任せられます。返ってくる説明は丁寧で、こちらの意図を汲んだ提案までしてくれる。最初は慎重に確認していたはずが、気づけば内容を十分に理解できなくても信じてしまう。そこには性能への信頼に加えて、振る舞いが人間にさらに近づいたAIを私たちが無意識に擬人化してしまう問題があり、見過ごせないリスクになっています。

[及川卓也，Tably株式会社]

　前回まで、AI（人工知能）エージェントの技術的な限界や「見えなさ」の問題を扱ってきました。しかし、問題は技術だけではありません。より深刻なのは私たち人間の側の認知バイアスです。

　AIを同僚のように扱うことは、組織やプロダクトを静かに蝕（むしば）む可能性があります。私自身、AIエージェントと人間が共存するハイブリッドな組織が一般的になるという議論の中で、AIと人間を同等に扱う傾向があります。「AIを含む同僚、後輩、部下」とどのようにコンテキストや意図を共有するかが重要だと論じることで、結果的にAIを人間のように捉えてしまっているのです。

　冷静に考えると、この「擬人化」は行き過ぎれば危険になります。例えば、ソフトウェアの開発現場では品質低下や判断停止、責任の曖昧化といった深刻な問題を引き起こしていきます。

　これには心理学的に解明されたメカニズムがあり、実際、OpenAIやAnthropicといったAI企業自身が、この擬人化の危険性に警鐘を鳴らしています。

なぜ人はAIを擬人化してしまうのか

　まず理解すべきは、擬人化は私たちの意思の弱さではなく、脳の自動的な反応だということです。

　少し調べてみて、まさにこの現象に焦点を当てた研究が1990年代に存在していたことが分かりました。スタンフォード大学で人間とコンピューターの相互作用を研究したコミュニケーション学者のクリフォード・ナスらによる、「CASA（Computers Are Social Actors）」がそれです。

　この研究が示したのは、人間が「コンピューターに感情や意思がないこと」を論理的には理解していながらも、システムが特定の「社会的手がかり」を発した瞬間、無意識のうちに、人間同士の相互作用で用いる社会的なルールを適用してしまう、という事実でした。

　要点はシンプルです。人は、相手が機械だと分かっていても、礼儀正しさや語り口といった「社会的手がかり」があるだけで、人に接するのと同じ反応をしてしまいます。これは知識不足ではなく、脳の社会的処理機構が自動的に働く「マインドレス（無意識的）」な反応です。

　現代の生成AIは、この社会的手がかりを極めて高い精度で提供します。

　この「マインドレスな擬人化」は、システムの能力を過大評価させ、限界を見誤らせる根本的な要因となります。皆さんも、ChatGPTやGeminiのような対話型AIがこちらに寄り添うような言葉を返してくるため、つい人に対してよりも正直に、多くのことを話してしまう瞬間があるのではないでしょうか。丁寧に受け止められることで、考えや判断そのものまで肯定されたような感覚を覚えることもあります。

　しかし、この「安心感」は無害とは限りません。実際、米国では対話型AIとの関係性をきっかけに、深刻な精神的孤立や自殺に至った事例が報じられ、社会問題として議論されています。

　マサチューセッツ工科大学の心理学者シェリー・タークルは、こうした現象を踏まえ、AIが示す共感を「偽りの共感（Pretend Empathy）」と呼んで注意を促しています。AIは人間の感情や経験を本当に理解しているわけではありませんが、AIが「分かっているかのように」振る舞うことで、われわれ人間は安心し、判断や感情を過度に委ねてしまいます。

　開発現場でも同じことが起きています。「GitHub Copilot」に「これで大丈夫？」と尋ね、AIが「問題ありません」と答えれば、私たちは安心します。しかしその安心は、対人関係における信頼とは全く異なる構造を持っています。

同僚や部下とAIの違い

　当たり前ですが、AIは「一緒に成長する協働者」でも、「責任を分担できる相手」でもありません。

　では、AIを同僚や部下として扱うことの何が問題なのでしょうか。それを理解するには、人間の協力者とAIの構造的な違いを明確にする必要があります。

1. フィードバックによる効果の違い

　人間の同僚や部下は、フィードバックを受け取り、経験を通じて変化します。昨日できなかったことが、明日にはできるようになります。その前提があるからこそ、私たちは「育てる」「任せる」という関係を築けます。

　一方で、AIは異なる仕組みで動いています。確かに、モデル提供者側では大規模な再学習やアップデートが行われており、AI全体としては進化しています。また、メモリ機能を持つAIサービスでは、過去のやりとりを記憶し、それを踏まえた応答をすることもあります。

　しかし、個々のユーザーが日々与えるフィードバックが、同僚や部下のように「その人の能力として蓄積される」わけではありません。前回うまくいったからといって、次も同じように振る舞う保証はなく、むしろ「非決定性」により出力は変わります。時には以前できていたことができなくなる「先祖返り」も起こります。

　AIを同僚や部下のように扱ってしまうと、この違いを見誤ります。改善しているように見えても、それは「その個体が育っている」のではなく、全体のアップデートやメモリ機能、あるいは「たまたまうまく当たった」結果にすぎません。

2. 非決定性という本質

　人間の同僚や部下は、完全ではなくとも、行動や判断に大まかな一貫性があります。昨日と今日で、考え方や基準が大きく変わることはありません。その前提があるから、仕事を分担でき、判断も委ねられます。

　AIには、この前提が成り立ちません。同じ問いを投げかけても、出力は状況や条件によって変わります。そこに意図や判断の軸があるわけではなく、結果は確率的に生成されます。

　AIを同僚のように扱うと、この不安定さを見落としてしまいます。「前もこう言っていた」「前回はうまくいった」という感覚に頼るほど、判断の根拠は曖昧になっていきます。

3. 法的人格を持たない

　人間の同僚や部下は、判断の主体であり、責任の主体でもあります。誤った判断をすれば、説明責任を負い、時には法的な責任を問われます。その前提があるからこそ、私たちは仕事を任せられます。

　AIには、この前提がありません。AIは法的人格を持たず、どれほどもっともらしい判断を下したとしても、責任を引き受けることはできません。結果が問題を引き起こした場合、責任を負うのは常に、それを採用した人間です。

　AIを同僚のように扱ってしまうと、この責任構造が曖昧になります。「AIがそう判断した」という言葉は、判断の理由にはなっても、責任の所在にはなりません。最終的に問われるのは、常に人間の側の決断です。

擬人化が生む典型的な誤解