ただ、AIエージェントを必要以上に人間に似せてしまうことは、現実世界の存在である人と、あくまでバーチャルな存在との関わり合いにおける線引きを曖昧にしてしまう可能性が考えられます。

例えば職場で人間とともに仕事に取り組むAIの場合なら、それは利点にもなり得るでしょう。しかし自分の悩みを相談できる親しい友人のような、アドバイザー的な位置づけとして人間に似せすぎたAIが利用されるのは問題かもしれません。

スパイク・ジョーンズ監督の映画『her／世界でひとつの彼女』は、音声AIに恋をしてしまう中年男性の姿を描きました。公開された2013年当時なら、この映画は単純にフィクションとして楽しめました。しかし現在では、もはや誰かの話し声を録音した数秒間のデータがあれば、その声の人物そっくりに音声AIをしゃべらせることが技術的に可能です。AIという人間ではない相手との会話が、ひと昔前の映画と同じように、現実の人間との会話と区別がつかないレベルに近づいてきていることは間違いありません。

そのため、研究者たちは人間かそうでないかの区別が難しいようなAIエージェントの設計に関しては、慎重になるべきだと指摘しています。ジョウ氏は「AIエージェントをあえて人間とは違うように設計することで、人びとがバーチャルな存在と現実の人びととの関わり方を区別できる」とし、「例えば人間のさまざまな特性が、人間の知覚にどのように影響するかをよく考慮しておくことで、特定の年齢層向けに設計を調整することも可能だろう」と述べました。

さらに研究者たちは、今回のキャッチボールゲームによる実験結果について、仲間外れにされたAIプレイヤーに対する人びとの反応は興味深かったものの、現実の状況で人間がAIとどのようにやりとりするかを表現していない可能性があるとも指摘しています。

一般的には、人びとの多くはAIチャットボットや音声アシスタントとテキストや話し言葉でやり取りをしています。そのため、研究者らは現在、より実生活に近い環境など、さまざまなシチュエーションにおけるAIエージェントとの会話を観察する、キャッチボールゲームと同様の実験を計画しているとのことです。

われわれがAIエージェントをどのように認識し、どう関わり合うかを理解することは、バーチャルと現実世界の境界を明確に保ちながら、人間のニーズに応えるテクノロジーをより適切に設計・実装できるようになるはずです。例えば今回の実験のように、AIエージェントが仲間外れにされていることに同情し助けようとする世代と、そうではない世代とで、AIとの会話でも言葉遣いや返答のタイミングにも違いが見られたら、高齢者向けの介護用AIエージェントと若年層向けの教育用AIエージェントとでは、設計が変わるでしょう。