とはいえ「AIで大勢の人格を再現する」という発想には、前述の通り、技術面だけでなく倫理面での課題も残されている。この点について、今回の論文で研究者がどのように言及しているのか、その主なポイントを整理しておきたい。

最大の懸念は個人のプライバシーに関わる問題だ。2時間にも及ぶインタビューには、その人の非常に個人的な情報が含まれており、これが漏洩すれば深刻な被害をもたらす可能性がある。また、誰かになりすまして発言を捏造されるリスクや、故人のAIを作ることの問題なども指摘されている。

同じくらい深刻なのは、このAIが本人と見分けがつかないほど精巧に振る舞えるという点だ。もし悪意のある第三者が、ある人物のAIエージェントを操作し、その人が言いそうな虚偽の発言や意見を生成すれば、その人の評判を傷つける恐れがある。また、たとえシミュレーションの精度が低い場合でも、利用者がその結果を過信してしまい、誤った判断を下すリスクもある。

こうしたリスクを踏まえ、今回の研究では、研究チームは慎重な対応策を講じている。まず、このシステムは一般には公開せず、厳格な審査を経た研究者のみがアクセスできるようにした。

また、今後の運用に向けた対策として、全ての使用履歴を記録し、インタビューを受けた本人がいつでも内容を確認できる仕組みも提案されている。さらに、本人の要求があれば、自分のデータをシステムから削除できる権利も保障すべきだとしている。

研究チームは、適切な監視体制と同意の仕組みを整えることで、この技術の利点を活かしつつリスクを最小限に抑えることができると考えている。しかし技術の急速な発展を考えると、法的・倫理的な枠組みの整備が追いつかない可能性もある。そのため、政策立案者と研究者が連携し、早急にガイドラインを策定するべきだと訴えている。

こうした懸念を踏まえると、冒頭で描いたような「教師がクラス全員の反応をAIでシミュレーションする」といった光景が見られるのは、当面先になるかもしれない。

しかし、技術的にはすでに実現可能な段階にあり、同じようなシステムを構築しようという動きが、いずれどこかで生まれると考えられる。特に教育や医療など、分野や用途が限定され、さらにAIで再現される本人にもにもメリットのあるようなケースであれば、急速に話が進んでもおかしくないのではないだろうか。

いずれにしても、これまで特定の集団や社会グループ全体を対象とした実験や調査には、これまで多くの時間とコストがかかっていた。そうした負荷を削減し、繰り返しの実験やヒアリングを可能にするAIエージェントという技術は、研究者だけでなく多くの企業や政策立案者にとって魅力的であることは間違いない。適切なリスク対策がなされつつ、活用が進むことを期待したい。