アメリカン・コミックスの『スパイダーマン』には、「大いなる力には大いなる責任が伴う（With great power comes great responsibility）」という有名な言葉が登場するが、この大いなる責任（great responsibility）を果たすメカニズム抜きでテクノロジーが進化しようとしていることこそ、AGIにおける最大の問題だろう。それを危惧したOpenAIの役員会がCEOに待ったをかけた、というのがアルトマンCEO解任事件のストーリーであるならば、確かに合点がいく。

実際に今、AIをめぐるガバナンス（統制）の議論では「責任あるAI（Responsible AI）」という概念を追求すべきだという声が高まっており、実践に移している企業も少なくない。それを実現する具体的な手段としては、AIシステムの意思決定プロセスに透明性を持たせる、AIの判断が公平と非差別の原則を遵守したものになるよう対策を講じる、人間のニーズと価値観を中心にAIを設計する「人間中心のアプローチ」を追求するといったものが考えられているが、いずれにしても、こうした検討をAIの進化と並行して進めていかなければならない。

現代社会に欠かせない自動車というテクノロジーにしても、それが登場した瞬間から、全ての安全装置や対策が実現されていたわけではない。例えば1908年のT型フォードの登場は、本格的な自動車普及のスタートと見なされることが多いが、今では当たり前となったシートベルトが初めて自動車に搭載されたのは、それから14年後の1922年のことだった。さらに、米国において全ての自動車にシートベルト搭載を義務付ける根拠となった「国家交通・自動車安全法（National Traffic and Motor Vehicle Safety Act）」が施行されたのは1968年と、T型フォード登場から60年も経っている。残念ながら、新しいテクノロジーを安全に使うための装備やルールの整備は、テクノロジーの進化よりも遅れてやって来るのである。

AGIについても、同じ状況が繰り返されるだろう。そのタイムラグの間に、人類が滅亡しないことを祈るしかない――というのは冗談だが、少なくとも社会的混乱が少しでも軽減されるよう、開発者と私たち利用者が一丸となって対応に努めなければならないのである。