人工知能は「人間越え」してるのか？ AI研究者の考えるAIができるようになったこと、できないこと（後編）

2023.6.2

AI研究者でグラフィッククリエイターの森川幸人さんが、ChatGPTやミッドジャーニー（Midjourney）などに代表される生成系AI（以下、GAI：Generative AI)の問題や、こぼれ話について語るシリーズ。後編では、自然言語生成AI・GPT-xに代表されるテキスト生成AI（以下、TGA：Text Generative AI）が抱える課題や、GAIと人間の付き合い方に踏み込んでもらいました。

森川幸人さんのこれまでのAI関連の記事はこちら：
初心者でも分かる生成系AI入門：ChatGPTが開いた「AIブーム3.5」の扉（前編）
初心者でも分かる生成系AI入門：ChatGPTが開いた「AIブーム3.5」の扉（後編）

情報資源の枯渇と汚染

「DNN(※)系AIは資源食う虫」というお話つながりでもう1つご紹介します。(※)DNN：深層神経回路網（Deep Neural Network）

GPT-xに代表されるTGA（Text Generative AI、テキスト生成AI）は、インターネット上のたくさんの人間の文章を元に学習しています。インターネット上に存在する文章の量ってどれだけあるんでしょう？ TGAの学習に適した文章に限っても、相当数あるはずです。過去の文章が蓄積されたまま日々新しい文章が追加されていくわけです。全世界でのツイート数は1日に5億回を超えると言われていますので、ほぼ無尽蔵の資源じゃないかと思うくらいです。

ところが、冗談のような話ですが、人口の変動とインターネット上のデータの増加量から計算すると、TGAが使えるような「良質」な文章資源は、2024年くらい（来年！）あたりから枯渇に向かうという予測が出てきています。また、絵に関しても2038年あたりに枯渇が予測されています。データが枯渇したタイミングでAIの学習は打ち止めになってしまうのでしょうか？いわゆる水増し学習のような形で枯渇は回避できるのでしょうか？学習が打ち止めになると、どんな問題がAIに発生するのでしょうか？ぜひ専門家に聞いてみたいものです。

さらに、この先TGAがつくるウソが混ざった文章が大量にネット空間に放出されることが予測されます。既にインターネット上には玉石混交の情報が垂れ流されていました。しかし、AIの「放出力」に比べたら、人間が放出する情報量なんて、かわいいものなのかもしれません。TGAが休みなく大量に文章を生成してインターネット上に垂れ流せば、その量は途方もない規模のものになるでしょう。

しかも人間が放出した玉石混合の文章を学習元にしているので、TGAがつくる文章も玉石混交になるのはやむを得ません。いつか、超天才が現れて、正しい情報と間違った情報の選別ができる時代が来るのかもしれませんが、それまでの間は、TGAは玉石混交の文章を利用して、学習して、玉石混交の文章を倍返しで放出していきます。

「新聞紙は再生紙でできている。再生紙の7割は新聞紙である」そんな話をついイメージしてしまいます。ひょっとすると、「TGAの発言の学習元の7割はTGAの発言」というような、頭がクラクラしそうな時代が来るのかもしれません。

今のAIは「薄っぺらな知識人」レベル

前項では、GPT-x、ChatGPTがインターネット上の人間の文章を元に学習しているという話をしました。AIは価値や意味を完全に理解しているわけではなく、思想、哲学、性格があるわけでもありません。特定の意図がないのは救いとも言えます。

GPT-x、ChatGPTは、インターネット上から収集した単語と文章を組み合わせて、なるべく破綻が起きないように再構成しているだけです。この再構成の精度が異常に高いため、あたかも人工知能が世界を理解し、自分の考えや意志を持ち、感情すら持っているかのような錯覚を覚えてしまいます。

よく考えると、われわれも、そうやって文章をつくっていることが多いと思います。人づてに聞いた話や、本やインターネット上に転がっている文章を使って、順列組み合わせを適当に変えて語る。結局、何を言っているか分からなかったり、当たり前のことを言っているだけだったり、いい加減な情報を発したり、意図に都合良く合わせた形で言葉を切り貼りしたり。そういう人は実際にいますよね。

例えば、「私の中で30年後ってことを考えたときに、30年後の自分は何歳かなと」みたいな「何を言っているんだ？」と聞いてるこちらが困惑するようなナンセンスな発言です。

ここまで無意味じゃなくても、既存情報の組み合わせだけでスラスラと語る、ペラッペラな知識人って珍しくないと筆者は思います。GPT-x、ChatGPTはそんな薄っぺらい知識人レベル。というか、そのレベルまで到達したAIだと思います。

1億人のボランティア

ChatGPTは現在1億人くらいが利用しているとのことです。そして、多くの個人や企業が、ChatGPTに乗っかったサービスを考えています。

ChatGPTを使えば何ができるか、何の役に立つか、どう金儲けができるか、評判を呼ぶかなど、毎日のようにサービスが提案されインターネット上をにぎわせています。

これだけたくさんのアイデアがでれば、やがてすごいアイデアが生まれるに違いありません。「集団知」と呼んでも過言ではありません。

一方、多くの人が使うことで、ChatGPTの開発者側は「ChatGPTがどう使われているか？」「どういう対話タイプが多いか？」「対話内容、パターンによってどのような不具合が生じるか？」などについて、たくさんの情報が得られます。

つまり1億人が無償でデバッグしてくれているようなものです。さらに1億人がツールの使い道についてアイデアを提供してくれています。通常のツール開発では、お金を払ってデバッガーにデバッグをしてもらい、お金を払ってビジネス展開をコンサルティングしてもらうわけです。1億人に頼んだとしたら、その費用はとんでもない額になるでしょう。それが0円（計算資源のコストなどはかかりますが）なのですから、まさにWin-Winな環境です。これからのコンテンツ、ツール、サービスビジネスのあり方を提示してくれている気がします。

AIの開発や利用で日本は周回遅れだが……？

13 件

森川幸人

ゲームAI設計者、グラフィック・クリエイター、モリカトロン株式会社代表取締役、筑波大学非常勤講師
ゲームAIの研究開発、CG制作、ゲームソフト、アプリ開発を行う。ゲーム「がんばれ森川君２号」「ジャンピング・フラッシュ」「アストロノーカ」「くまうた」「ねこがきた」などを開発。ゲームAIに関する論文「ゲームとAは相性がよいのか？」（2017年・人工知能学会）などを執筆。X：@morikawa1go