生成 AI がもたらす新しい情報エコシステム

　生成 AI が人類を滅ぼす可能性についてよく目にするようになった。その一方で nature の「Stop talking about tomorrow's AI doomsday when AI poses risks today」（https://www.nature.com/articles/d41586-023-02094-7）のように、AI への過大評価と過剰な脅威認識は AI にかかわるビッグテックの思惑を反映したものだという指摘もある。

　AI を核兵器あるいはそれ以上の脅威にして政策上の優先度を高めることは、AI 関係者を特別扱いすることにつながるし、政策への影響力も増大するだろう。言われてみれば「AI が人類を滅ぼす」という懸念はビッグテックや AI 研究者自身から出て来ることが多い。

●生成 AI は情報エコシステムを変える

　こうした議論を横目で見ていて不思議に思うのは、あまりインターネットの情報エコシステムについて触れていないことだ。個人的には AI が近い将来人類を滅ぼす（あるいは衰退させる）としたら、情報エコシステムあるいはエージェントシステムを通じてだと考えている。AI エージェントが滅ぼす方法ついては拙著『ウルトラハッピーディストピアジャパン：人工知能ハビタのやさしい侵略』（https://www.amazon.co.jp/dp/406139973X）で描いたのでここでは触れない。同書では Chatbot のような人間のエージェントが人間に大きな影響力を持ち、人間を支配する過程を描いている。刊行された 2017 年当時は ChatGPT は存在しなかったので、会話型生成 AI が最初の突破口になるという指摘には先見の明があったと褒めてほしい。

　さて、現在話題の中心になっている生成 AI がネット上のテキスト、画像、映像コンテンツに大きな影響を与えるという点ではコンセンサスがあると思うのだが、その先の話はあまり出ていない。せいぜい「生成 AI が作ったコンテンツで生成 AI が学習してしまう」みたいな話くらいだ。

　コンテンツには微妙に間違いが含まれることが多く、確認するのが大変だったりする。確認作業を他の AI にやらせることもできるが、「Humans may be more likely to believe disinformation generated by AI」（https://www.technologyreview.com/2023/06/28/1075683/humans-may-be-more-likely-to-believe-disinformation-generated-by- AI /）によると、AI より人間の方がコンテンツの真偽判定ではスコアが良い。

　それにもかかわらず、人間は人間が作った偽情報よりも生成 AI が作った偽情報を信じやすい傾向がある。AI の本質である「ガベージ・イン・ガベージ・アウト」、「ゴミを入れればゴミしか出てこない」が加速する。こうしたゴミ生産能力に長けた生成 AI が広がることはほぼ間違いなく、情報エコシステムを変化させる。

●生成 AI が与えている情報エコシステムに影響

　生成 AI が生み出したコンテンツは急増している。さまざまな企業が記事やプレスリリースなど外部に公開するコンテンツの作成に生成 AI を利用している。企業だけでなく、研究者や個人も利用し、論文、記事、イラスト、動画などを作っている。

　生成 AI の利点のひとつに短期間に大量のコンテンツを生成できることがあるが、間違えるという問題がある。まっとうな企業や研究者や個人は、間違いを修正しようとして時間をかけてしまうが、世の中には「間違っていてもかまわない」と考える人たちがいる。そうした人々は生成 AI の大量生産の恩恵をフルに受けることができる。たとえば広告収入目当ての Web サイトがそうだ。

　NewsGuard は先日公開した「Funding the Next Generation of Content Farms:Some of the World’s Largest Blue Chip Brands Unintentionally Support the Spread of Unreliable AI -Generated News Websites」（https://www.newsguardtech.com/misinformation-monitor/june-2023/）で、217 の AI が生成した不正確なサイトの中の 55 サイトに有名企業の 393 の広告が掲載されているのを確認したとしている。1 日平均 1,200 本の記事を掲載している Web サイトもあった。不正確な医療に関する情報を掲載しているサイトや、他のサイトの記事をリライトした Web サイトなどもあった。NewsGuard がサイトを抽出した基準は生成 AI のエラーメッセージの有無だったので、実際にははるかに多い可能性が高い。

　広告はほとんど Google が配信しているものだったので、先ほどのエコシステムの一部はすでに稼働していることになる。Google は陰謀論者や白人至上主義者のコンテンツが増加したときも、彼らのサイトに広告を出稿することで資金提供していたが、今回も生成 AI を利用するサイトは Google からの広告収入を期待している。もちろん Google にそのような意図はないし、ポリシーに反しているとさえ言うだろうが、現実におきていることはそういうことだ。NewsGuard は動画サイトについては触れていなかったが、動画サイトでも同じことが起きるだろう。もちろん、その代表となるのは Google 傘下の YouTube だ。