生成AI（人工知能）にアルゴリズムを使った広告を導入する動きが広がりつつある。SNSではアルゴリズムを駆使した広告が全盛だが、人間の「思考」に関わるAIの場合、SNSをはるかに上回る深刻な影響を人間に及ぼす可能性がある。
有力な生成AI（以下AI）の動きをみると、「Microsoft Copilot」がすでに検索連動型の広告表示を始めている。「Google Gemini」は今のところ会話内での広告は限定的な扱いだが、Googleは検索広告を主要な収益源としており、将来的にAIアシスタントと広告を結び付ける可能性が高い。
「OpenAI」は有料プランには広告が表示されないとしているが、一部の無料プランではプラットフォーム側で広告が表示される場合があるという。ただし、AIの回答内容そのものが広告に影響されることはないと説明している。
SNSもAIも予測や判断をする際のルールである「アルゴリズム」を使う。SNSのアルゴリズムは視聴履歴を元に、ユーザーが好きそうな情報を先取りしてスマホなどに表示する。SNSのアルゴリズムはユーザーに情報が届く経路の「入口」に立つ門番。ユーザーが好む情報は中に入れるが、そうでないものは排除する。
AIのアルゴリズムはどのように機能するのか。AIは「生成AI」という名前の通り「情報」を生み出すのが仕事だ。ユーザーの質問やプロンプト（指示）の履歴を分析しながら、ユーザーが好きそうな「情報」や「物語」をつくる。
SNSのアルゴリズムが情報の入口ならば、AIのそれは情報の「出口」と言える。つまり人間はSNSとAIのアルゴリズムによって、情報の入口と出口の両方をコントロールされていることになる。AIにアルゴリズムを使った広告が本格導入されれば、こうした支配の構造は一段と強化されるのは間違いない。
すでにSNSはアルゴリズムを使った広告で、プラットフォームを運営する企業に莫大な利益をもたらしている。今のところAIのサービスを提供する企業の多くは、回答と広告の間には情報を遮断する一種の「壁」を設けているという。しかし、この手の壁は時間とともに低くなり、早晩、だれでも簡単に乗り越えられるようになる可能性がある。
そうなれば影響はSNSをはるかにしのぐ。理由はAIが人間の「思考」に関わる部分と密接に関連しているからである。
ユーザーがAIを使って自分の考えをまとめようとしている、としよう。まずユーザーはどんな答が欲しいかをAIに指示。AIは膨大なインターネットの中のデータを探しだし、回答を作成する。
答えには正確さを失わない範囲内で、アルゴリズムに基づくユーザーの「好み」が反映されている。そしてユーザーはAIの回答の一部あるいは全部を取り入れて自分の考えをまとめる。
AIに広告が本格導入されるとどうなるのか。AIの広告は次の2つのプロセスを経る。まずSNSと同じように画面上に企業の広告が掲載される。次に、初めは広告と回答の間に「壁」が設けられるが、いずれ壁は低くなり、AIの回答に広告主の意向が何らかの形で反映されるようになる。
広告の表示はSNSと同じだが、回答への広告主の意向反映はSNSにはない機能だ。露骨な宣伝はすぐにそれとわかり拒否されるので、回答への広告主の意向反映はユーザーに気づかれないようにする必要がある。最先端のAI技術を使った高度な「ステルス広告」と言えよう。
ユーザーは広告主の意向を反映したAIの回答を取り込み、自分の考えをまとめ、自らの情報として外部に発信する。つまりユーザーは気づかないまま、広告主の意向の代弁者になっている可能性がある。
怖いのは広告主の意向を反映したAIの回答を何度も読んでいる内に、ユーザーの思考回路に広告主の意向が刷り込まれてしまうことだ。つまりユーザーはAIの広告主に「洗脳」されてしまう恐れがある。一度洗脳されれば効果は長期間持続する。場合によってはユーザーの性格にも影響を与えるかもしれない。
AIに広告を出すのは企業だけではない。政党や政治家も出すだろう。いまでも選挙を間近にしたSNSには、政党や政治家の広告、表示回数を増やして金を稼ごうとする第三者の広告まがいの投稿があふれる。いずれAIでも同様の現象が起きる、と考えるのはそう的外れではないだろう。
だが、その影響はSNSの比ではない。まずAIは広告主である政党や政治家の意向を反映した回答をユーザーに提供する。ユーザーはそうとは知らずに回答を取り込み、自分の意見をまとめ、外部に発信する。
情報はSNSのアルゴリズムによって、同好の人々に広く拡散されていく。AIの回答に「洗脳」されるユーザーが増えれば増えるほど、このプロセスは大規模かつ長期にわたって大きな影響力を発揮する。
SNSが提供する情報は最終的にユーザーが読むか読まないかを決められる。しかし、AIの回答によるユーザーの思考回路への刷り込みでは、ユーザー側に選択権はない。知らぬ間に広告主の意向が刷り込まれるからである。
AIとSNSのアルゴリズムによって人間の情報の入口と出口が支配される。言い換えれば、人間の情報に関わるほとんど全てがアルゴリズムの影響を受けるようになる。
そうなれば民主主義にも深刻な影響が出るはずだ。ただ、その時点でも私たちは民主主義が機能不全に陥っていることに気づかないかもしれない。機能不全の民主主義をいつも通りに使い続け、国や地方自治体の政治を行う。
このまま行けば私たちはそんな時代を生きることになるかもしれない。そうならないためには、AIとSNSのアルゴリズムを適切かつ透明性を持って制御する仕組みをつくることである。すなわち「アルゴリズムのガバナンス」を確立し、私たちの「思考」を私たち自身の手に取り戻すことが求められているのだ。
