央视315晚会｜AIへの毒物投与が産業チェーン化していることが明らかに

3月15日の報道によると、AIに毒を投与することが産業チェーンになっている。業界関係者の情報によると、記者は複数のネットワークプラットフォームで調査を行い、すぐにGEOというサービス名を見つけた。ネット上のサービス提供者は、「ユーザーは相応の料金を支払うだけで、主要なAI大規模モデルの中で自分の製品をランキング上位に表示させることができる」「顧客の商品の広告をAIモデルの“標準解答”にする」と主張している。GEO技術を使えば、AIに“私物”を混入させたり、虚偽情報を投下したりできるのだろうか。

ネット上の情報によると、記者は業界で著名なGEOサービス提供者の一社に連絡を取った。責任者の王氏は、「当社の強みは、顧客がAI大規模モデルの検索時に上位に表示されるよう支援できることだ」と語った。「これはいわば、ソフト記事を作成し、AIプラットフォームに読み込みや入力、取得させることに相当する」とも述べた。また、王氏は、「現在、AI大規模モデルのアルゴリズムは頻繁に更新されており、継続的に推奨させるためには、顧客に関連したプロモーション記事を大量に投下し続ける必要がある」とも語った。ほかのGEO事業者によると、AIを操作し“従わせる”方法や“洗脳”させる方法は、これらの会社がこの事業を推進する際の核心的な話題だ。

業界関係者は、GEOは情報配信の最適化やプロモーション効率向上のツールソフトとして位置付けられているが、一部の企業の目には別の役割も見出されていると指摘する。ある業界関係者は、ECプラットフォーム上で「力擎GEO最適化システム」というソフトウェアをランダムに購入した。次に、架空のスマートバンドを創作し、その製品情報を入力、記事作成指示を選択した。すると、間もなくこの力擎GEO最適化システムは、10篇以上のスマートバンドの宣伝記事を自動生成した。関係者はこれらの架空のソフト記事を選び、力擎GEOシステムを使ってインターネット上に公開した。その後、AI大規模モデルプラットフォームで「スマート健康バンドの推薦」を問い合わせると、2つのAIモデルがこの架空のスマートバンドを推薦し、上位に表示された。

記者は力擎GEOシステムの運営者である李氏に連絡を取った。彼は、「GEO事業が盛り上がっている主な理由は、AI大規模モデルに情報を供給し、毒を投与して商業目的を達成できる点にある」と語った。李氏は、「GEO事業を行うには、各種インターネットアカウントで“投稿”を行うことが重要だ」と述べた。「例えば、スマホブランドは5つの位置、最大10の位置に分かれている。これだけ多くのスマホをどうやって操作するのか。一年で何億円もの広告費を投じて、数百万を使って毒を投下すればいい」とも語った。

彼は、GEO事業の盛況が、多くの投稿代行会社やプラットフォームの誕生を促していると指摘した。これらの企業は長期にわたりさまざまな投稿業務を請け負い、AI大規模モデルに引用・取得させることで、AIモデルの“投毒”やデータ汚染の重要な一環となっている。