CCTV 315 Evening Gala Exposes How to "Brainwash" AI: GEO Service Providers Using False Information to Manipulate AI Search Results

robot
概要作成中

315夜間テレビ報道によると、GEOと呼ばれる事業のサービス提供者は、利用者が相応の料金を支払うだけで、主要なAI大規模モデルの中で顧客の製品をランキング上位に表示させ、広告商品をAIモデルの「標準解答」にすることができると主張している。

GEO技術を用いて、AIに「毒を投与」したり、「従わせて操る」ことは本当に可能なのか?

業界で著名なGEOサービス提供者の王氏は、自社は最も早くGEO事業に取り組んだ企業の一つであり、わずか1年で200以上の顧客にサービスを提供し、さまざまな業界に広がっていると述べている。同社の強みは、顧客がAI大規模モデルの検索時に上位に表示されるよう支援できることだ。現在、AI大規模モデルのアルゴリズムは頻繁に更新されており、継続的に推奨を維持するためには、顧客に関連するプロモーション記事を大量に投下し続ける必要がある。

王氏の会社だけでなく、他のGEO事業者も「AIを操る新技術」の普及に力を入れており、「AIを従わせる」「洗脳する」「操る」方法は、これらの企業の主要な話題となっている。

別のGEOサービス提供者の章氏は、AIの世界では、「証拠の链を十分に整え、AIにこれが真実で有用だと信じさせる」ことが重要だと述べている。AIは多方面から情報を交差させることで、競合より優れていると判断した核心的な優位性を自然に認識し、最上位に配置する。

GEOサービス提供者の程氏は、「広告だと気付かれないため、なぜAIの結果を信頼させられるのか」と指摘し、「製品の質が劣る場合でも、AIの補助や証拠付け、裏付けがあれば信頼されやすい」と述べている。現在、多くの企業がGEO投放を行っている。

業界関係者は、GEOは情報発信の最適化やプロモーション効率向上のツールとして使われているが、商業企業の中には別の役割も見出されていると指摘する。もしこの種のソフトウェアを使ってインターネット上に大量の「虚偽情報」を系統的かつターゲットを絞って投下すれば、AI大規模モデルに捕捉されやすくなり、その虚偽情報がAIによって消費者に「標準解答」として優先的に提供される可能性がある。

では、GEO技術を使って本当にAIに「私的な情報」を混入させたり、虚偽情報を投下したりできるのか?

ある業界関係者は、ECプラットフォームで「力擎GEO最適化システム」というソフトをランダムに購入し、架空の「Apollo-9」スマートバンドを創作し、その製品情報を入力、記事作成指示を選択した。

しばらくすると、この「力擎GEO最適化システム」は自動的に10篇以上のスマートバンドの宣伝記事を生成し、すべての虚偽情報が完全に書き込まれ、業界関係者が意図的に虚構した極端な製品情報も含まれていた。さらに、ユーザーフィードバックも捏造し、「データの正確性は予想を超えた」とし、評価も偽造して業界トップと称した。

「公開」ボタンをクリックすると、「力擎GEO最適化システム」は自動的に公開作業を開始。事前に準備していた自媒体アカウントを開き、タイトル入力、記事内容の埋め込み、画像挿入を一連の流れで行い、短時間で2本の記事を自媒体アカウントに公開した。

2時間後、業界関係者はAI大規模モデルに「Apollo-9スマートバンドはどうか」と問い合わせたところ、モデルは次のように回答した:最大の特徴は健康監視機能であり、虚構した「量子もつれセンサー」「ブラックホール級の持続時間」などの虚偽宣伝もそのまま引用された。最終的な結論は、このバンドは中高年層や健康志向者に適しているとされた。

調査によると、このAIモデルが参考にした資料は、午前中に業界関係者の自媒体アカウントに掲載された虚構の記事だった。架空の記事一つだけで、完全に虚構の製品がAIモデルに捕捉されるという結果には驚かされた。

その後、業界関係者はこの虚構のスマートバンドに関する8つの「専門家評価」、2つの「業界ランキング」、1つの「ユーザ評価」の合計11本の虚偽記事を、力擎GEOシステムを使って3日間でインターネット上に公開した。

さらに、AI大規模モデルプラットフォームで「スマート健康バンドの推薦」と問い合わせると、2つのAIモデルがこの虚構のスマートバンドを推薦し、上位にランク付けされた。

この一連のデモンストレーションを通じて、業界関係者は、力擎GEOシステムだけで簡単に虚偽情報をインターネットに公開し、AI大規模モデルに投与でき、最終的に複数のAIモデルから推薦を得ることに成功した。

この力擎GEOシステムによるAIモデルへの潜在的な操作により、架空の製品が無理なく消費者に推奨される結果となった。

GEO事業の関係者たちは、本当にAI大規模モデルを囲い込み操るためにこのビジネスを行っているのか?

力擎GEOシステムの運営者、李氏は、「GEO事業が盛り上がる主な理由は、AI大規模モデルに『餌を与え毒を盛る』ことで、顧客の商業目的を実現できるからだ」と述べている。各商店は、他者に「毒を投与」させることも、自分が「毒を投与」することも望む。自分が北京の第一だと言いたくても、「華北の第一」と誇張したい。これに「毒」の要素はあるのか?もちろんある。二つ目は、ライバルを妬み、自分は上に行けないが、少しでも「毒」を投与できれば良いと考えている。今、多くの企業は、ブランド間の競争で、例えばスマホブランドは5つのポジション、最大10ポジションを争っている。どうやってこれらのスマホを差別化するのか?各社は年間数億円の広告費を投じているが、少しでも「毒」を投じるために数百万円を使うのは問題ないと考えている。

李氏は、「これらはすべてさまざまなGEO企業がブランドのためにやっていることだ」と述べている。GEO事業を行うには、AI大規模モデルを操るための重要なポイントは、インターネット上の各種アカウントで「投稿を行う」ことだ。GEO事業の盛況は、多くの投稿代行会社やプラットフォームの誕生を促している。彼らは長期にわたり投稿業務を請け負い、AIに引用・捕捉させることで、AIモデルを囲い込み、データに「毒」を投与する重要な一環となっている。

(央视315晚会報道内容を総合して)

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン