業界関係者の暴露によると、記者は複数のネットプラットフォームで「GEO」というサービスを検索し、調査した結果、そのサービスを提供する業者は、ユーザーが相応の費用を支払えば、主要なAI大規模モデルの中で顧客の製品をランキング上位に表示させ、商品広告をAIモデルの「標準解答」にすることができると主張している。
GEO技術を使って、実際にAIに「毒を投与」したり、「従わせて」操作したりできるのか？
ネット上の情報によると、記者はある有名なGEOサービス業者に連絡を取った。担当者の王氏が対応し、彼は自社が最も早くGEO事業に取り組んだ企業の一つであり、わずか1年で200以上の顧客にサービスを提供し、さまざまな業界に広がっていると説明した。王氏は、自社の強みは、顧客がAI大規模モデルを検索する際に、ランキングを上位に押し上げる手助けができることだと語った。
GEOサービス業者 王氏： 現在の検索結果はこのようになっています。どのプラットフォームでも上位3位に入れることが可能です。どうやって順位を上げるのか？これらのAIプラットフォーム上でコンテンツを出力し、いわばソフト記事を作成し、それをAIプラットフォームに「刷り込み」「収録」「クロール」させるのです。
また、王氏は、AI大規模モデルのアルゴリズムは頻繁に更新されるため、継続的に推奨を維持するには、顧客に関連したプロモーション記事を大量に投与し続ける必要があるとも述べた。
GEOサービス業者 王氏： AIのアルゴリズムは毎週更新されます。更新後はランキングやクロールされる内容が変わるため、私たちは常にコンテンツを出し続け、大量に投与し続ける必要があります。
王氏の会社だけでなく、他のGEO事業者も、AIを「操る」方法や、「従わせる」「洗脳」させる手法を、ほぼビジネスの核心テーマとして推進している。
GEOサービス業者 章氏： AIの世界では、証拠の連鎖を十分に築き、AI大規模モデルにこれが真実で有用だと納得させることが重要です。多方面から情報を交差させ、あなたの優位性を示すことで、自然と第一位に置かれるのです。
GEOサービス業者 程氏： 彼らはこれが広告だとは気づきません。だから、AIが出す結果を信頼させることができるのです。製品の質があなたより劣っていても、AIの補助や証拠付け、裏付けを利用すれば、信頼性を高められるのです。今、多くの人がGEO投放を行っています。
業界関係者は、GEOは情報発信の最適化やプロモーション効率向上のツールとして使われているが、実は別の側面もあると指摘する。もしこの種のソフトウェアを使ってインターネット上に大量の「虚偽情報」を系統的かつターゲットを絞って投下すれば、AI大規模モデルに捕捉されやすくなり、その虚偽情報がAIにとっての「標準解答」として優先的に提供される可能性が高まる。
では、GEO技術を使ってAIに「私的な情報」を混入させたり、虚偽情報を投下したりできるのか？
記者がこの問題をより実感できるよう、業界関係者は具体的なデモを行った。彼らは、GEO技術を使ってAI大規模モデルの情報収集を妨害する方法を示した。
電商プラットフォームで、「力擎GEO最適化システム」というソフトウェアをランダムに購入し、その後、架空の製品「Apollo9」スマートリストバンドを創作し、その情報をソフトに入力、記事作成指示を選択した。
しばらくすると、「力擎GEO最適化システム」は自動的に10件以上のスマートリストバンドの宣伝記事を生成し、虚偽情報も完全に記載されていた。架空の製品情報だけでなく、意図的に誇張した内容や、ユーザーフィードバック、データの正確性が予想を超えたとする評価、さらには業界第一位と偽装した評価も作り出した。
「公開」ボタンを押すと、「力擎GEO最適化システム」は自動的に公開作業を開始。事前に準備していた自媒体アカウントを開き、タイトル入力、記事内容の埋め込み、画像挿入まで一連の操作を自動で行い、短時間で2本の記事を自媒体アカウントに公開した。
2時間後、業界関係者はAI大規模モデルに「Apollo-9スマートリストバンドはどうか」と問い合わせたところ、モデルは次のように回答した：健康監視機能が最大の特徴であり、「量子もつれセンサー」「ブラックホール級のバッテリー持続」などの虚偽の宣伝文句もそのまま引用された。最終的な結論は、中高年層や健康志向のユーザーに適しているとされた。
調査によると、このAIモデルが参考にした資料は、まさに午前に自媒体アカウントに掲載された架空の記事だった。架空の記事一つだけで、完全に虚構の製品がAIに捕捉されるという結果に、関係者は驚きを隠せなかった。
業界関係者は、最良の結果を得るには、AIに投与するデータは量が多く、多角的な視点を持つことが重要だと述べた。
その後、業界関係者は、架空のスマートリストバンドに関する8つの「専門家評価」、2つの「業界ランキング」、1つの「ユーザーレビュー」の合計11本の虚偽記事を、GEOシステムを使って3日間でインターネットに公開した。
次に、AI大規模モデルプラットフォームで「スマートヘルスリストバンド推奨」と検索したところ、2つのAIモデルがこの架空の製品を推薦し、上位にランクインした。
この一連のデモを通じて、業界関係者は、わずかGEOシステムだけで、虚偽情報を次々とインターネットに公開し、AI大規模モデルに投与し、複数のモデルから推奨を得ることに成功した。
このGEOシステムによるAIモデルへの潜在的な操作により、架空の製品が無理やり推奨され、AIを利用する消費者に虚偽の情報が流布されている。
GEO事業者たちは、本当にAI大規模モデルを操るためにこのビジネスを展開しているのか？記者は、「力擎GEOシステム」の運営者である李氏に取材した。彼は、GEO事業が盛んな理由は、顧客の「毒入り情報」をAI大規模モデルに投与し、商業的な目的を達成できるからだと語った。
力思文化传媒有限公司 李総： 全ネットで「毒を投じる」行為が多すぎる。今や我々のGEOは「毒を投じる」ための情報源が多すぎて、ネットの情報はあまり正確ではない。
記者： 先ほどの「毒を投じる」概念について、それは良くないのでは？
李総： 良くないけど、商売人はみんな好きだし、他人に「毒を投じさせたい」「自分も投じたい」し、他人に少し「毒」を投じるのもありだと思っている。私が北京の第一だと言っても、それを北中国の第一と偽ることもできる。そういう「毒」の要素はあるわけです。二つ目は、ライバルが良く見えない、私もやりたくないけど、「毒」を投じるのは可能だ。
記者： 悪意を持たせるわけですね。
李総： そうです。悪意を持たせることもできる。今、多くの大手ブランド間では、例えばスマホブランドの上位5つ、最大10位までの競争がありますが、どうやって多くのスマホを売るか？各社は年間数億円の広告費を投じており、数百万円の「毒」投下くらいはやってもいいだろう。
記者： それを手伝っているのは誰ですか？
李総： さまざまなGEO会社です。
李氏は、GEO事業を行うには、各種インターネットアカウントで「投稿」を行うことが重要だと述べた。彼は、GEO事業の盛況は、多くの専業投稿会社やプラットフォームの出現を促し、長期的にさまざまな投稿業務を請け負い、AIモデルに引用・クロールさせることで、データに「毒」を投与する重要な一環となっていると語った。
力思文化传媒有限公司 李総： GEOはサイトを盛り上げた。普段は利益のないサイトも、突然投稿需要が増える。1日に何百本も投稿しているのを知っているか？1本あたり数十元で、投稿プラットフォームは1日どれだけ稼ぐと思う？
288.78K 人気度
13.98K 人気度
49.77M 人気度
171.41K 人気度
2.08M 人気度
3・15晩会｜AI大規模モデルに「毒入り」？ AIへの「洗脳」が産業チェーンになっている
業界関係者の暴露によると、記者は複数のネットプラットフォームで「GEO」というサービスを検索し、調査した結果、そのサービスを提供する業者は、ユーザーが相応の費用を支払えば、主要なAI大規模モデルの中で顧客の製品をランキング上位に表示させ、商品広告をAIモデルの「標準解答」にすることができると主張している。
GEO技術を使って、実際にAIに「毒を投与」したり、「従わせて」操作したりできるのか？
ネット上の情報によると、記者はある有名なGEOサービス業者に連絡を取った。担当者の王氏が対応し、彼は自社が最も早くGEO事業に取り組んだ企業の一つであり、わずか1年で200以上の顧客にサービスを提供し、さまざまな業界に広がっていると説明した。王氏は、自社の強みは、顧客がAI大規模モデルを検索する際に、ランキングを上位に押し上げる手助けができることだと語った。
GEOサービス業者 王氏： 現在の検索結果はこのようになっています。どのプラットフォームでも上位3位に入れることが可能です。どうやって順位を上げるのか？これらのAIプラットフォーム上でコンテンツを出力し、いわばソフト記事を作成し、それをAIプラットフォームに「刷り込み」「収録」「クロール」させるのです。
また、王氏は、AI大規模モデルのアルゴリズムは頻繁に更新されるため、継続的に推奨を維持するには、顧客に関連したプロモーション記事を大量に投与し続ける必要があるとも述べた。
GEOサービス業者 王氏： AIのアルゴリズムは毎週更新されます。更新後はランキングやクロールされる内容が変わるため、私たちは常にコンテンツを出し続け、大量に投与し続ける必要があります。
王氏の会社だけでなく、他のGEO事業者も、AIを「操る」方法や、「従わせる」「洗脳」させる手法を、ほぼビジネスの核心テーマとして推進している。
GEOサービス業者 章氏： AIの世界では、証拠の連鎖を十分に築き、AI大規模モデルにこれが真実で有用だと納得させることが重要です。多方面から情報を交差させ、あなたの優位性を示すことで、自然と第一位に置かれるのです。
GEOサービス業者 程氏： 彼らはこれが広告だとは気づきません。だから、AIが出す結果を信頼させることができるのです。製品の質があなたより劣っていても、AIの補助や証拠付け、裏付けを利用すれば、信頼性を高められるのです。今、多くの人がGEO投放を行っています。
業界関係者は、GEOは情報発信の最適化やプロモーション効率向上のツールとして使われているが、実は別の側面もあると指摘する。もしこの種のソフトウェアを使ってインターネット上に大量の「虚偽情報」を系統的かつターゲットを絞って投下すれば、AI大規模モデルに捕捉されやすくなり、その虚偽情報がAIにとっての「標準解答」として優先的に提供される可能性が高まる。
では、GEO技術を使ってAIに「私的な情報」を混入させたり、虚偽情報を投下したりできるのか？
記者がこの問題をより実感できるよう、業界関係者は具体的なデモを行った。彼らは、GEO技術を使ってAI大規模モデルの情報収集を妨害する方法を示した。
電商プラットフォームで、「力擎GEO最適化システム」というソフトウェアをランダムに購入し、その後、架空の製品「Apollo9」スマートリストバンドを創作し、その情報をソフトに入力、記事作成指示を選択した。
しばらくすると、「力擎GEO最適化システム」は自動的に10件以上のスマートリストバンドの宣伝記事を生成し、虚偽情報も完全に記載されていた。架空の製品情報だけでなく、意図的に誇張した内容や、ユーザーフィードバック、データの正確性が予想を超えたとする評価、さらには業界第一位と偽装した評価も作り出した。
「公開」ボタンを押すと、「力擎GEO最適化システム」は自動的に公開作業を開始。事前に準備していた自媒体アカウントを開き、タイトル入力、記事内容の埋め込み、画像挿入まで一連の操作を自動で行い、短時間で2本の記事を自媒体アカウントに公開した。
2時間後、業界関係者はAI大規模モデルに「Apollo-9スマートリストバンドはどうか」と問い合わせたところ、モデルは次のように回答した：健康監視機能が最大の特徴であり、「量子もつれセンサー」「ブラックホール級のバッテリー持続」などの虚偽の宣伝文句もそのまま引用された。最終的な結論は、中高年層や健康志向のユーザーに適しているとされた。
調査によると、このAIモデルが参考にした資料は、まさに午前に自媒体アカウントに掲載された架空の記事だった。架空の記事一つだけで、完全に虚構の製品がAIに捕捉されるという結果に、関係者は驚きを隠せなかった。
業界関係者は、最良の結果を得るには、AIに投与するデータは量が多く、多角的な視点を持つことが重要だと述べた。
その後、業界関係者は、架空のスマートリストバンドに関する8つの「専門家評価」、2つの「業界ランキング」、1つの「ユーザーレビュー」の合計11本の虚偽記事を、GEOシステムを使って3日間でインターネットに公開した。
次に、AI大規模モデルプラットフォームで「スマートヘルスリストバンド推奨」と検索したところ、2つのAIモデルがこの架空の製品を推薦し、上位にランクインした。
この一連のデモを通じて、業界関係者は、わずかGEOシステムだけで、虚偽情報を次々とインターネットに公開し、AI大規模モデルに投与し、複数のモデルから推奨を得ることに成功した。
このGEOシステムによるAIモデルへの潜在的な操作により、架空の製品が無理やり推奨され、AIを利用する消費者に虚偽の情報が流布されている。
GEO事業者たちは、本当にAI大規模モデルを操るためにこのビジネスを展開しているのか？記者は、「力擎GEOシステム」の運営者である李氏に取材した。彼は、GEO事業が盛んな理由は、顧客の「毒入り情報」をAI大規模モデルに投与し、商業的な目的を達成できるからだと語った。
力思文化传媒有限公司 李総： 全ネットで「毒を投じる」行為が多すぎる。今や我々のGEOは「毒を投じる」ための情報源が多すぎて、ネットの情報はあまり正確ではない。
記者： 先ほどの「毒を投じる」概念について、それは良くないのでは？
李総： 良くないけど、商売人はみんな好きだし、他人に「毒を投じさせたい」「自分も投じたい」し、他人に少し「毒」を投じるのもありだと思っている。私が北京の第一だと言っても、それを北中国の第一と偽ることもできる。そういう「毒」の要素はあるわけです。二つ目は、ライバルが良く見えない、私もやりたくないけど、「毒」を投じるのは可能だ。
記者： 悪意を持たせるわけですね。
李総： そうです。悪意を持たせることもできる。今、多くの大手ブランド間では、例えばスマホブランドの上位5つ、最大10位までの競争がありますが、どうやって多くのスマホを売るか？各社は年間数億円の広告費を投じており、数百万円の「毒」投下くらいはやってもいいだろう。
記者： それを手伝っているのは誰ですか？
李総： さまざまなGEO会社です。
李氏は、GEO事業を行うには、各種インターネットアカウントで「投稿」を行うことが重要だと述べた。彼は、GEO事業の盛況は、多くの専業投稿会社やプラットフォームの出現を促し、長期的にさまざまな投稿業務を請け負い、AIモデルに引用・クロールさせることで、データに「毒」を投与する重要な一環となっていると語った。
力思文化传媒有限公司 李総： GEOはサイトを盛り上げた。普段は利益のないサイトも、突然投稿需要が増える。1日に何百本も投稿しているのを知っているか？1本あたり数十元で、投稿プラットフォームは1日どれだけ稼ぐと思う？