ChatGPTはユーザーを悪意のあるウェブサイトに誘導することができます

AIはしばしば幻覚を引き起こし、不正確または誤った情報を引き出す可能性があるため、ユーザーは参照資料を確認するよう推奨されています。それはトラブルの元にもなります。 Futurismの月曜日の報告によると、ChatGPTはユーザーに悪意のあるソフトウェアをホストするウェブサイトへのリンクを提供する可能性があります。

この発見は、ChatGPTの現在のイベントに関する知識のテスト中に行われました。 William Goinesについて尋ねられた際、彼はBronze Starを受賞し、Navy SEALの初の黒人メンバーであるという報告によると、ChatGPTの応答には「詐欺サイト」へのリンクが含まれていました。

具体的には、ChatGPT-4oは「County Local News」というウェブサイトにアクセスしてGoinesに関する詳細情報を確認することを提案しています。ただし、そのウェブサイトはすぐに偽の警告を表示し、クリックするとユーザーのコンピュータにマルウェアが感染する可能性があります。同様のウェブサイトは他のトピックについても提案されています。

Futurismが提供するプロンプトでGoinesをテストすると、ChatGPTからのフィードバックにはどのウェブサイトへのリンクも含まれていません。

AI開発者は、錯視の防止と悪意のある目的でのチャットボットの使用に多くの投資を行ってきましたが、他のウェブサイトへのリンクの提供は追加のリスクを持つ可能性があります。リンクされたウェブサイトはAI企業がデータを収集するために合法で安全なウェブサイトであるかもしれませんが、その後に感染したり詐欺師に乗っ取られたりする可能性があります。

Jacob Kalvoによると、データプロバイダーおよびプライバシーインターネットライブプロキシの共同創設者兼CEOであるリンクの送信は常に確認する必要があります。

カルボは言った：

「開発者は適切なフィルタリングメカニズムを適用して、悪意のあるウェブサイトへのリンクを提供するチャットボットを防止できるようにすることができます。これには、既知の悪質なURLモデルに基づいてURLを識別するようにチャットボットをトレーニングできる先進的な自然言語処理（NLP）アルゴリズムが補完される可能性があります。さらに、定期的に更新される悪質なウェブサイトのブラックリストを保持し、新たな脅威を追跡することも忘れてはなりません。」

Kalvoは、ウェブサイトのリンク、ドメイン名の評判、リアルタイムのトラッキングを検証して、疑わしい活動を素早く特定し、解決することをお勧めします。Kalvoは述べています。

「これにより、新たな脅威が現れるたびにサイバーセキュリティ専門家との継続的な協力が実現されます。AIと人間の能力によってのみ、新しい開発者はユーザーにとってはるかに安全な環境を作り出すことができます。」

カルボは、有害なコンテンツの導入や提供を防ぐために、AIモデルのトレーニングデータを注意深く管理する必要性を強調しています。また、データの完全性を維持するために、定期的なチェックと更新の必要性も強調しています。

報告を受けると、OpenAIはFuturismに対して同様の回答を行い、ニュースパートナーと協力して「会話能力を最新のニュースコンテンツに組み合わせ、適切に割り当てる」と述べましたが、この機能はまだ利用できません。