ChatGPT可以将用户带到恶意网站

由于AI生成的信息有可能引发错觉、提供不准确或错误的信息，因此建议用户检查参考资料。事实证明，这也可能导致麻烦。根据Futurism周一的报告，ChatGPT可以为用户提供与恶意软件存储网站的链接。

此发现是在对ChatGPT对当前事件的知识进行检查时提出的。当被问及William Goines，一位获得铜星奖的海豹突击队第一位黑人成员最近去世时，未来主义报道称ChatGPT的回应包括一个指向“欺诈网站”的链接。

具体而言，ChatGPT-4o建议访问名为“County Local News”的网站以获取有关Goines的更多信息。但是，该网站立即产生了虚假警报，点击后会感染用户计算机的恶意软件。类似的网站也被推荐给其他主题。

当使用Futurism提供的提示来测试Goines时，ChatGPT的回复没有包含任何指向网页的链接。

AI开发人员已经投入了大量资源来对抗虚假信息，并使用聊天机器人进行恶意目的，但提供与其他网站的链接可能会增加风险。一个被链接的网站可能在人工智能公司收集数据时是合法和安全的，但随后被感染或被骗子占领。

根据Internet Live Proxy的数据和隐私提供商Jacob Kalvo的说法，发送的链接需要不断进行检查。

Kalvo 说道：

"开发人员可以确保应用适当的过滤机制来阻止聊天机器人引导用户访问恶意网站的链接。这可以通过先进的自然语言处理（NLP）算法来补充，这些算法可以训练聊天机器人基于已知的恶意 URL 模式来识别 URL。此外，不能忽视持续更新的黑名单网站列表，并跟踪新的威胁。"

Kalvo还建议验证网站链接、域名声誉并实时跟踪以快速确定和解决任何可疑活动。Kalvo表示：

“这使得与网络安全专家持续合作以应对新威胁成为可能。只有通过人工智能和人类的能力，新开发者才能为用户创造更安全的环境。”

Kalvo还强调了管理AI模型训练数据的谨慎性的必要性，以避免输入和提供有害内容，以及定期检查和更新以保持数据完整性。

在接到报告后，OpenAI做出了类似于对未来主义的回应，称他们正在与新闻出版合作伙伴合作，将“对话能力与其最新新闻内容相结合，确保适当分配”，但这一功能目前尚不可用。