由於AI生成的信息有可能引發錯覺、提供不準確或錯誤的信息，因此建議用戶檢查參考資料。事實證明，這也可能導致麻煩。根據Futurism週一的報告，ChatGPT可以爲用戶提供與惡意軟件存儲網站的鏈接。此發現是在對ChatGPT對當前事件的知識進行檢查時提出的。當被問及William Goines，一位獲得銅星獎的海豹突擊隊第一位黑人成員最近去世時，未來主義報道稱ChatGPT的迴應包括一個指向“欺詐網站”的鏈接。具體而言，ChatGPT-4o建議訪問名爲“County Local News”的網站以獲取有關Goines的更多信息。但是，該網站立即產生了虛假警報，點擊後會感染用戶計算機的惡意軟件。類似的網站也被推薦給其他主題。當使用Futurism提供的提示來測試Goines時，ChatGPT的回覆沒有包含任何指向網頁的鏈接。AI開發人員已經投入了大量資源來對抗虛假信息，並使用聊天機器人進行惡意目的，但提供與其他網站的鏈接可能會增加風險。一個被鏈接的網站可能在人工智能公司收集數據時是合法和安全的，但隨後被感染或被騙子佔領。根據Internet Live Proxy的數據和隱私提供商Jacob Kalvo的說法，發送的鏈接需要不斷進行檢查。Kalvo 說道："開發人員可以確保應用適當的過濾機制來阻止聊天機器人引導用戶訪問惡意網站的鏈接。這可以通過先進的自然語言處理（NLP）算法來補充，這些算法可以訓練聊天機器人基於已知的惡意 URL 模式來識別 URL。此外，不能忽視持續更新的黑名單網站列表，並跟蹤新的威脅。"Kalvo還建議驗證網站鏈接、域名聲譽並實時跟蹤以快速確定和解決任何可疑活動。Kalvo表示：“這使得與網絡安全專家持續合作以應對新威脅成爲可能。只有通過人工智能和人類的能力，新開發者才能爲用戶創造更安全的環境。”Kalvo還強調了管理AI模型訓練數據的謹慎性的必要性，以避免輸入和提供有害內容，以及定期檢查和更新以保持數據完整性。在接到報告後，OpenAI做出了類似於對未來主義的迴應，稱他們正在與新聞出版合作伙伴合作，將“對話能力與其最新新聞內容相結合，確保適當分配”，但這一功能目前尚不可用。
ChatGPT可以將用戶帶到惡意網站
由於AI生成的信息有可能引發錯覺、提供不準確或錯誤的信息，因此建議用戶檢查參考資料。事實證明，這也可能導致麻煩。根據Futurism週一的報告，ChatGPT可以爲用戶提供與惡意軟件存儲網站的鏈接。
此發現是在對ChatGPT對當前事件的知識進行檢查時提出的。當被問及William Goines，一位獲得銅星獎的海豹突擊隊第一位黑人成員最近去世時，未來主義報道稱ChatGPT的迴應包括一個指向“欺詐網站”的鏈接。
具體而言，ChatGPT-4o建議訪問名爲“County Local News”的網站以獲取有關Goines的更多信息。但是，該網站立即產生了虛假警報，點擊後會感染用戶計算機的惡意軟件。類似的網站也被推薦給其他主題。
當使用Futurism提供的提示來測試Goines時，ChatGPT的回覆沒有包含任何指向網頁的鏈接。
AI開發人員已經投入了大量資源來對抗虛假信息，並使用聊天機器人進行惡意目的，但提供與其他網站的鏈接可能會增加風險。一個被鏈接的網站可能在人工智能公司收集數據時是合法和安全的，但隨後被感染或被騙子佔領。
根據Internet Live Proxy的數據和隱私提供商Jacob Kalvo的說法，發送的鏈接需要不斷進行檢查。
Kalvo 說道：
"開發人員可以確保應用適當的過濾機制來阻止聊天機器人引導用戶訪問惡意網站的鏈接。這可以通過先進的自然語言處理（NLP）算法來補充，這些算法可以訓練聊天機器人基於已知的惡意 URL 模式來識別 URL。此外，不能忽視持續更新的黑名單網站列表，並跟蹤新的威脅。"
Kalvo還建議驗證網站鏈接、域名聲譽並實時跟蹤以快速確定和解決任何可疑活動。Kalvo表示：
“這使得與網絡安全專家持續合作以應對新威脅成爲可能。只有通過人工智能和人類的能力，新開發者才能爲用戶創造更安全的環境。”
Kalvo還強調了管理AI模型訓練數據的謹慎性的必要性，以避免輸入和提供有害內容，以及定期檢查和更新以保持數據完整性。
在接到報告後，OpenAI做出了類似於對未來主義的迴應，稱他們正在與新聞出版合作伙伴合作，將“對話能力與其最新新聞內容相結合，確保適當分配”，但這一功能目前尚不可用。