Оскільки ШІ може створювати подвійників, це може спричинювати ілюзії, викликати неточну або неправильну інформацію, тому користувачам рекомендується перевіряти джерела. Виявляється, це також може призвести до проблем. За звітом Futurism в понеділок, ChatGPT може надавати користувачам посилання на сторінки зі зберіганням шкідливого програмного забезпечення.
Це виявлення було зроблено під час перевірки знань ChatGPT про поточні події. Запитаний про Вільяма Гойнса, одержувача Бронзової Зірки і першого афроамериканського члена Navy SEAL, що помер, Futurism повідомляє, що відповідь ChatGPT містить посилання на «шахрайський веб-сайт».
Зокрема, ChatGPT-4o пропонує перейти на веб-сайт під назвою 'County Local News', щоб дізнатися більше про Goines. Однак веб-сайт миттєво генерує підроблені спливаючі попередження, які, натискаючи на них, заражають комп'ютер користувача шкідливим програмним забезпеченням. Аналогічний веб-сайт також пропонується для інших тем.
При спробі перевірити Goines за допомогою нагадування, наданого Futurism, відповідь від ChatGPT не містить посилання на жоден веб-сайт.
Розробники ШІ вклали великі кошти в боротьбу з ілюзіями та використання чат-ботів з поганими намірами, проте надання посилань на інші веб-сайти приховує додаткові ризики. Пов'язаний веб-сайт може бути законним та безпечним, коли компанії зі штучним інтелектом збирають дані, але потім бути зараженим або захопленим шахраями.
За словами Джейкоба Кальво, співзасновника та генерального директора провайдера даних та конфіденційності Інтернет Live Proxy, необхідно постійно перевіряти відправлені посилання.
Калво сказав:
«Розробники можуть забезпечити наявність належних механізмів фільтрації, щоб запобігти наданню чат-ботами посилань на шкідливі веб-сайти. Це може бути доповнено розширеними алгоритмами обробки природної мови (NLP), які можуть навчити чат-бота визначати URL-адреси на основі відомих унікальних моделей URL-адрес. Крім того, неможливо забути вести чорний список сайту, який постійно оновлюється та відстежується на предмет нових загроз».
Калво також рекомендує перевіряти посилання на веб-сайти, репутацію доменного імені та вести моніторинг у реальному часі, щоб визначити та швидко вирішити будь-які підозрілі дії. Калво повідомив:
“Це забезпечує постійну співпрацю з експертами з кібербезпеки для подолання нових загроз у той час, коли вони з'являються. Лише завдяки штучному інтелекту та можливостям людини нові розробники можуть створити набагато безпечніше середовище для користувачів”.
Кальво також наголошує на необхідності ретельного керування даними моделей ШІ для уникнення введення та постачання шкідливого вмісту, а також потребі регулярної перевірки та оновлення для забезпечення цілісності даних.
Коли було звернено увагу на звіт, OpenAI надав подібну відповідь Futurism, зазначивши, що вони співпрацюють з партнерами з видавництв новин, щоб поєднати "можливості діалогу з їхнім останнім вмістом новин, забезпечуючи відповідну дифузію", - але ця функція все ще недоступна.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
ChatGPT може привести користувачів на шкідливі веб-сайти
Оскільки ШІ може створювати подвійників, це може спричинювати ілюзії, викликати неточну або неправильну інформацію, тому користувачам рекомендується перевіряти джерела. Виявляється, це також може призвести до проблем. За звітом Futurism в понеділок, ChatGPT може надавати користувачам посилання на сторінки зі зберіганням шкідливого програмного забезпечення.
Це виявлення було зроблено під час перевірки знань ChatGPT про поточні події. Запитаний про Вільяма Гойнса, одержувача Бронзової Зірки і першого афроамериканського члена Navy SEAL, що помер, Futurism повідомляє, що відповідь ChatGPT містить посилання на «шахрайський веб-сайт».
Зокрема, ChatGPT-4o пропонує перейти на веб-сайт під назвою 'County Local News', щоб дізнатися більше про Goines. Однак веб-сайт миттєво генерує підроблені спливаючі попередження, які, натискаючи на них, заражають комп'ютер користувача шкідливим програмним забезпеченням. Аналогічний веб-сайт також пропонується для інших тем.
При спробі перевірити Goines за допомогою нагадування, наданого Futurism, відповідь від ChatGPT не містить посилання на жоден веб-сайт.
Розробники ШІ вклали великі кошти в боротьбу з ілюзіями та використання чат-ботів з поганими намірами, проте надання посилань на інші веб-сайти приховує додаткові ризики. Пов'язаний веб-сайт може бути законним та безпечним, коли компанії зі штучним інтелектом збирають дані, але потім бути зараженим або захопленим шахраями.
За словами Джейкоба Кальво, співзасновника та генерального директора провайдера даних та конфіденційності Інтернет Live Proxy, необхідно постійно перевіряти відправлені посилання.
Калво сказав:
«Розробники можуть забезпечити наявність належних механізмів фільтрації, щоб запобігти наданню чат-ботами посилань на шкідливі веб-сайти. Це може бути доповнено розширеними алгоритмами обробки природної мови (NLP), які можуть навчити чат-бота визначати URL-адреси на основі відомих унікальних моделей URL-адрес. Крім того, неможливо забути вести чорний список сайту, який постійно оновлюється та відстежується на предмет нових загроз».
Калво також рекомендує перевіряти посилання на веб-сайти, репутацію доменного імені та вести моніторинг у реальному часі, щоб визначити та швидко вирішити будь-які підозрілі дії. Калво повідомив:
“Це забезпечує постійну співпрацю з експертами з кібербезпеки для подолання нових загроз у той час, коли вони з'являються. Лише завдяки штучному інтелекту та можливостям людини нові розробники можуть створити набагато безпечніше середовище для користувачів”.
Кальво також наголошує на необхідності ретельного керування даними моделей ШІ для уникнення введення та постачання шкідливого вмісту, а також потребі регулярної перевірки та оновлення для забезпечення цілісності даних.
Коли було звернено увагу на звіт, OpenAI надав подібну відповідь Futurism, зазначивши, що вони співпрацюють з партнерами з видавництв новин, щоб поєднати "можливості діалогу з їхнім останнім вмістом новин, забезпечуючи відповідну дифузію", - але ця функція все ще недоступна.