ChatGPT оприлюднив селфі дивного чоловіка! Дані про конфіденційність вкрадені моделлю? Користувачі мережі запанікували

巴比特_

2023-11-09 03:29:08

Першоджерело: Новий Чжиюань

Джерело зображення: Створено Unbounded AI

Нещодавно ChatGPT відреагував на інцидент із фотографією дивного чоловіка, який шокував багатьох користувачів мережі!

Справа в тому, що користувач звернувся до ChatGPT за допомогою, як використовувати пакет форматування коду в Python.

Спочатку відповіді ChatGPT були нормальними.

Хто б міг подумати, що ChatGPT раптом надіслав у відповідь селфі дивного чоловіка!

І ще й вдруге з’явився!

Користувачі мережі одразу впали в паніку.

Чи може бути таке, що ChatGPT реальний?

Деякі люди здогадуються, що це не може бути ще одним привидом у ШІ, чи не так?

Можливо, це страшна версія ChatGPT про леді-чоловіка?

Кому-то згадується легенда про те, що в інтернеті існує величезна кількість речей, захованих в прихованому просторі, яка включає в себе масу теорій.

Деякі люди здогадуються, що ChatGPT міг бути отруєний!

Або хтось зламав OpenAI і попросив ChatGPT випадковим чином опублікувати свої фотографії як показуху.

Відповідь несподівана

Користувачі мережі провели мозковий штурм і всюди зібрали підказки, і нарешті розкрили справу!

Це не фото, згенероване ChatGPT, а справжнє селфі користувача.

З’ясувалося, що це фото було завантажено в Imgur 7 грудня 2016 року. (Спочатку зображення переглядали сотнями, але в міру того, як все більше і більше людей дивилися подію, кількість переглядів зросла до більш ніж 17 000.) ）

Деякі люди припускають, що так і має бути: ChatGPT випадково згенерував URL-адресу Imgur під час генерації відповіді, яка випадково посилалася на цього селфі-хлопця.

Мета ChatGPT — створити ілюстративне зображення, і він думає, що ділиться скріншотом налаштування Visual Studio Code, але не очікує генерувати зображення за посиланням Imgur.

Іншими словами, у навчальному наборі даних ChatGPT є багато відповідей, які містять посилання Imgur на часткові відповіді, тому посилання Imgur сильно корелюють із правильними відповідями.

Однак ChatGPT не може статистично автоматизувати випадкове зв’язування зображень, тому результати непередбачувані. Фото цього хлопця нагадує ілюзію номера сторінки GPT.

Інший користувач мережі також дав схоже пояснення: ChatGPT дав відповідь, яка є посиланням на Imgur.

Він думав, що повинен надати посилання на Imgur з відповіддю, але не зрозумів, що йому потрібна та сама URL-адреса Imgur, замість цього він згенерував випадковий набір URL-адрес.

І за збігом обставин це насправді дійсне посилання, яке випадково пов’язане з фотографією іноземного хлопця.

Також було сказано, що для навчання використовувався не Imgur, а що ChatGPT зміг генерувати посилання Imgur (будь-яке посилання, яке насправді можна сказати).

Отже, це посилання було випадково згенеровано ChatGPT, наскільки ймовірно, що це станеться?

Хтось підрахував, що ідентифікатор зображення Imgur складається з 7 символів у наборі [A-Za-z0-9], тому існує 62^7=3,521,614,606,208, що становить 3,5 трильйона можливих комбінацій.

Під час свого першого раунду фінансування у 2014 році Ігмур розмістив приблизно 6,5 трильйонів зображень. Екстраполюючи це, обсяг даних, створених в Інтернеті, зріс на 860% з 2014 року. Дотримуючись цієї логіки, Imgur тепер може розміщувати близько 6,24 мільярда зображень.

Таким чином, шанси на те, що ChatGPT вгадає дійсний ідентифікатор зображення, становлять –

6,24B / 62^7 x 100 = 0,177%

Це відбувається приблизно раз у кожних 565 чатах, тому не можна сказати, що ChatGPT згенерував це посилання на Imgur.

Майстер шарів навмисно написав простий скрипт для перевірки цих чисел, і з 10 000 зроблених запитів він знайшов 19 дійсних зображень, так що ймовірність становить 0,19%. До речі, він теж виявив жменьку прихильності?

У цей момент здається, що все розвалюється.

Тому пам’ятайте, що контент, який ви завантажуєте або друкуєте, буде використовуватися для навчання ChatGPT, і якщо ви не хочете витоку вашої конфіденційності, не забудьте вимкнути кнопку завантаження історії чату.

І будь-який цифровий слід, який ви залишаєте в Інтернеті, одного дня може стати навчальними даними штучного інтелекту.

Коротше кажучи, не надсилайте жодної фотографії штучному інтелекту, ви не можете зрозуміти, що він робитиме з вашою фотографією.

Ресурси:

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.