WhatsApp під Meta AI без слідів розмови: стверджують, що навіть Meta не може побачити, але є велика занепокоєність

WhatsApp запустив «Meta AI без слідів розмову», забезпечуючи, щоб розмови не зберігалися і офіційно не були доступні для перегляду. Експерти висловлюють занепокоєння, що цей крок може ускладнити відповідальність за випадкові помилки AI, а Meta заявляє, що на початковому етапі підтримує лише текстові повідомлення і застосовує обережний захист.

Meta AI без слідів розмову з’явився у відповідь на потребу приватності користувачів

З швидким поширенням генеративних AI-чатботів, спілкування з AI поступово стає частиною щоденного життя. Але багато запитів містять дуже чутливу інформацію, наприклад, особисті фінансові, персональні, медичні або робочі дані, що створює потребу у приватності.

WhatsApp для цього запустив «Meta AI без слідів розмову», стверджуючи, що це нова функція для повністю приватних розмов з AI.

Meta AI без слідів розмову базується на приватних обробних технологіях і дозволяє вести приватні чати з Meta AI у ситуаціях, коли інші не можуть бачити повідомлення. Користувацькі повідомлення обробляються у безпечному середовищі, і навіть Meta не має доступу до них.

Ці розмови не зберігаються, і система за замовчуванням налаштована на автоматичне зникнення повідомлень, що дає користувачам свободу думати і досліджувати ідеї без стороннього спостереження.

Джерело зображення: WhatsApp WhatsApp додав функцію Meta AI без слідів розмову, створену у відповідь на потребу приватності користувачів

Шість основних технологій Meta AI без слідів розмову

Згідно з технічним білим папером Meta, Meta AI без слідів розмову поєднує шість ключових технологій для забезпечення приватності та безпеки даних:

1. Обчислювальне обладнання з конфіденційністю: Використовуються процесори AMD з підтримкою конфіденційних обчислень та GPU Nvidia для створення довіреного виконуваного середовища (TEE), забезпечуючи ізоляцію обчислювальних процесів на апаратному рівні, включаючи Meta або операційну систему хоста, що не дозволяє доступ до оброблюваних даних.
2. Аутентифіковане та зашифроване сполучення: Система використовує технологію RA-TLS для забезпечення сквозного шифрування, гарантує, що розшифрувати можуть лише пристрої користувачів і приватні обробні вузли, а через апаратну аутентифікацію перевіряє, чи виконується на сервері незмінне програмне забезпечення.
3. Прозорість компонентів: Щоб запобігти розгортанню шкідливого ПЗ, система публікує важливі компоненти, такі як двійкові файли та ваги моделей, у відкритих журналах прозорості третіх сторін, що дозволяє клієнтам і дослідникам перевіряти справжність виконуваного коду.
4. Безпечне програмне забезпечення: Усередині TEE застосовуються багаторівневі заходи захисту для посилення стеку програм, а додатки контейнеризуються для обмеження поверхні атаки і суворого контролю витоку даних.
5. Анонімне маршрутизування: Система використовує анонімні сертифікати та технології прихованого HTTP, маршрутизуючи через сторонніх ретрансляторів, захищаючи IP-адреси користувачів і забезпечуючи анонімність, щоб запобігти ідентифікації конкретних користувачів.
6. Короткочасна та безстанційна обробка даних: Координатор і передбачувач у системі є безстанційними, і після обробки запитів та повернення результатів вони знищують пам’ять розмов, забезпечуючи відсутність доступу до історії.

Занепокоєння з боку громадськості: що робити, якщо Meta AI зазнає нещасного випадку

За повідомленням BBC, більшість AI-компаній зберігають дані користувачів чатботів і використовують їх для тренування майбутніх моделей продуктів. Представник WhatsApp Вілл Кеткарт (Will Cathcart) пояснив, що технологія і платформа, яка стоїть за режимом без слідів, відрізняється від системи сквозного шифрування для захисту інших повідомлень, але обидві мають однакову силу.

Експерт з кібербезпеки з університету Суррея, Алан Вудвард (Alan Woodward), також зазначив, що впровадження другого набору систем має дуже низький ризик для безпеки існуючої системи WhatsApp.

Однак громадськість висловлює занепокоєння, що режим без слідів може приховати збої або зловживання AI. Наприклад, кілька AI-компаній, включаючи OpenAI і Google, раніше стикалися з судовими позовами, пов’язаними з нещасними випадками.

Вудвард вважає, що це може призвести до того, що відповіді AI стануть менш підзвітними, оскільки повідомлення, що автоматично зникають, не можуть бути доступні користувачам або Meta, і якщо у розмові хтось завдає шкоди або трапляється смерть, знайти відповідні докази буде неможливо.

Кеткарт відповів, що на початковому етапі Meta AI без слідів розмову оброблятиме лише текст, без підтримки зображень. Крім того, механізми безпеки Meta AI будуть застосовувати обережний підхід і відмовляти у відповідях на запити, які можуть бути сприйняті як шкідливі або незаконні.

Крім того, WhatsApp наразі заблокував доступ інших AI-чатботів до своєї системи, тому для мільярдів користувачів єдиним AI на цій платформі залишається продукт Meta.