WhatsApp під Meta AI без слідів розмови: стверджують, що навіть Meta не може побачити, але є велика занепокоєність

WhatsApp запустив «Meta AI без слідів у діалозі», що гарантує, що розмови не зберігаються і офіційний доступ до них неможливий. Експерти висловлюють занепокоєння, що цей крок може ускладнити відповідальність за помилки AI, а Meta заявляє, що на початковому етапі підтримує лише текстові повідомлення і застосовує обережний захист.

Meta AI без слідів у діалозі з’явився у відповідь на потребу захисту приватності користувачів

З швидким поширенням генеративних чат-ботів AI, спілкування з AI стає все більш звичним для мас. Але багато запитів містять дуже чутливу інформацію, наприклад, особисті фінансові, персональні, медичні або робочі дані, що створює потребу у приватності.

WhatsApp запустив «Meta AI без слідів у діалозі», стверджуючи, що це нова функція для повністю приватних розмов з AI.

Meta AI без слідів у діалозі базується на приватних обробних технологіях і дозволяє вести приватні чати з Meta AI у ситуаціях, коли інші не можуть бачити повідомлення. Користувацькі повідомлення обробляються у безпечному середовищі, і навіть Meta не має до них доступу.

Ці розмови не зберігаються, а система за замовчуванням налаштована на автоматичне зникнення повідомлень, створюючи простір для вільного мислення і дослідження ідей без стороннього контролю.

Джерело: WhatsApp WhatsApp додав функцію Meta AI без слідів у діалозі, створену у відповідь на потребу приватності користувачів

Шість основних технологій Meta AI без слідів у діалозі

Згідно з технічним білим папером Meta, Meta AI без слідів у діалозі поєднує шість ключових технологій для забезпечення приватності та безпеки даних:

1. Обчислювальне апаратне забезпечення з конфіденційністю: Використовуються процесори AMD з підтримкою конфіденційних обчислень і GPU Nvidia для створення довіреного виконувального середовища (TEE), забезпечуючи ізоляцію обчислювальних процесів на апаратному рівні, включаючи Meta або основну операційну систему, що не дозволяє доступу до оброблюваних даних.
2. Аутентифіковане та зашифроване сполучення: Система використовує технологію RA-TLS для забезпечення сквозного шифрування, гарантує, що розшифрувати можуть лише пристрої користувачів і приватні обробні вузли, а також проходить апаратну аутентифікацію для перевірки, чи виконується на сервері незмінне програмне забезпечення.
3. Прозорість компонентів: Щоб запобігти розгортанню шкідливого ПЗ, система публікує важливі компоненти, такі як двійкові файли та ваги моделей, у відкритих журналах прозорості третіх сторін, що дозволяє клієнтам і дослідникам перевіряти справжність виконуваного коду.
4. Безпечне програмне забезпечення: Усередині TEE застосовуються багаторівневі заходи захисту для посилення стеку програм, а додатки контейнеризуються для обмеження поверхні атаки і суворого контролю витоку даних.
5. Анонімне маршрутизування: Система використовує анонімні сервіси сертифікації та технології прихованого HTTP, маршрутизуючи через сторонніх ретрансляторів, захищаючи IP-адреси користувачів і забезпечуючи анонімність, щоб запобігти ідентифікації конкретних користувачів.
6. Короткочасна та безстанційна обробка даних: Координатори і передбачувачі системи є безстанційними, і після обробки запитів та повернення результатів вони відкидають дані з пам’яті, забезпечуючи відсутність доступу до історії.

Занепокоєння ззовні: що робити, якщо Meta AI зазнає нещасного випадку

За повідомленням BBC, більшість AI-компаній зберігають дані користувачів чат-ботів і використовують їх для тренування майбутніх моделей. Представник WhatsApp Вілл Кеткарт (Will Cathcart) пояснив, що технології та платформи, що стоять за режимом без слідів, відрізняються від end-to-end шифрування інших повідомлень, але мають однакову силу.

Експерт з кібербезпеки з університету Суррея, Алан Вудвард (Alan Woodward), також зазначив, що впровадження другого системного рівня малоймовірно знизить ризик для існуючої безпеки WhatsApp.

Однак існує побоювання, що режим без слідів може приховати збої або зловживання AI. Наприклад, кілька компаній AI, включаючи OpenAI і Google, раніше стикалися з судовими позовами, пов’язаними з нещасними випадками.

Вудвард вважає, що це може призвести до відсутності відповідальності за відповіді AI, оскільки повідомлення, що автоматично зникають, не можуть бути доступні користувачам або Meta, і якщо у розмові з’явиться шкода або смерть, знайти відповідні докази буде неможливо.

Кеткарт відповів, що на початковому етапі Meta AI без слідів у діалозі оброблятиме лише текст, без підтримки зображень. Крім того, механізми безпеки Meta AI будуть обережними і відмовлятимуть у відповідях, які можуть бути сприйняті як шкідливі або незаконні.

Також WhatsApp наразі заблокував доступ інших AI-чат-ботів до своєї системи, тому для мільярдів користувачів єдиним AI на платформі залишається продукт Meta.

Додаткові матеріали:
Використовують співробітників для тренування AI! Meta запустила внутрішній інструмент відстеження, що записує всі дії миші та натискання клавіш. Meta знову робить ставку на AI: Зукерберг пише програми на Claude, а співробітники ведуть боротьбу за Token і KPI.