WhatsApp під Meta AI без слідів розмови: стверджують, що навіть Meta не може побачити, але є велика занепокоєність

WhatsApp запустив «Meta AI без слідів у діалозі», що гарантує, що розмови не зберігаються і офіційно до них не мають доступу. Експерти висловлюють занепокоєння, що цей крок може ускладнити відповідальність за помилки AI, а Meta заявляє, що на початковому етапі підтримує лише текстові повідомлення і застосовує обережний захист.

Meta AI без слідів у діалозі з’явився у відповідь на потребу приватності користувачів

З швидким поширенням генеративних чат-ботів AI, спілкування з AI стає все більш звичним у повсякденному житті. Але багато запитів містять дуже чутливу інформацію, наприклад, особисті фінансові, персональні, медичні або робочі дані, що створює потребу у приватності.

WhatsApp запустив «Meta AI без слідів у діалозі», стверджуючи, що це нова функція для повністю приватних розмов з AI.

Meta AI без слідів у діалозі базується на приватних обробних технологіях і дозволяє вести приватні чати з Meta AI у ситуаціях, коли інші не можуть бачити повідомлення. Користувацькі повідомлення обробляються у безпечному середовищі, і навіть Meta не має до них доступу.

Ці розмови не зберігаються, а система за замовчуванням налаштована на автоматичне зникнення повідомлень, створюючи простір для вільного мислення і дослідження ідей без стороннього спостереження.

Джерело зображення: WhatsApp WhatsApp додав функцію Meta AI без слідів у діалозі, створену у відповідь на потребу приватності користувачів

Шість ключових технологій Meta AI без слідів у діалозі

Згідно з технічним білим папером Meta, Meta AI без слідів у діалозі поєднує шість основних технологій для забезпечення приватності та безпеки даних:

1. Обчислювальне апаратне забезпечення з конфіденційністю: Використовуються процесори AMD з підтримкою конфіденційних обчислень і GPU Nvidia для створення довіреного виконувального середовища (TEE), забезпечуючи ізоляцію обчислювальних процесів на апаратному рівні, включаючи Meta або основну операційну систему, що не дозволяє доступу до оброблюваних даних.
2. Аутентифіковане та зашифроване сполучення: Система використовує технологію RA-TLS для забезпечення сквозного шифрування, гарантує, що розшифрувати можуть лише пристрої користувачів і приватні обробні вузли, а також проходить апаратну аутентифікацію для перевірки, чи виконується на сервері незмінне програмне забезпечення.
3. Прозорість компонентів: Щоб запобігти розгортанню шкідливого ПЗ, система публікує важливі компоненти, такі як двійкові файли та ваги моделей, у відкритих журналах прозорості третіх сторін, що дозволяє клієнтам і дослідникам перевіряти справжність виконуваного коду.
4. Безпечне програмне забезпечення: Усередині TEE застосовуються багаторівневі заходи захисту для посилення стеку програм, а застосунки контейнеризуються для обмеження поверхні атаки і суворого контролю витоку даних.
5. Анонімне маршрутизування: Система використовує анонімні сервіси сертифікації та технології прихованого HTTP, маршрутизуючи через сторонні проміжні сервери, захищаючи IP-адресу користувача і забезпечуючи анонімність, щоб запобігти ідентифікації конкретних користувачів.
6. Короткочасна та безстанційна обробка даних: Координатори і передбачувачі системи є безстанційними, і після обробки запитів та повернення результатів, вони знищують пам’ять про розмову, забезпечуючи відсутність доступу до історії.

Занепокоєння з боку громадськості: що робити, якщо Meta AI зазнає нещасного випадку

За повідомленням BBC, більшість AI-компаній зберігають дані користувачів чат-ботів і використовують їх для тренування майбутніх моделей продуктів. Представник WhatsApp Вілл Кеткарт (Will Cathcart) пояснив, що технології та платформи, що стоять за режимом без слідів, відрізняються від end-to-end шифрування інших повідомлень, але мають однакову силу.

Експерт з кібербезпеки з університету Суррея, Алан Вудвард (Alan Woodward), також зазначив, що впровадження другого системного рівня незначно знижує ризик впливу на безпеку існуючої системи WhatsApp.

Однак громадськість висловлює занепокоєння, що режим без слідів може приховати збої або зловживання AI. Наприклад, кілька AI-компаній, включаючи OpenAI і Google, раніше стикалися з судовими позовами, пов’язаними з нещасними випадками.

Вудвард вважає, що це може призвести до того, що відповіді AI стануть менш підзвітними, оскільки повідомлення, що автоматично зникають, не можуть бути доступні користувачам або Meta, і якщо у розмові з’явиться шкода або смерть, знайти відповідні докази буде неможливо.

Кеткарт відповів, що на початковому етапі Meta AI без слідів у діалозі оброблятиме лише текст, без підтримки зображень. Крім того, механізми безпеки Meta AI будуть застосовувати обережний підхід і відмовляти у відповідях на запити, які можуть бути шкідливими або незаконними.

Крім того, WhatsApp вже заблокував доступ інших AI-чат-ботів до своєї системи, тому для мільярдів користувачів єдиним AI на цій платформі залишається продукт Meta.

Додаткові матеріали:
Використовують співробітників для тренування AI! Meta запустила внутрішній інструмент відстеження, що записує всі дії миші та натискання клавіш співробітниківMeta інтенсивно розвиває AI: Зукерберг пише програми на Claude, співробітники ведуть боротьбу за Token, щоб досягти KPI