WhatsApp під Meta AI без слідів розмови: стверджують, що навіть Meta не може її побачити, але є велика тривога

WhatsApp запустив «Meta AI без слідів розмову», що гарантує, що розмови не зберігаються і офіційно недоступні для сторонніх. Експерти висловлюють занепокоєння, що цей крок може ускладнити відповідальність за помилки AI, а Meta заявляє, що на початковому етапі підтримує лише текстові повідомлення і застосовує обережний захист.

Meta AI без слідів розмову з’явився у відповідь на потребу захисту приватності користувачів

Зі швидким поширенням генеративних AI-чатботів, спілкування з AI поступово стає частиною повсякденного життя. Але багато запитів містять дуже чутливу інформацію, наприклад, особисті фінансові, персональні, медичні або робочі дані, що створює потребу у приватності.

WhatsApp для цього запустив «Meta AI без слідів розмову», заявляючи, що це нова функція для повністю приватних розмов з AI.

Meta AI без слідів розмову базується на технології приватної обробки, що дозволяє вести приватні чати з Meta AI у ситуаціях, коли інші не можуть бачити повідомлення. Користувацькі повідомлення обробляються у безпечному середовищі, і навіть Meta не має до них доступу.

Ці розмови не зберігаються, а система за замовчуванням налаштована на автоматичне зникнення повідомлень, що дає користувачам свободу думати і досліджувати ідеї без стороннього спостереження.

Джерело зображення: WhatsApp WhatsApp додав функцію Meta AI без слідів розмову, створену у відповідь на потребу захисту приватності

Шість основних технологій Meta AI без слідів розмову

Згідно з технічним білим папером Meta, Meta AI без слідів розмову поєднує шість ключових технологій для забезпечення приватності та безпеки даних розмов:

1. Обчислювальне апаратне забезпечення з конфіденційністю: Використовуються процесори AMD з підтримкою конфіденційних обчислень та GPU Nvidia для створення довіреного виконувального середовища (TEE), забезпечуючи ізоляцію обчислювальних процесів на апаратному рівні, включаючи Meta або основну операційну систему, що не дозволяє доступу до оброблюваних даних.
2. Аутентифіковане та зашифроване сполучення: Система використовує технологію RA-TLS для забезпечення сквозного шифрування, гарантує, що розшифрувати можуть лише пристрої користувачів і приватні оброблювальні вузли, а через апаратну аутентифікацію перевіряється, чи виконує сервер не змінений програмний стек.
3. Прозорість компонентів: Щоб запобігти розгортанню шкідливого ПЗ, система публікує важливі компоненти, такі як двійкові файли та ваги моделей, у відкритих журналах прозорості третіх сторін, що дозволяє клієнтам і дослідникам перевіряти справжність виконуваного коду.
4. Безпечне програмне забезпечення: Усередині TEE застосовуються багаторівневі заходи захисту для посилення стеку програм, а застосунки контейнеризуються для обмеження поверхні атаки і суворого контролю витоку даних.
5. Анонімне маршрутизування: Система використовує анонімні сертифікати та технології прихованого HTTP, маршрутизуючи через сторонніх ретрансляторів, захищаючи IP-адреси користувачів і забезпечуючи анонімність, щоб запобігти ідентифікації конкретних користувачів.
6. Короткочасна та безстанційна обробка даних: Координатор і передбачувач у системі є безстанційними, і після обробки запитів та повернення результатів вони знищують пам’ять із розмовами, забезпечуючи відсутність доступу до історії.

Занепокоєння з боку громадськості: що робити, якщо Meta AI спричинить нещасний випадок

За повідомленням BBC, більшість AI-компаній зберігають дані користувачів чатботів і використовують їх для тренування майбутніх моделей продуктів. Представник WhatsApp Вілл Кеткарт (Will Cathcart) пояснив, що технологія та платформа, що стоять за режимом без слідів, відрізняються від кінцевого шифрування інших повідомлень, але мають однакову силу.

Експерт з кібербезпеки з університету Суррея, Алан Вудвард (Alan Woodward), також зазначив, що впровадження другого набору систем має дуже низький ризик впливу на існуючу безпеку WhatsApp.

Однак громадськість висловлює занепокоєння, що режим без слідів може приховати збої або зловживання AI. Наприклад, кілька AI-компаній, включаючи OpenAI і Google, раніше стикалися з судовими позовами, пов’язаними з нещасними випадками.

Вудвард вважає, що це може призвести до того, що відповіді AI стануть менш підзвітними, оскільки повідомлення, що автоматично зникають, не можуть бути доступні користувачам або Meta, і якщо у розмові хтось завдає шкоди або трапляється смерть, знайти відповідні докази буде неможливо.

Кеткарт відповів, що на початковому етапі Meta AI без слідів розмову буде підтримувати лише текстові повідомлення, без підтримки зображень. Крім того, механізми безпеки Meta AI будуть застосовувати обережний підхід і відмовляти у відповідях на запити, які можуть бути шкідливими або незаконними.

Крім того, WhatsApp вже заблокував доступ інших AI-чатботів до своєї системи, тому для мільярдів користувачів єдиним AI на цій платформі залишається продукт Meta.