WhatsApp під Meta AI без слідів розмови: стверджують, що навіть Meta не може її побачити, але є велика занепокоєність

WhatsApp запустив «Meta AI без слідів розмови», що гарантує, що розмови не зберігаються і офіційно не доступні. Експерти побоюються, що цей крок може ускладнити відповідальність за помилки AI, а Meta заявляє, що на початковому етапі підтримує лише текст і застосовує обережний захист.

Meta AI без слідів розмови з’явився у відповідь на потребу у приватності користувачів

Зі швидким поширенням генеративних AI-чатботів, спілкування з AI поступово стає частиною повсякденного життя. Але багато запитів містять дуже чутливу інформацію, наприклад, особисті фінансові, персональні, медичні або робочі дані, що створює потребу у приватності.

WhatsApp для цього запустив «Meta AI без слідів розмови», стверджуючи, що це нова функція для повністю приватних розмов з AI.

Meta AI без слідів розмови базується на приватних обробних технологіях і дозволяє вести приватний чат з Meta AI у ситуаціях, коли інші не можуть бачити. Користувацькі повідомлення обробляються у безпечному середовищі, і навіть Meta не має до них доступу.

Ці розмови не зберігаються, а система за замовчуванням налаштована на автоматичне зникнення повідомлень, створюючи простір для вільного мислення і дослідження ідей без стороннього контролю.

Джерело: WhatsApp Новий функціонал Meta AI без слідів розмови з’явився у відповідь на потребу у приватності користувачів

Шість основних технологій Meta AI без слідів розмови

Згідно з технічним білим папером Meta, Meta AI без слідів розмови поєднує шість ключових технологій для забезпечення приватності та безпеки даних:

1. Обчислювальне апаратне забезпечення з конфіденційністю: Використовуються процесори AMD з підтримкою конфіденційних обчислень і Nvidia GPU для створення довіреного виконувального середовища (TEE), забезпечуючи ізоляцію обчислювальних процесів на апаратному рівні, включаючи Meta або основну операційну систему, які не мають доступу до оброблюваних даних.
2. Аутентифіковане та зашифроване сполучення: Система використовує технологію RA-TLS для забезпечення сквозного шифрування, гарантує, що розшифрувати можуть лише пристрої користувачів і приватні вузли обробки, а через апаратну аутентифікацію перевіряє, чи виконується на сервері незмінне програмне забезпечення.
3. Прозорість компонентів: Щоб запобігти розгортанню шкідливого ПЗ, система публікує важливі компоненти, такі як двійкові файли та ваги моделей, у відкритих журналах прозорості третіх сторін, що дозволяє клієнтам і дослідникам перевіряти справжність виконуваного коду.
4. Безпечне програмне забезпечення: Усередині TEE застосовуються багаторівневі заходи захисту для посилення стеку ПЗ, а застосунки контейнеризуються для обмеження поверхні атаки і суворого контролю витоку даних.
5. Анонімне маршрутизування: Система використовує анонімні сертифікати та технології прихованого HTTP, маршрутизуючи через сторонніх ретрансляторів, захищаючи IP-адреси користувачів і забезпечуючи анонімність, щоб запобігти ідентифікації конкретних користувачів.
6. Короткочасна та безстанційна обробка даних: Координатори і передбачувачі системи є безстанційними, після обробки запитів і повернення результатів вони відкидають дані розмов у пам’яті, забезпечуючи відсутність доступу до історії.

Занепокоєння ззовні: що робити, якщо Meta AI зазнає нещасного випадку

За повідомленням BBC, більшість AI-компаній зберігають дані користувачів чатботів і використовують їх для тренування майбутніх моделей. Представник WhatsApp Вілл Кеткарт (Will Cathcart) пояснив, що технології та платформи, що стоять за режимом без слідів, відрізняються від кінцевого шифрування інших повідомлень, але мають однакову силу.

Експерт з кібербезпеки з університету Суррея, Алан Вудвард (Alan Woodward), також зазначив, що впровадження другого набору систем має дуже низький ризик впливу на існуючу безпеку WhatsApp.

Однак існує побоювання, що режим без слідів може приховати збої або зловживання AI. Наприклад, кілька AI-компаній, таких як OpenAI і Google, раніше стикалися з судовими позовами, пов’язаними з нещасними випадками.

Вудвард вважає, що це може призвести до відсутності відповідальності за відповіді AI, оскільки повідомлення, що автоматично зникають, не можуть бути доступні користувачам або Meta, і якщо у розмові хтось завдає шкоди або трапляється смерть, знайти відповідні докази буде неможливо.

Кеткарт відповів, що на початковому етапі Meta AI без слідів розмови оброблятиме лише текст, без підтримки зображень. Крім того, механізми безпеки Meta AI будуть обережними і відмовлятимуть у відповідях на запити, які можуть бути сприйняті як шкідливі або незаконні.

Крім того, WhatsApp вже заблокував доступ інших AI-чатботів до своєї системи, тому для мільярдів користувачів єдиним AI на цій платформі залишається продукт Meta.

Додаткові матеріали:
Використання співробітників для тренування AI! Meta запустила внутрішній інструмент відстеження, що записує всі дії миші і клавіатури співробітниківMeta інвестує у AI: Зукерберг пише програми на Claude, співробітники ведуть боротьбу за Token і KPI