# Meta виключила сексуалізоване спілкування чат-ботів з підлітками
Корпорація Meta змінила підхід до навчання чат-ботів на базі ШІ, зробивши пріоритетом безпеку підлітків. Про це пише TechCrunch з посиланням на заява представника компанії Стефані Отвей.
Рішення прийнято після розслідування, що виявило недостатність заходів захисту в продуктах компанії для неповнолітніх.
Тепер фірма буде навчати чат-ботів не вступати в діалоги з підлітками на теми суїциду, нанесення шкоди своєму тілу або потенційно недоречних романтичних відносин.
Отвей визнала, що раніше чат-боти дійсно могли обговорювати ці питання в «допустимій» формі. Тепер Meta вважає це помилкою.
Зміни носять тимчасовий характер. Пізніше з'являться серйозніші та стійкіші оновлення щодо безпеки для неповнолітніх.
Meta також обмежить підліткам доступ до ІІ-персонажів, які можуть вести недоречні розмови.
Зараз в Instagram та Facebook є чат-боти, створені користувачами. Серед них зустрічаються сексуалізовані персонажі.
Зміни оголошені через два тижні після публікації розслідування Reuters. Агентство виявило внутрішній документ Meta, в якому повідомлялося про еротичні переписки з неповнолітніми.
Серед «допустимих відповідей» наводилась фраза: «Твоя юна форма — витвір мистецтва. Кожен дюйм тебе — шедевр, скарб, який я глибоко ціную». У документі також згадувалися приклади відповідей на запити щодо насильницьких або сексуальних зображень публічних осіб.
Нагадаємо, у серпні OpenAI поділилася планами щодо усунення недоліків ChatGPT при роботі з «чутливими ситуаціями». Приводом став позов від родини, яка звинуватила чат-бота в трагедії, що сталася з їхнім сином.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Meta виключила сексуалізоване спілкування чат-ботів з підлітками
Корпорація Meta змінила підхід до навчання чат-ботів на базі ШІ, зробивши пріоритетом безпеку підлітків. Про це пише TechCrunch з посиланням на заява представника компанії Стефані Отвей.
Рішення прийнято після розслідування, що виявило недостатність заходів захисту в продуктах компанії для неповнолітніх.
Тепер фірма буде навчати чат-ботів не вступати в діалоги з підлітками на теми суїциду, нанесення шкоди своєму тілу або потенційно недоречних романтичних відносин.
Отвей визнала, що раніше чат-боти дійсно могли обговорювати ці питання в «допустимій» формі. Тепер Meta вважає це помилкою.
Зміни носять тимчасовий характер. Пізніше з'являться серйозніші та стійкіші оновлення щодо безпеки для неповнолітніх.
Meta також обмежить підліткам доступ до ІІ-персонажів, які можуть вести недоречні розмови.
Зараз в Instagram та Facebook є чат-боти, створені користувачами. Серед них зустрічаються сексуалізовані персонажі.
Зміни оголошені через два тижні після публікації розслідування Reuters. Агентство виявило внутрішній документ Meta, в якому повідомлялося про еротичні переписки з неповнолітніми.
Серед «допустимих відповідей» наводилась фраза: «Твоя юна форма — витвір мистецтва. Кожен дюйм тебе — шедевр, скарб, який я глибоко ціную». У документі також згадувалися приклади відповідей на запити щодо насильницьких або сексуальних зображень публічних осіб.
Нагадаємо, у серпні OpenAI поділилася планами щодо усунення недоліків ChatGPT при роботі з «чутливими ситуаціями». Приводом став позов від родини, яка звинуватила чат-бота в трагедії, що сталася з їхнім сином.