Мы находимся на опасной критической точке, с распространением глубоких подделок и генеративного ИИ, доверие к видимому уже умерло.

Когда любой голос и лицо могут быть сгенерированы, когда любую логику можно смоделировать, основа общественного доверия начинает таять.
Мы больше не верим содержимому на экране, даже не уверены, что за экраном действительно человек.
Это исчезновение доверия не случайно, а неизбежный результат развития технологий.
Традиционное доверие основано на видимости процесса, например, подписи, печати, нотариате.
Но в черных ящиках ИИ эти процессы исчезают, ИИ разрывает связь между суждением и ответственностью, лишая систему ответственности якоря.
Решить эту проблему с помощью моральных призывов бесполезно, нам нужны инженерные решения.
Будущее доверия должно основываться на синтезированном штампе, нам нужен цифровой чек, который фиксирует путь создания контента: какие инструменты использовались, какие правила соблюдались, какая проверка прошла.
Эта новая инфраструктура превратит доверие из психологического состояния в технологическую характеристику.
Она позволит нам безопасно сотрудничать, даже если мы не доверяем друг другу.
Это не только о защите от подделок, но и о восстановлении проверяемой истины в эпоху алгоритмов.
Без такой инфраструктуры цифровая экономика превратится в казино, полное мошенничества.
Я хочу спросить всех: если в будущем вся информация потребует подтверждения источника для доверия, вы согласились бы жить в мире, где все высказывания отслеживаются и проверяются технологиями?