Глава Google AI Хасабис: передовые ИИ-системы, которые не прошли проверку, нельзя размещать в США

ME AI сообщение, по данным мониторинга Beating, генеральный директор Google DeepMind Демис Хассабис заявил, что до AGI, возможно, осталось всего несколько лет. Он считает, что США должны превратить существующие добровольные тесты моделей в постепенный переход к обязательному допуску на рынок.

По его плану передовые AI-компании вначале должны максимум за 30 дней до публикации модели добровольно направлять её на рассмотрение. После того как оценочные механизмы созреют, модели, достигшие порога возможностей, должны проходить тестирование, чтобы их можно было развернуть на рынке США.

Он предлагает создать стандартизирующий орган по аналогии с американской финансовой регуляторной структурой FINRA. Орган находится под надзором федерального правительства, а основное финансирование поступает от AI-компаний; также в его состав входят независимые эксперты и представители открытых (open-source) сообществ. В тестировании будут уделять внимание сетевым атакам, биологическим угрозам, мошенническим (обманным) действиям и обходу ограничений безопасности. Стандарты будут регулярно обновляться и постепенно внедрять независимые тесты, которые заранее недоступны лабораториям, чтобы модели не могли «накручивать» баллы по публичным заданиям.

Правила будут устанавливаться по уровню возможностей модели и не будут различать компании из США или из других стран, а также не будут различать open-source и закрытые (closed-source) модели. Стартапы и академические проекты, которые не дотягивают до передового порога, смогут получить освобождение.

Сейчас США уже разрешают передовым компаниям максимум за 30 дней до публикации модели добровольно передавать её на тестирование правительству. Но административный указ, выпущенный в июне, чётко исключает обязательное лицензирование и предварительное одобрение. Хассабис выступает за то, чтобы эту добровольную схему превратить в обязательный «пропуск», а при серьёзных рисках — ещё и координировать сдерживание темпов работы передовых лабораторий в коллективном порядке.

（Источник：BlockBeats）