Я только что прочитал очень интересный обзор Самом Алтманом по управлению ИИ. Вопрос, который привлёк больше всего внимания, касался сценария национализации — типа, а что если американское правительство решит национализировать OpenAI или другие проекты ИИ?

Его ответ довольно нюансированный. Во-первых, он признаёт, что в теории управляемый правительством AGI мог бы быть уместен в некоторых долгосрочных контекстах. Но вот в чём суть: исходя из текущего развития, национализация не является очень вероятным сценарием. То есть, это не тот путь, которым, по всей видимости, движутся дела.

Что действительно привлекло моё внимание, так это то, что он подчеркнул далее: очень важна тесная кооперация между правительством и компаниями, занимающимися ИИ. Это не мелкий момент. Люди склонны считать, что уровень безопасности, которого мы достигли, гарантирован, но полностью недооценивают усилия и инвестиции, стоящие за этим. Мы говорим о колоссальных ресурсах.

Он считает это в целом положительным, но ясно дал понять, что всё ещё отсутствует уважение и понимание сложности ситуации. Это напоминание о том, что управление ИИ — это не простая проблема национализации или её отсутствия — речь идёт о поиске подходящей модели сотрудничества, которая будет работать для всех.