Только что услышал последнее мнение Маска по поводу ИИ и робототехники, и честно говоря, это довольно дикая смесь из «это может быть потрясающе» и «мы можем играть с огнем».

Он говорит о будущем, где ИИ и гуманоидные роботы сделают всё настолько изобилующим, что дефицит фактически исчезнет. Технологии автономного вождения для Tesla могут стать ступенькой к полностью способным роботам, выполняющим сложные задачи. На первый взгляд звучит как утопия, правда? Но вот что интересно — он также активно поднимает вопрос экзистенциальных рисков.

Основная проблема, к которой он постоянно возвращается, — это отделение цифрового сверхинтеллекта от человеческого контроля. Это кошмарный сценарий. Его решение? Тесная интеграция человеческого интеллекта и ИИ, возможно, через что-то вроде нейронных интерфейсов. Это не просто теория для него — он последовательно говорит о рисках ИИ уже более двух десятилетий.

Что привлекает внимание людей, так это то, что даже Маск, который обычно не склонен к регулированию со стороны правительства, сейчас поддерживает законопроекты по безопасности ИИ. Недавно он написал, что Калифорния должна принять SB 1047, называя это необходимым контролем. Когда человек, обычно выступающий против регулирования, начинает за него ратовать, это говорит о том, насколько он серьезно воспринимает риски.

Помимо космических тем, он также продвигает идею колонизации Марса как стратегию долгосрочного выживания человечества. Самостоятельные города на Марсе как резервный план для цивилизации. Это амбициозно, но соответствует его привычке думать масштабно о будущем человечества.

Регуляторная обстановка тоже меняется — ЕС уже принял свой Закон об ИИ, в США идут активные обсуждения. Эти шаги совпадают с тем, о чем предупреждал Маск. Настоящий вопрос, который сейчас задают все, — сможет ли регулирование действительно поспевать за темпами развития этой технологии. У Маска в возрасте и с его опытом долгосрочного мышления, он, вероятно, уже на три шага впереди, как это развернется.