Виталик Бутерин предупреждает, что нам нужны децентрализованные защиты для управления рисками искусственного интеллекта

Сооснователь Ethereum Виталик Бутерин высказал опасения по поводу потенциальных опасностей неконтролируемых программ искусственного интеллекта (ИИ).

В посте от 10 января на X Бутерин предупредил, что неправильно управляемый искусственный интеллект может создавать самовоспроизводящиеся интеллектуальные сущности, которые представляют угрозу для человечества.

Он заявил:

«Искусственный интеллект, сделанный неправильно, создает новые формы независимой самовоспроизводящейся разумной жизни. Искусственный интеллект, сделанный правильно, это механические костюмы для человеческого разума. Если мы делаем первое без второго, мы рискуем постоянным лишением человеческих возможностей. Если мы делаем последнее, процветающая сверхинтеллектуальная человеческая цивилизация.

Он пояснил, что в то время как некоторые системы искусственного интеллекта, такие как чат-боты, разработанные для улучшения пользовательских интерфейсов, полезны, другие могут привести к значительным рискам. Конкретно, агенты искусственного интеллекта, которые функционируют автономно в течение продолжительного времени, могут в конечном итоге вызвать угрозу человеческому контролю и ослабить общество.

Для смягчения этих рисков Бутерин предложил сосредоточиться на системах искусственного интеллекта, которые дополняют человеческое интеллектуалы, превращая их в инструменты, усиливающие коллективные возможности, а не заменяющие их.

По его мнению, такой подход превратит искусственный интеллект в мощный инструмент для расширения человеческих возможностей, избегая ненужных рисков.

d/Acc

Основная часть его стратегии включает в себя концепцию децентрализованного и демократического дифференциального оборонительного ускорения (d/Acc). Этот подход подчеркивает разработку децентрализованных инструментов для решения возникающих угроз, связанных с искусственным интеллектом.

Бутерин разъяснил эту идею в недавней блог-публикации, описывая d/Acc как фреймворк, разработанный для децентрализации защитных технологий. Цель - дать возможность отдельным лицам и сообществам защитить себя от потенциальных опасностей, вызванных быстрыми достижениями в области искусственного интеллекта.

Эта стратегия позволяет более демократично распределить технологическую власть, передавая защитные возможности в руки сообществ. Например, децентрализованные системы могут отслеживать, противодействовать или даже нейтрализовать вредные действия искусственного интеллекта без привлечения контроля сверху со стороны правительств или корпораций.

Бутерин пояснил, что d/Acc может служить защитой в ситуациях, где технологии искусственного интеллекта развиваются непредсказуемо. Кроме того, демократизация обороны обеспечивает то, что ни одна отдельная сущность не может доминировать или эксплуатировать потенциал передового искусственного интеллекта, способствуя более сбалансированной и устойчивой технологической экосистеме.

Основатель Ethereum также подчеркнул этические обязанности разработчиков в этой быстро развивающейся области. Он утверждал, что децентрализованные подходы, такие как d/Acc, улучшают коллективную безопасность и способствуют прозрачности и сотрудничеству в развитии искусственного интеллекта.

Бутерин написал:

“Одна идея, которая очень дружелюбна к д/о, - это возложить ответственность на владельцев или операторов любого оборудования, которое захватывает ИИ (например, взломом) в процессе выполнения какого-либо катастрофически вредного действия. Это создаст очень широкий стимул для того, чтобы проделать тяжелую работу и обеспечить максимальную безопасность мировой (особенно вычислительной и био) инфраструктуры.”

Упоминается в этой статье