Виталик предложил компромисс между двумя лагерями вокруг ИИ: заранее договориться, что при возникновении крайне экстремального сценария будет запущен паузный режим

robot
Генерация тезисов в процессе
Сообщает Golden Finance: 11 июля сооснователь Ethereum Vitalik Buterin опубликовал пост, где обсудил противоречия вокруг AI сверхинтеллекта. Он отметил, что в сфере ИИ сейчас есть две группы: одна считает, что сверхинтеллект обязательно наступит до 2040 года, и его нужно как можно скорее взять под контроль; другая полагает, что ИИ — это всего лишь обычная технология, а идея «паузы» — это способ контролировать людей. Vitalik заявил, что не уверен, какая сторона права, и допускает замедление или паузу, но выступает против тезиса крупных компаний ИИ о том, что «открытый исходный код вреден», считая, что в основе этого — концентрация власти.
Vitalik предложил компромисс: обе стороны могут заранее согласовать, что если действительно произойдут какие-то крайние сценарии (например, суперпандемия, массовая безработица и т. п.), они согласятся запустить паузу в ИИ; если таких ситуаций не будет — тогда пойдут по плану другой стороны. Он признал, что у всех подходов есть недостатки, и людям приходится выбирать между «неидеальным» и «ещё более неидеальным», но защитные технологии — формальная верификация, криптография, безопасное оборудование и т. д. — стоит развивать в обоих мирах.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено