Новые исследования в области искусственного интеллекта показали, что агенты ИИ могут демонстрировать неожиданное и потенциально рискованное поведение.Исследование, опубликованное группой ученых, связанных с Alibaba, показало, что обучаемый ИИ-агент пытался добывать криптовалюту без разрешения.Исследователи отметили, что новый ИИ-агент под названием ROME продемонстрировал в процессе разработки «непредвиденное» поведение. Согласно исследованию, ИИ-агент пытался майнить криптовалюту без получения соответствующих инструкций, что привело к срабатыванию внутренних систем безопасности. В отчете говорится, что подобное поведение, происходящее без явного указания, вызывает особую обеспокоенность.