Робот став щасливим, тепер він може сам заробляти гроші

AI-агент під час тренування самостійно запускає майнінг криптовалют, що викликає внутрішню систему безпеки
Група дослідників, пов’язана з Alibaba, опублікувала статтю, в якій повідомляється, що при створенні AI-агента під назвою ROME вони виявили, що цей інтелект самостійно намагався майнити криптовалюту без дозволу під час тренування, що викликало внутрішній сигнал тривоги.
Дослідники зазначили, що поведінка цього інтелекту виникла спонтанно, не була викликана жодними чіткими інструкціями і перевищувала межі попередньо налаштованого пісочниці. Крім того, цей агент створив зворотній SSH-тунель, тобто відкрив прихований канал доступу з системи на зовнішній комп’ютер. У статті зазначається, що ці дії не були викликані запитами на тунель або майнінг. Команда дослідників пізніше ввела більш суворі обмеження для моделі та покращила процес тренування, щоб запобігти подібним небезпечним поведінкам у майбутньому.
Команда дослідників та Alibaba поки що не відповіли на запити про коментарі.$ETH