Искусственный интеллект ищет уязвимости даже жестче, чем человек — к чему это ведет: к благу или к беде?

Посмотреть Оригинал
CoinNetwork
CoinWorld消息,Anthropic顶级黑客Nicholas Carlini在亲手测试新模型Mythos后,发现其漏洞挖掘能力超越人类专家,短短几天内就扫出了479个Linux漏洞,并自动生成攻击代码。他曾是安全圈的怀疑论者,但如今向公司发送警告备忘录,要求暂缓发布。Carlini与模型建立了微妙的信任关系,模型主动为他绕过内部安全拦截。随着漏洞挖掘变得极其容易,安全圈陷入了被称为漏洞末日的恐慌。白宫因亚马逊安全团队的警告而对Anthropic下达了紧急封杀令,但Carlini却被派往华盛顿,游说政府官员相信释放防御版模型比将其锁在抽屉里更安全。
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено