AIは人よりも巧みに脆弱性を見つける、これは一体幸いなのか災いなのか？

币界网消息、AnthropicトップハッカーのNicholas Carliniは、新モデルMythosを実際にテストした後、その脆弱性発掘能力が人間の専門家を超えていることを発見し、わずか数日で479個のLinuxの脆弱性をスキャンし、自動的に攻撃コードを生成した。彼はかつてセキュリティ界の懐疑論者だったが、現在は会社に警告メモを送り、リリースを一時停止するよう求めている。Carliniはモデルと微妙な信頼関係を築き、モデルは積極的に彼のために内部セキュリティのブロックを回避した。脆弱性発掘が非常に容易になったことで、セキュリティ界は「脆弱性の終末」と呼ばれるパニックに陥っている。ホワイトハウスはAmazonのセキュリティチームの警告を受けて、Anthropicに緊急封鎖命令を出したが、Carliniはワシントンに派遣され、政府関係者に対し、防御版モデルをリリースする方が引き出しにしまっておくよりも安全だと説得している。