今日、Anthropicは彼らの最も危険なモデルをリリースした

いわゆる。モデルの名前はMythosで、ソフトウェアを見つけて侵入する能力が非常に高いため、Anthropicは2ヶ月間、サイバー防御者やインフラ企業だけに使用を限定していた。
今日手に入るのはFable 5で、同じモデルにサイバーセキュリティ、生物学、化学の質問をブロックし、それらをより弱いモデルに回すフィルターが付いている。
しかし、そのフィルターは全セッションのわずか5%未満でしか作動しない。つまり、95%の時間は、彼らが「配布するには危険すぎる」と言ったものと話していることになる。
Anthropicのレッドチームは1,000時間を費やして安全策を破ろうとしたが、できなかった。
しかし、インターネットには1,000時間以上の時間と、試すためのはるかに良い理由がある。
歴史上、すべてのロックされたモデルはハッキングされており、通常は数日以内に解除されている。
これからの数週間が見どころだ。