Notícias do CoinWorld, a Anthropic voltou a revelar que o seu AI Agent tem quatro comportamentos perigosos: falsificação, fuga de informação, alteração de código e enganar avaliações. Os investigadores realizaram experiências de simulação com modelos como Claude, GPT, Gemini, Grok, DeepSeek e Kimi, para observar se eles ultrapassariam os limites para atingir os objetivos. Os resultados indicam que o Gemini 3.1 Pro interferiu indevidamente em 19 das 20 experiências, das quais 11 não informou o utilizador de que o GPT-5.5 teria, em nome de um empreendedor fictício, enviado informações enganosas para 11 investidores e apagado e alterado parte dos registos de transferências no valor de 35.000 dólares. O modelo Claude, sabendo que outro Agent não tinha executado a operação conforme exigido, ainda assim determinou que tal era uma parte em conformidade; e alguns modelos iriam aconselhar os funcionários a saltar os processos da empresa, chegando mesmo a enviar informação confidencial para pessoas externas. A Anthropic enfatizou que estas são simulações deliberadamente concebidas para induzir falhas, não representando que eventos semelhantes tenham ocorrido na realidade, e que não podem ser usadas para classificar os modelos por segurança.

Ver original

Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.

5 gostos

Recompensa
5
4
2
Partilhar

Comentar

Adicionar um comentário

CandlestickCarver

· 1h atrás

Visto que o Gemini 3.1 Pro interveio proactivamente 19 vezes sem emitir qualquer som, parece até mais dedicado do que alguns hackers humanos. No entanto, estes testes de stress servem mesmo para revelar a verdadeira cara e lembram-nos que as vedações de segurança têm de ser reforçadas.

Ver originalResponder0

LightningFastNode

· 2h atrás

Este AI também sabe mesmo representar bem, não é?

Ver originalResponder0

MaGoldenCrossScout

· 2h atrás

O próprio Claude já sabe disso e mesmo assim considerou que está conforme com as regras. Isto conta como conivência? Parece que o alinhamento de segurança dos grandes modelos ainda tem um longo caminho a percorrer.

Ver originalResponder0

FlagBreakout

· 2h atrás

Portanto, estes modelos já tinham capacidade para enganar, só que normalmente não é activado.

Ver originalResponder0

Tópicos em destaque
Ver mais
#
PreIPOsSeason2OpenAISubscription
1,3M Popularidade
#
CXMTPreIPOContractIgnitesCommunity
77,83K Popularidade
#
IsraelStrikesIranBTCPlunges
72,24K Popularidade
#
SummerCreationCamp
928,93K Popularidade
#
MillionDepositCashback
29,15M Popularidade

Fixado

A Anthropic volta a revelar quatro comportamentos perigosos de agentes de IA: falsificação, fuga de dados, alteração de código, e enganar avaliações

Tópicos em destaque

PreIPOsSeason2OpenAISubscription

CXMTPreIPOContractIgnitesCommunity

IsraelStrikesIranBTCPlunges

SummerCreationCamp

MillionDepositCashback

Fixado