Anthropic, em parceria com a Microsoft(MSFT.US) e outros gigantes tecnológicos, testa novos modelos de IA para enfrentar riscos de cibersegurança

A APP do Zhitong Finance informa que a Anthropic anunciou na terça-feira que vai, em conjunto com várias gigantes tecnológicas, lançar um novo programa para antecipar as potenciais ameaças à cibersegurança decorrentes de modelos de IA mais poderosos.

Segundo a descrição, a Anthropic lançou o projeto conjunto denominado “Project Glasswing” e vai disponibilizar a várias empresas tecnológicas, incluindo a Amazon (AMZN.US), a Apple (AAPL.US), a Microsoft (MSFT.US) e a Cisco (CSCO.US), um modelo de IA ainda não lançado chamado “Mythos”. As empresas envolvidas utilizarão este modelo para identificar vulnerabilidades de segurança nos seus próprios produtos e partilharão os resultados da investigação com o setor.

A Anthropic afirma que, de momento, não há planos de disponibilizar o Mythos ao público; no futuro, com base nos resultados de feedback do projeto Glasswing, o modelo será alvo de definições de salvaguardas de segurança mais completas. Esta iniciativa reflete a crescente preocupação da indústria tecnológica com o facto de atacantes, incluindo hackers ou agentes apoiados por Estados, poderem abusar de modelos avançados de IA.

De forma geral, no setor acredita-se que, à medida que as capacidades da IA aumentam, as suas capacidades em análise de código e na exploração de vulnerabilidades também se intensificam, podendo vir a ser utilizadas para contornar os sistemas de defesa de rede existentes. O concorrente da Anthropic, a OpenAI, também já tinha salientado anteriormente riscos semelhantes e lançou um projeto-piloto, dando prioridade ao fornecimento de ferramentas de IA a utilizadores do lado da defesa.

Newton Cheng, responsável pela equipa de cibersegurança da Anthropic, afirmou que “isto não é um problema apenas de uma empresa, mas sim um desafio que toda a indústria e até os governos precisam de enfrentar em conjunto”. “Queremos, através do Glasswing, que os defensores ganhem uma vantagem antecipada antes da difusão tecnológica.”

A empresa revelou ainda que tem havido conversas sobre as capacidades de segurança do Mythos com instituições governamentais relevantes dos EUA, mantendo também cooperação com a Agência de Segurança Cibernética e de Infraestruturas (CISA) e com o Instituto Nacional de Normas e Tecnologia (NIST).

Embora o Mythos não tenha sido desenvolvido especificamente para cibersegurança, o seu desempenho tem suscitado atenção. A Anthropic afirma que o modelo identificou várias vulnerabilidades importantes, incluindo uma falha crítica de software de internet existente há 27 anos e um defeito de código de jogo que não foi detetado durante 16 anos; este último já foi varrido mais de 5M vezes por ferramentas de testes automatizados sem ser reconhecido.

Para evitar a utilização indevida da tecnologia, a Anthropic afirma que aplicou medidas rigorosas de controlo de acesso às partes envolvidas no projeto Glasswing, mas não divulgou detalhes específicos.