OpenAI Lança Programa de Recompensas por Bugs para Impedir a Armazenização de IA

A OpenAI apresentou um novo programa de Safety Bug Bounty para detetar e prevenir a potencial utilização indevida das suas ferramentas de inteligência artificial. Este programa aborda mais do que os problemas tradicionais de cibersegurança, pois cobre riscos que podem levar a danos materiais.

Oferta de 30% de Desconto TipRanks Premium

Nova ferramenta de negociação para touros/ursos da IBM

A OpenAI alarga o foco do Bug Bounty à utilização indevida de IA

O Programa Bug Bounty, lançado mais cedo esta semana, convida investigadores de segurança e de segurança/safety a identificar falhas de conceção ou de implementação que possam levar a danos no mundo real, exposição de dados ou manipulação do sistema. Este programa irá complementar o quadro de security bounty existente da OpenAI, ao visar abusos específicos de sistemas de IA, mesmo quando não cumprem os critérios de vulnerabilidades de segurança.

Os problemas reportados devem apresentar um risco claro e demonstrado de forma repetida, tipicamente ocorrendo metade do tempo sob as mesmas condições. A empresa anfitriã afirmou que as submissões devem incluir uma solução com passos recomendados para abordar de forma eficaz os riscos identificados.

O programa de bugs visa riscos no mundo real e abuso de sistemas

A OpenAI está a concentrar-se na proteção de informação proprietária do sistema, como o comportamento do modelo e processos internos, contra uma exposição não intencional. Embora as políticas gerais de conteúdo sejam excluídas, a empresa privada pode ainda considerar casos-limite nos quais falhas possam ser exploradas para causar problemas no mundo real.

As equipas de segurança da empresa anfitriã irão analisar as submissões, e alguns relatórios serão encaminhados entre programas consoante o problema que abordem. A iniciativa é hospedada no Bugcrowd e também está aberta a hackers éticos que possam ajudar a identificar riscos em produtos ativos da OpenAI. O programa mostra que a OpenAI está muito consciente das implicações de segurança das tecnologias avançadas de IA e está a adotar proativamente medidas eficazes para gerir estas ameaças.

Quais são as principais ações de IA para comprar agora?

Os investidores que acompanham ações ligadas aos setores de inteligência artificial e computação em nuvem estão a observar alguns dos principais intervenientes, incluindo a Nvidia NVDA -1.90% ▼ , a Meta Platforms META -4.34% ▼ , a IBM IBM -2.11% ▼ , e a Amazon AMZN -3.22% ▼ . Os analistas da Wall Street acompanhados pela TipRanks estão a avaliar a NVDA, a META e a AMZN como “Strong Buy”, enquanto a IBM é “Moderate Buy”. Para mais informações sobre os dados de desempenho destas ações de IA, metas de preço e o sentimento dos analistas, visite o TipRanks’ Stocks Comparison Center.

Aviso legal e divulgaçãoReportar um problema