OpenAI inicia projeto piloto para investigadores de segurança, apoiando pesquisa independente em segurança e alinhamento de IA

Notícias do ME, 7 de abril (UTC+8), a OpenAI anunciou recentemente o lançamento do projeto piloto “Pesquisador de Segurança”, com o objetivo de apoiar pesquisas independentes de segurança e alinhamento, bem como de formar a próxima geração de talentos. O projeto é dirigido a pesquisadores externos, engenheiros e praticantes, incentivando-os a realizar pesquisas rigorosas e de alto impacto sobre questões de segurança e alinhamento de sistemas avançados de IA. O período do projeto vai de 14 de setembro de 2026 a 5 de fevereiro de 2027. Os candidatos devem focar em questões de segurança cruciais para os sistemas atuais e futuros, com áreas prioritárias de pesquisa incluindo avaliação de segurança, ética, robustez, medidas de mitigação escaláveis, métodos seguros de privacidade, supervisão de agentes e áreas de uso indevido de alta gravidade, entre outros. Os pesquisadores trabalharão em estreita colaboração com mentores da OpenAI, podendo atuar no Constellation em Berkeley ou remotamente. Ao final do projeto, é esperado que produzam resultados de pesquisa substanciais, como artigos, testes de referência ou conjuntos de dados. O projeto oferece subsídio mensal, suporte de recursos computacionais e orientação contínua. As inscrições já estão abertas, com prazo até 3 de maio, e os resultados da seleção serão comunicados até 25 de julho. (Fonte: InFoQ)