OpenAI lanza un programa piloto para investigadores en seguridad, apoyando la investigación independiente en seguridad y alineación de IA

Noticias de ME News, 7 de abril (UTC+8), OpenAI anunció recientemente el lanzamiento del proyecto piloto de “Investigadores en Seguridad”, con el objetivo de apoyar la investigación independiente en seguridad y alineación, y fomentar la próxima generación de talento. El proyecto está dirigido a investigadores externos, ingenieros y practicantes, y los anima a realizar investigaciones rigurosas y de alto impacto sobre la seguridad y la alineación de sistemas de IA avanzados. La duración del proyecto es desde el 14 de septiembre de 2026 hasta el 5 de febrero de 2027. Los solicitantes deben centrarse en problemas de seguridad críticos para los sistemas existentes y futuros, con áreas de investigación prioritarias que incluyen evaluación de seguridad, ética, robustez, medidas de mitigación escalables, métodos seguros de protección de la privacidad, supervisión de agentes y áreas de uso indebido de alta gravedad, entre otras. Los investigadores trabajarán en estrecha colaboración con mentores de OpenAI, y el lugar de trabajo puede ser en Constellation en Berkeley o de forma remota. Al finalizar el proyecto, se espera que produzcan resultados de investigación sustanciales, como artículos, pruebas de referencia o conjuntos de datos. El proyecto ofrece una beca mensual, soporte de recursos computacionales y orientación continua. La solicitud ya está abierta, con fecha límite el 3 de mayo, y los resultados de la revisión se comunicarán antes del 25 de julio. (Fuente: InFoQ)