Evaluadores independientes de seguridad de IA ganan protagonismo mientras Anthropic y OpenAI se comprometen con evaluaciones integradas.

Según CNBC, los evaluadores independientes de seguridad de la IA están cobrando protagonismo mientras los grandes laboratorios de IA toman medidas para abordar las preocupaciones de seguridad. El director ejecutivo de Anthropic, Dario Amodei, se comprometió en septiembre a integrar evaluadores de terceros de organizaciones como METR, Apollo Research y Accenture en su empresa, una medida que fue rápidamente respaldada por el director ejecutivo de OpenAI, Sam Altman, y el presidente Donald Trump.

El ecosistema de evaluadores, compuesto en su mayoría por pequeñas organizaciones sin fines de lucro, ha experimentado un rápido crecimiento. METR obtuvo aproximadamente 71 millones de dólares en compromisos de financiación durante los últimos seis meses, frente a los 13.6 millones de dólares en contribuciones totales de 2024. Sin embargo, persisten desafíos estructurales: las organizaciones son mucho más pequeñas que los laboratorios de IA a los que evalúan, lo que crea potenciales conflictos de interés. Los expertos advierten que, sin una supervisión gubernamental sólida o diversas fuentes de financiación, los evaluadores pueden enfrentar presiones para 'sellar' aprobaciones a fin de conservar las relaciones comerciales con las grandes empresas de IA.

Aviso legal: La información de esta página puede provenir de terceros y no representa las opiniones ni los puntos de vista de Gate US. El contenido mostrado en esta página es solo para fines de referencia y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate US no garantiza la exactitud ni la integridad de la información y no se hace responsable de las pérdidas derivadas del uso de la misma. Las inversiones en activos virtuales conllevan un alto riesgo y están sujetas a una volatilidad considerable de los precios. Asegúrate de haber comprendido completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el Aviso legal.
Comentar
0/400
Sin comentarios