El líder de IA de Google, Hassabis: la IA de vanguardia no pasa revisión y no puede salir en Estados Unidos

ME AI消息。据 Beating 监测，谷歌 DeepMind CEO Demis Hassabis 表示 que la AGI podría quedar solo a unos años. Él sostiene que Estados Unidos debe convertir las pruebas voluntarias de modelos existentes en un sistema de acceso al mercado obligatorio y progresivo. Según su plan, las principales empresas de IA deberían enviar voluntariamente sus modelos para revisión como máximo 30 días antes de su lanzamiento inicial. Cuando el mecanismo de evaluación esté maduro, los modelos que alcancen el umbral de capacidad deberán pasar por las pruebas para poder desplegarse en el mercado estadounidense.

Propone crear una institución de estándares similar a la FINRA de la industria financiera de Estados Unidos. La institución estaría supervisada por el gobierno federal; su financiación provendría principalmente de empresas de IA, e incorporaría a expertos independientes y representantes de comunidades de código abierto.

Las pruebas se centrarían en ataques a redes, amenazas biológicas, conductas de engaño y la evasión de restricciones de seguridad. Los estándares se actualizarán de forma periódica y se adoptarán gradualmente pruebas independientes que los laboratorios no puedan ver con antelación, para evitar que los modelos “scoreen” según temas públicos.

Las reglas se trazarán en función de las capacidades del modelo, sin distinguir entre empresas estadounidenses o extranjeras, ni entre proyectos de código abierto o de código cerrado. Las startups y proyectos académicos que no alcancen el umbral de vanguardia podrían quedar exentos.

Estados Unidos ya permite que las empresas punteras envíen voluntariamente modelos al gobierno para pruebas, con un plazo máximo de 30 días antes de su lanzamiento. Pero la orden ejecutiva emitida en junio excluye explícitamente la licencia obligatoria y la aprobación previa. Hassabis aboga por transformar este mecanismo voluntario en un “pase” obligatorio; cuando los riesgos sean graves, también se podría coordinar que los laboratorios punteros reduzcan colectivamente la velocidad.

(Fuente: BlockBeats)