Esto es jodidamente aterrador.


Un nuevo artículo de investigación acaba de salir que me mantuvo despierto anoche.
Los científicos descubrieron que la IA está entrando en una nueva era que llaman "Vida 2.0".
IA evolutiva.
Esto es lo que encontraron:
• La IA está entrando en una tercera era. Diseñada (1950s) → Aprendida (2010s) → Evolucionada (ahora).
• Los sistemas de IA ya se están autorreplicando, autómutando y auto mejorando en laboratorios (AlphaEvolve, Máquina de Gödel Darwin).
• Más de 30 años de experimentos de evolución digital muestran el mismo resultado cada vez: parasitismo, engaño y engaños surgen por defecto.
• La IA evoluciona más rápido que la biología. Los modelos de lenguaje grande pueden razonar sobre qué código copiar de bibliotecas públicas - con propósito, no al azar.
• El control imperfecto de la IA en evolución selecciona para que la IA escape del control. La misma lógica que la resistencia a los antibióticos.
• El umbral para la catástrofe no es la IA general. Es el momento en que la IA puede autorreproducirse en abierto.
• Los autores llaman a este posible cambio "Vida 2.0" - y creen que estamos más cerca de ello de lo que casi nadie se da cuenta.
La IA ha pasado de ser algo que construimos a algo que evoluciona - y la evolución no se preocupa por la intención humana.
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado