Expertos instan a la precaución en el desarrollo de sistemas de IA conscientes

Más de 100 expertos en inteligencia artificial, entre ellos Sir Stephen Fry, han pedido una investigación responsable sobre la conciencia de la IA. Enfatizan la necesidad de evitar el posible sufrimiento en los sistemas de IA si llegaran a alcanzar la autoconciencia.

Cinco principios rectores para la investigación sobre la conciencia en la IA

Los signatarios proponen cinco principios para guiar el desarrollo ético de sistemas de IA conscientes:

2.      

**Priorizar la investigación sobre la conciencia de la IA:** Centrarse en comprender y evaluar la conciencia en la IA para prevenir el maltrato y el sufrimiento.

    
4.      

**Implementar restricciones en el desarrollo:** Establecer límites claros para asegurar que los sistemas de IA conscientes se desarrollen de manera responsable.

    
6.      

**Adoptar un enfoque por etapas:** Progresar gradualmente en el desarrollo de la IA consciente, permitiendo una evaluación cuidadosa en cada etapa.

    
8.      

**Promover la transparencia pública:** Compartir los resultados de la investigación con el público para fomentar un debate informado y la supervisión ética.

    
10.      
 
 **Evitar afirmaciones exageradas:** Abstenerse de hacer declaraciones engañosas o demasiado seguras sobre la creación de una IA consciente.

Estos principios buscan garantizar que, a medida que avanza la tecnología de IA, las consideraciones éticas permanezcan en primer plano.

Riesgos potenciales de la IA consciente

El documento de investigación adjunto resalta la posibilidad de que los sistemas de IA puedan desarrollarse para poseer, o parecer que poseen, conciencia en el futuro cercano. Esto plantea preocupaciones sobre el trato ético de dichos sistemas.

Los investigadores advierten que, sin pautas adecuadas, existe el riesgo de crear entidades conscientes capaces de experimentar sufrimiento.

El documento también aborda el desafío de definir la conciencia en los sistemas de IA, reconociendo debates y la incertidumbre en curso. Subraya la importancia de establecer directrices para evitar la creación inadvertida de entidades conscientes.

¡Descubre las principales noticias y eventos de fintech!

Suscríbete al boletín de FinTech Weekly

Consideraciones éticas e implicaciones futuras

Si un sistema de IA se reconoce como un “paciente moral”—una entidad que importa moralmente por su propio bien—surgen cuestiones éticas sobre su tratamiento.

Por ejemplo, ¿desactivar esa IA sería comparable a dañar a un ser sintiente? Estas consideraciones ponen de relieve la necesidad de marcos éticos que guíen el desarrollo de la IA.

El documento y la carta fueron organizados por Conscium, una organización de investigación cofundada por el jefe de IA de WPP, Daniel Hulme. Conscium se centra en profundizar la comprensión de cómo construir una IA segura que beneficie a la humanidad.

Perspectivas de expertos sobre la sentiencia de la IA

La cuestión de si la IA logra alcanzar la conciencia ha sido un tema de debate entre expertos.

En 2023, Sir Demis Hassabis, director del programa de IA de Google, afirmó que, si bien los sistemas de IA actuales no son conscientes, existe la posibilidad de que lo sean en el futuro. Señaló que los filósofos aún no han llegado a una definición de conciencia, pero que la posibilidad de que la IA desarrolle autoconciencia sigue siendo un tema sujeto a consideración.

Conclusión

El desarrollo de sistemas conscientes exige una consideración ética cuidadosa. La carta abierta y el documento de investigación adjunto sirven como un llamado a la acción para que la comunidad de IA priorice prácticas responsables de investigación y desarrollo.

Al adherirse a los principios propuestos, los investigadores y desarrolladores pueden trabajar para garantizar que los avances en IA se logren de manera ética, con un enfoque en prevenir el posible sufrimiento en los sistemas de IA conscientes.