Expertos instan a la precaución en el desarrollo de sistemas de IA conscientes

Más de 100 expertos en inteligencia artificial, entre ellos Sir Stephen Fry, han pedido una investigación responsable sobre la conciencia en la IA. Enfatizan la necesidad de prevenir el posible sufrimiento en los sistemas de IA si llegaran a adquirir autoconciencia.

Cinco principios rectores para la investigación de la conciencia en la IA

Los signatarios proponen cinco principios para guiar el desarrollo ético de sistemas de IA conscientes:

2.      

**Dar prioridad a la investigación sobre la conciencia en la IA:** Centrarse en comprender y evaluar la conciencia en la IA para evitar el maltrato y el sufrimiento.

    
4.      

**Implementar restricciones en el desarrollo:** Establecer límites claros para garantizar que los sistemas de IA conscientes se desarrollen de manera responsable.

    
6.      

**Adoptar un enfoque por fases:** Avanzar gradualmente en el desarrollo de IA consciente, permitiendo una evaluación cuidadosa en cada etapa.

    
8.      

**Promover la transparencia pública:** Compartir los resultados de la investigación con el público para fomentar un debate informado y una supervisión ética.

    
10.      
 
 **Evitar afirmaciones exageradas:** Abstenerse de hacer declaraciones engañosas o demasiado confiadas sobre la creación de IA consciente.

Estos principios buscan asegurar que, a medida que avanza la tecnología de IA, las consideraciones éticas permanezcan en el centro.

Riesgos potenciales de la IA consciente

El documento de investigación que acompaña destaca la posibilidad de que los sistemas de IA puedan desarrollarse para poseer, o parecer poseer, conciencia en un futuro cercano. Esto plantea preocupaciones sobre el trato ético de dichos sistemas.

Los investigadores advierten que, sin directrices adecuadas, existe el riesgo de crear entidades conscientes capaces de experimentar sufrimiento.

El documento también aborda el desafío de definir la conciencia en sistemas de IA, reconociendo debates y dudas en curso. Subraya la importancia de establecer directrices para evitar la creación inadvertida de entidades conscientes.

Descubre las principales noticias y eventos fintech

Suscríbete al boletín de FinTech Weekly

Consideraciones éticas e implicaciones futuras

Si se reconoce que un sistema de IA es un “paciente moral” —una entidad que importa moralmente por su propio bien— surgen preguntas éticas sobre su trato.

Por ejemplo, ¿desactivar una IA de ese tipo sería comparable a dañar a un ser consciente? Estas consideraciones ponen de relieve la necesidad de marcos éticos para guiar el desarrollo de la IA.

El documento y la carta fueron organizados por Conscium, una organización de investigación cofundada por el director de IA de WPP, Daniel Hulme. Conscium se centra en profundizar la comprensión de cómo construir IA segura que beneficie a la humanidad.

Perspectivas de expertos sobre la sentiencia de la IA

La cuestión de si la IA logra conciencia ha sido un tema de debate entre expertos.

En 2023, Sir Demis Hassabis, jefe del programa de IA de Google, afirmó que si bien los sistemas de IA actuales no son conscientes, existe la posibilidad de que lo sean en el futuro. Señaló que los filósofos aún no han llegado a una definición de la conciencia, pero que la posibilidad de que la IA desarrolle autoconciencia sigue siendo objeto de consideración.

Conclusión

El desarrollo de sistemas conscientes exige una cuidadosa consideración ética. La carta abierta y el documento de investigación que la acompaña sirven como un llamado a la acción para que la comunidad de IA priorice prácticas responsables de investigación y desarrollo.

Al adherirse a los principios propuestos, los investigadores y desarrolladores pueden trabajar para garantizar que los avances en IA se logren de manera ética, con un enfoque en prevenir el posible sufrimiento en sistemas de IA conscientes.