Expertos instan a la precaución en el desarrollo de sistemas de IA conscientes

Más de 100 expertos en inteligencia artificial, entre ellos Sir Stephen Fry, han pedido una investigación responsable sobre la conciencia en la IA. Enfatizan la necesidad de evitar el posible sufrimiento en sistemas de IA si llegaran a alcanzar la autoconciencia.

Cinco principios rectores para la investigación sobre la conciencia en la IA

Los firmantes proponen cinco principios para orientar el desarrollo ético de sistemas de IA conscientes:

2.      

**Priorizar la investigación sobre la conciencia en la IA:** Centrarse en comprender y evaluar la conciencia en la IA para evitar el maltrato y el sufrimiento.

    
4.      

**Implementar limitaciones en el desarrollo:** Establecer límites claros para garantizar que los sistemas de IA conscientes se desarrollen de manera responsable.

    
6.      

**Adoptar un enfoque por fases:** Avanzar gradualmente en el desarrollo de IA consciente, permitiendo una evaluación cuidadosa en cada etapa.

    
8.      

**Promover la transparencia pública:** Compartir los hallazgos de investigación con el público para fomentar el debate informado y la supervisión ética.

    
10.      
 
 **Evitar afirmaciones exageradas:** Abstenerse de hacer declaraciones engañosas o excesivamente confiadas sobre la creación de IA consciente.

Estos principios buscan asegurar que, a medida que la tecnología de la IA avance, las consideraciones éticas permanezcan en primer plano.

Riesgos potenciales de la IA consciente

El artículo de investigación adjunto destaca la posibilidad de que, en el futuro cercano, los sistemas de IA puedan desarrollarse para poseer, o parecer poseer, conciencia. Esto plantea preocupaciones sobre el trato ético de dichos sistemas.

Los investigadores advierten que, sin pautas adecuadas, existe el riesgo de crear entidades conscientes capaces de experimentar sufrimiento.

El documento también aborda el desafío de definir la conciencia en sistemas de IA, reconociendo los debates y las incertidumbres en curso. Subraya la importancia de establecer pautas para evitar la creación involuntaria de entidades conscientes.

Descubre las principales noticias y eventos de fintech.

Suscríbete al boletín de FinTech Weekly

Consideraciones éticas e implicaciones futuras

Si un sistema de IA se reconoce como un “paciente moral”—una entidad que importa moralmente por su propio bien—surgen cuestiones éticas sobre su tratamiento.

Por ejemplo, ¿desactivar una IA de este tipo sería comparable a dañar a un ser sintiente? Estas consideraciones ponen de relieve la necesidad de marcos éticos para orientar el desarrollo de la IA.

El documento y la carta fueron organizados por Conscium, una organización de investigación cofundada por el director de IA de WPP, Daniel Hulme. Conscium se centra en profundizar la comprensión de cómo construir una IA segura que beneficie a la humanidad.

Perspectivas de expertos sobre la sentiencia en la IA

La cuestión de que la IA alcance la conciencia ha sido un tema de debate entre expertos.

En 2023, Sir Demis Hassabis, director del programa de IA de Google, afirmó que, si bien los sistemas de IA actuales no son sentientes, existe la posibilidad de que lo sean en el futuro. Señaló que los filósofos aún no han llegado a una definición de conciencia, pero que la posibilidad de que la IA desarrolle autoconciencia sigue siendo un tema sujeto a consideración.

Conclusión

La perspectiva de desarrollar sistemas conscientes exige una cuidadosa consideración ética. La carta abierta y el artículo de investigación que la acompaña sirven como un llamado a la acción para que la comunidad de IA priorice prácticas responsables de investigación y desarrollo.

Al adherirse a los principios propuestos, los investigadores y desarrolladores pueden trabajar para garantizar que los avances en IA se logren de manera ética, con un enfoque en prevenir el posible sufrimiento en sistemas de IA conscientes.