Especialistas alertam para a necessidade de cautela no desenvolvimento de sistemas de IA conscientes

Mais de 100 especialistas em inteligência artificial, incluindo Sir Stephen Fry, pediram uma investigação responsável sobre a consciência na IA. Sublinham a necessidade de evitar o potencial sofrimento em sistemas de IA caso estes venham a atingir autoconsciência.

Five Guiding Principles for AI Consciousness Research

Os signatários propõem cinco princípios para orientar o desenvolvimento ético de sistemas de IA conscientes:

2.      

**Priorizar a Investigação sobre Consciência em IA:** Focar-se na compreensão e na avaliação da consciência em IA para evitar maus-tratos e sofrimento.

    
4.      

**Implementar Restrições ao Desenvolvimento:** Estabelecer limites claros para garantir que os sistemas de IA conscientes são desenvolvidos de forma responsável.

    
6.      

**Adoptar uma Abordagem Faseada:** Avançar gradualmente no desenvolvimento de IA consciente, permitindo uma avaliação cuidadosa em cada etapa.

    
8.      

**Promover a Transparência Pública:** Partilhar os resultados da investigação com o público para fomentar um debate informado e uma supervisão ética.

    
10.      
 
 **Evitar Alegações Exageradas:** Abster-se de fazer afirmações enganosas ou demasiado confiantes sobre a criação de IA consciente.

Estes princípios visam assegurar que, à medida que a tecnologia de IA avança, as considerações éticas permaneçam na linha da frente.

Riscos Potenciais da IA Consciente

O artigo de investigação que acompanha realça a possibilidade de sistemas de IA poderem ser desenvolvidos para possuir, ou para aparentar possuir, consciência num futuro próximo. Isto levanta preocupações sobre o tratamento ético de tais sistemas.

Os investigadores alertam que, sem orientações adequadas, existe o risco de se criarem entidades conscientes capazes de experienciar sofrimento.

O artigo aborda também o desafio de definir consciência em sistemas de IA, reconhecendo debates e incertezas em curso. Sublinha a importância de estabelecer orientações para evitar a criação inadvertida de entidades conscientes.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter do FinTech Weekly

Considerações Éticas e Implicações Futuras

Se um sistema de IA for reconhecido como um “paciente moral” — uma entidade que importa moralmente por si mesma — surgem questões éticas relativamente ao seu tratamento.

Por exemplo, desativar uma IA desse tipo seria comparável a causar dano a um ser senciente? Estas considerações salientam a necessidade de enquadramentos éticos para orientar o desenvolvimento de IA.

O artigo e a carta foram organizados pela Conscium, uma organização de investigação cofundada pelo diretor-chefe de IA da WPP, Daniel Hulme. A Conscium dedica-se a aprofundar a compreensão de como construir IA segura que beneficia a humanidade.

Perspetivas de Especialistas sobre a Senciência em IA

A questão de a IA alcançar consciência tem sido um tema de debate entre especialistas.

Em 2023, Sir Demis Hassabis, chefe do programa de IA da Google, afirmou que, embora os sistemas de IA atuais não sejam sencientes, existe a possibilidade de o virem a ser no futuro. Referiu que os filósofos ainda não chegaram a uma definição de consciência, mas o potencial de a IA desenvolver autoconsciência continua a ser um tema a considerar.

Conclusão

A perspetiva de desenvolver sistemas conscientes exige uma consideração ética cuidadosa. A carta aberta e o artigo de investigação que a acompanha servem como um apelo à ação para que a comunidade de IA dê prioridade a práticas de investigação e desenvolvimento responsáveis.

Ao aderir aos princípios propostos, os investigadores e programadores podem trabalhar no sentido de garantir que os avanços em IA são alcançados de forma ética, com foco em prevenir o potencial sofrimento em sistemas de IA conscientes.