Especialistas alertam para a necessidade de cautela no desenvolvimento de sistemas de IA conscientes

Mais de 100 especialistas em inteligência artificial, entre os quais Sir Stephen Fry, apelaram a uma investigação responsável sobre a consciência da IA. Sublinham a necessidade de evitar potenciais sofrimentos em sistemas de IA caso venham a atingir auto-consciência.

Cinco Princípios Orientadores para a Investigação sobre Consciência na IA

Os signatários propõem cinco princípios para orientar o desenvolvimento ético de sistemas de IA conscientes:

2.      

**Dê prioridade à investigação sobre a consciência da IA:** Foque-se em compreender e avaliar a consciência na IA para evitar maus-tratos e sofrimento.

    
4.      

**Implemente restrições no desenvolvimento:** Estabeleça limites claros para garantir que os sistemas de IA conscientes são desenvolvidos de forma responsável.

    
6.      

**Adote uma abordagem faseada:** Progrida gradualmente no desenvolvimento de IA consciente, permitindo uma avaliação cuidadosa em cada etapa.

    
8.      

**Promova a transparência pública:** Partilhe os resultados da investigação com o público para fomentar um debate informado e uma supervisão ética.

    
10.      
 
 **Evite alegações exageradas:** Abstenha-se de fazer declarações enganosas ou excessivamente confiantes sobre a criação de IA consciente.

Estes princípios visam assegurar que, à medida que a tecnologia de IA avança, as considerações éticas permaneçam na linha da frente.

Riscos Potenciais da IA Consciente

O artigo de investigação em anexo destaca a possibilidade de que sistemas de IA possam ser desenvolvidos para possuir, ou parecer possuir, consciência num futuro próximo. Isto levanta preocupações sobre o tratamento ético de tais sistemas.

Os investigadores alertam que, sem orientações adequadas, existe o risco de se criarem entidades conscientes capazes de experienciar sofrimento.

O artigo aborda também o desafio de definir consciência em sistemas de IA, reconhecendo debates e incertezas em curso. Sublinha a importância de estabelecer orientações para evitar a criação inadvertida de entidades conscientes.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter da FinTech Weekly

Considerações Éticas e Implicações Futuras

Se um sistema de IA for reconhecido como um “paciente moral” — uma entidade que importa moralmente por si própria —, surgem questões éticas quanto ao seu tratamento.

Por exemplo, desativar essa IA seria comparável a ferir um ser senciente? Estas considerações salientam a necessidade de enquadramentos éticos para orientar o desenvolvimento de IA.

O artigo e a carta foram organizados pela Conscium, uma organização de investigação cofundada pelo diretor de IA da WPP, Daniel Hulme. A Conscium dedica-se a aprofundar a compreensão de como construir IA segura que beneficie a humanidade.

Perspetivas de Especialistas sobre a Sensibilidade da IA

A questão de a IA alcançar a consciência tem sido tema de debate entre especialistas.

Em 2023, Sir Demis Hassabis, responsável pelo programa de IA da Google, afirmou que, embora os sistemas de IA atuais não sejam sencientes, pode ser possível que o sejam no futuro. Referiu que os filósofos ainda não chegaram a uma definição de consciência, mas o potencial de a IA desenvolver auto-consciência continua a ser um tema de consideração.

Conclusão

A perspetiva de desenvolver sistemas conscientes exige uma consideração ética cuidadosa. A carta aberta e o artigo de investigação em anexo servem de apelo à ação para que a comunidade de IA priorize práticas responsáveis de investigação e desenvolvimento.

Ao aderir aos princípios propostos, investigadores e programadores podem trabalhar no sentido de garantir que os avanços em IA sejam alcançados de forma ética, com foco na prevenção de potenciais sofrimentos em sistemas de IA conscientes.