Especialistas alertam para a necessidade de cautela no desenvolvimento de sistemas de IA conscientes

Mais de 100 especialistas em inteligência artificial, incluindo Sir Stephen Fry, apelaram à realização responsável de investigação sobre a consciência na IA. Sublinham a necessidade de impedir o eventual sofrimento em sistemas de IA caso atinjam autoconsciência.

Cinco Princípios Orientadores para a Investigação sobre Consciência na IA

Os subscritores propõem cinco princípios para orientar o desenvolvimento ético de sistemas de IA conscientes:

2.      

**Priorizar a Investigação sobre a Consciência na IA:** Focar a compreensão e a avaliação da consciência na IA para prevenir maus-tratos e sofrimento.

    
4.      

**Implementar Restrições no Desenvolvimento:** Estabelecer limites claros para garantir que os sistemas de IA conscientes são desenvolvidos de forma responsável.

    
6.      

**Adotar uma Abordagem Faseada:** Avançar gradualmente no desenvolvimento de IA consciente, permitindo uma avaliação cuidadosa em cada etapa.

    
8.      

**Promover Transparência Pública:** Partilhar os resultados da investigação com o público para fomentar o debate informado e a supervisão ética.

    
10.      
 
 **Evitar Afirmações Exageradas:** Abster-se de fazer declarações potencialmente enganosas ou demasiado confiantes sobre a criação de IA consciente.

Estes princípios pretendem assegurar que, à medida que a tecnologia de IA avança, as considerações éticas permaneçam na vanguarda.

Potenciais Riscos da IA Consciente

O artigo de investigação que acompanha destaca a possibilidade de, num futuro próximo, os sistemas de IA poderem ser desenvolvidos para possuir, ou para parecer possuir, consciência. Isto levanta preocupações sobre o tratamento ético desses sistemas.

Os investigadores alertam que, sem orientações adequadas, existe o risco de se criarem entidades conscientes capazes de experienciar sofrimento.

O artigo aborda também o desafio de definir consciência em sistemas de IA, reconhecendo debates e incertezas em curso. Salienta a importância de estabelecer orientações para evitar a criação inadvertida de entidades conscientes.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter do FinTech Weekly

Considerações Éticas e Implicações Futuras

Se um sistema de IA for reconhecido como um “paciente moral” — uma entidade que importa moralmente pelo seu próprio bem — surgem questões éticas sobre o seu tratamento.

Por exemplo, desativar uma tal IA seria comparável a causar dano a um ser senciente? Estas considerações evidenciam a necessidade de enquadramentos éticos para orientar o desenvolvimento da IA.

O artigo e a carta foram organizados pela Conscium, uma organização de investigação cofundada pelo diretor de IA da WPP, Daniel Hulme. A Conscium dedica-se a aprofundar a compreensão de como construir IA segura que beneficie a humanidade.

Perspetivas de Especialistas sobre a Senciência da IA

A questão de a IA alcançar consciência tem sido um tema de debate entre especialistas.

Em 2023, Sir Demis Hassabis, chefe do programa de IA da Google, afirmou que, embora os sistemas de IA atuais não sejam sencientes, existe a possibilidade de o poderem ser no futuro. Observou que os filósofos ainda não chegaram a uma definição de consciência, mas que a possibilidade de a IA desenvolver autoconsciência continua a ser um assunto a considerar.

Conclusão

A perspetiva de desenvolver sistemas conscientes exige uma consideração ética cuidadosa. A carta aberta e o artigo de investigação que a acompanha servem como um apelo à ação para a comunidade de IA dar prioridade a práticas responsáveis de investigação e desenvolvimento.

Ao seguir os princípios propostos, investigadores e programadores podem trabalhar no sentido de garantir que os avanços na IA sejam alcançados de forma ética, com foco em prevenir o potencial sofrimento em sistemas de IA conscientes.