Ética da IA: Por que é importante, agora, trabalhar numa IA ética

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter do FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A ética da IA é uma das principais preocupações dos investidores e analistas, especialmente desde a introdução do ChatGPT da OpenAI, que se tornou a aplicação que mais rapidamente cresceu.

A ética é necessária para que a inteligência artificial não se torne perigosa e seja utilizada da forma correta — também no que diz respeito à indústria de fintech, uma vez que pode ser particularmente perigoso usar IA não devidamente treinada nas finanças.

Por que razão a ética da IA faz manchetes

A ética na inteligência artificial faz manchetes tanto por motivos positivos como negativos.

Embora a Microsoft tenha reduzido recentemente o seu departamento de AI & Society — ficando apenas com 7 pessoas durante uma das vagas de despedimentos que envolveu a empresa — há muitos analistas e organizações que tentam refletir sobre o tema e compreender por que razão a ética é importante.

Isto também inclui organizações e política a nível internacional, algo que talvez possa ajudar os utilizadores do dia a dia — talvez ainda demasiado pouco conscientes do progresso da inteligência artificial — a garantir que a IA não é apenas um tema de negócio.

A 23 de novembro de 2021, a UNESCO publicou um texto, “Recomendação sobre a Ética da Inteligência Artificial”, que foi posteriormente adotado pelos 193 Estados-Membros.

As recomendações incluem: “Tendo plenamente em conta que o rápido desenvolvimento das tecnologias de IA desafia a sua implementação e governação éticas, bem como o respeito e a proteção da diversidade cultural, e tem o potencial de perturbar normas e valores éticos locais e regionais”.

A referência ao multiculturalismo é importante no caso da IA.

Como veremos já de seguida, é importante considerar que nem toda a gente consegue gerir e utilizar a IA, e se continuar a ser prerrogativa de profissionais de tecnologia e empresas, pode ser difícil para algumas culturas e segmentos da população acederem a esta tecnologia tão importante.

Temos IA senciente?

Não temos — pelo menos, ainda — IA senciente.

Até agora, as ferramentas baseadas em IA são** treinadas por pessoas e por dados**. Se, sob uma determinada perspetiva, isto significa que a IA ainda não pode ser considerada demasiado perigosa, também significa que, se as pessoas fornecerem dados enviesados, então as respostas fornecidas pela IA serão enviesadas.

O mesmo se aplica quando os dados e o treino são disponibilizados apenas por certos profissionais e em determinados países.

Como referido pelo MIT, a disparidade de género nas áreas STEM (ciência, tecnologia, engenharia e matemática) continua a ser extremamente significativa, e as mulheres que têm um emprego adequado aos seus estudos em um destes domínios representam apenas 28%.

Um relatório publicado pela IDC (International Data Corporation), o Worldwide Artificial Intelligence Spending Guide, diz-nos que os investimentos em IA deverão atingir $154 mil milhões em 2023. Mas onde estão concentrados estes investimentos?

Como referido pela InvestGlass, os países onde os investimentos estão mais concentrados são os Estados Unidos e a China. Além disso, o Japão, o Canadá e a Coreia do Sul estão a aumentar os investimentos e as estratégias que envolvem IA. A União Europeia não é a região mais avançada no que diz respeito à inteligência artificial — mesmo que alguns países como a Alemanha e a França estejam a desenvolver um ambiente interessante para a inteligência artificial.

Todos estes dados mostram que nem toda a gente está envolvida nesta revolução e — claro — isso pode ser prejudicial para um desenvolvimento valioso e ético da IA.

Se a IA continuar demasiado concentrada em certos setores e países, os dados que produzirão serão necessariamente enviesados.

Se o multiculturalismo ainda não for devidamente abordado, os investidores já procuram uma tecnologia que possa ser socialmente responsável e ética.

O que é que os investidores pensam sobre IA?

Nos últimos anos, um aumento geral da consciencialização relacionada com a responsabilidade social também levou os investidores a preferirem empresas que não sejam prejudiciais para as sociedades.

No caso da inteligência artificial, é difícil não apenas criar enquadramentos globais destinados a regular a tecnologia, como é também difícil para os investidores compreenderem plenamente o que é, na prática, ético em termos de inteligência artificial.

A IA é relativamente recente e dar-lhe um contexto correto torna-se ainda mais difícil pelo facto de estar constantemente a mudar.

Por isso, os investidores estão a usar métodos diferentes para avaliar as possíveis evoluções futuras de um negócio de IA, bem como a sua ética à medida que o tempo passa e as mudanças são feitas.

Como referido pela TechCrunch, parece que os investidores poderão achar mais útil avaliar as características e qualidades do proprietário do projeto, para melhor compreender como é que ele ou ela poderá reagir a novos enquadramentos e como pretendem gerir um projeto de IA apesar das mudanças constantes.

Assim, mesmo quando estamos a falar de IA, os humanos continuam a ter a última palavra — e quanto mais éticas forem as pessoas que utilizam IA, mais ética será a IA no futuro.

Considerações finais

A ética da IA não é um tema fácil, e não é simples avaliar como é que a IA pode ser ética.

A IA não é senciente, não tem alma — independentemente de como se possa definir uma alma.

Apesar disso, é fundamental trabalhar na ética da IA neste momento, para evitar o maior número possível de perigos no futuro.

Se quiser saber mais sobre notícias, eventos e insights de fintech, subscreva a newsletter do FinTech Weekly!