AI na Europa: O que o AI Act poderá significar

Foto de Maico Amorim no Unsplash

O AI Act (Lei da Inteligência Artificial) ainda é apenas um rascunho, mas investidores e proprietários de empresas na União Europeia já estão nervosos com os possíveis resultados.

Irá impedir a União Europeia de ser um concorrente valioso no espaço global?

Segundo os reguladores, não é o caso. Mas vejamos o que está a acontecer.

O AI Act e a avaliação de risco

O AI Act divide os riscos colocados pela inteligência artificial em diferentes categorias de risco, mas antes de o fazer, restringe a definição de inteligência artificial para incluir apenas aqueles sistemas baseados em machine learning e em lógica.

Isto não serve apenas para diferenciar os sistemas de IA de software mais simples, mas também ajuda-nos a compreender por que razão a UE quer categorizar o risco.

Os diferentes usos da IA são classificados em risco inaceitável, risco elevado e
risco baixo ou mínimo. As práticas que se enquadram na categoria de risco inaceitável são consideradas como proibidas.

Este tipo de práticas inclui:

*   Práticas que envolvem técnicas que funcionam para além da consciência de uma pessoa, 
*   Práticas que pretendem explorar partes vulneráveis da população, 
*   Sistemas baseados em IA colocados para classificar pessoas de acordo com características ou comportamentos pessoais,
*   Sistemas baseados em IA que utilizam identificação biométrica em espaços públicos. 

Há alguns casos de uso que, deveriam ser considerados semelhantes a algumas das práticas incluídas nas atividades proibidas, e que se enquadram na categoria de “práticas de alto risco”.

Estes incluem sistemas usados para recrutar trabalhadores ou para avaliar e analisar a capacidade de crédito das pessoas (e isto pode ser perigoso para o fintech). Nesses casos, todas as empresas que criam ou utilizam este tipo de sistema devem produzir relatórios detalhados para explicar como o sistema funciona e as medidas tomadas para evitar riscos para as pessoas e para ser o mais transparente possível.

Tudo parece claro e correto, mas há alguns problemas que os reguladores devem resolver.

O Ato é demasiado genérico

Um dos aspetos que mais preocupa os proprietários de empresas e os investidores é a falta de atenção dada a setores específicos de IA.

Por exemplo, aquelas empresas que produzem e utilizam sistemas de IA para fins gerais poderiam ser consideradas como aquelas que usam inteligência artificial para casos de uso de alto risco.

Isto significa que devem produzir relatórios detalhados, que custam tempo e dinheiro. Como as PME não fazem exceção, e dado que constituem a maior parte das economias europeias, poderão tornar-se menos competitivas ao longo do tempo.

E é precisamente a diferença entre as empresas de IA dos EUA e da Europa que levanta grandes preocupações: de facto, a Europa não tem grandes empresas de IA como os EUA, já que o ambiente de IA na Europa é criado principalmente por PME e startups.

De acordo com um inquérito conduzido pela appliedAI, a grande maioria dos investidores evitaria investir em startups rotuladas como “alto risco”, precisamente por causa das complexidades envolvidas nesta classificação.

A ChatGPT alterou os planos da UE

Os reguladores da UE deveriam ter encerrado o documento a 19 de abril, mas a discussão relacionada com as diferentes definições de sistemas baseados em IA e com os seus casos de uso atrasou a entrega do rascunho final.

Além disso, as empresas de tecnologia mostraram que nem todas concordam com a versão atual do documento.

O ponto que mais causou atrasos é a diferenciação entre modelos fundacionais e IA de finalidade geral.

Um exemplo de modelos fundacionais de IA é o ChatGPT da OpenAI: estes sistemas são treinados usando grandes quantidades de dados e conseguem gerar qualquer tipo de saída.

A IA de finalidade geral inclui aqueles sistemas que podem ser adaptados a diferentes casos de uso e setores.

Os reguladores da UE querem regular estritamente os modelos fundacionais, já que poderiam representar mais riscos e afetar negativamente a vida das pessoas.

Como os EUA e a China estão a regular a IA

Se analisarmos como os reguladores da UE estão a tratar a IA, há algo que se destaca: parece que os reguladores estão menos dispostos a cooperar.

Nos EUA, por exemplo, a administração Biden procurou comentários públicos sobre a segurança de sistemas como o ChatGPT, antes de desenhar um possível quadro regulamentar.

Na China, o governo tem vindo a regular a IA e a recolha de dados há anos, e a sua principal preocupação continua a ser a estabilidade social.

Até agora, o país que parece estar melhor posicionado na regulação da IA é o Reino Unido, que preferiu uma abordagem “ligeira” — mas não é segredo que o Reino Unido quer tornar-se líder na adoção de IA e de fintech.

Fintech e o AI Act

Quando se trata de empresas e startups que prestam serviços financeiros, a situação é ainda mais complicada.

De facto, se o Ato continuar como a versão atual, os players de fintech terão de não só estar ligados às regras e regulações financeiras atuais, mas também a este novo quadro regulamentar.

O facto de a avaliação de capacidade de crédito poder ser rotulada como um caso de uso de alto risco é apenas um exemplo do ónus que as empresas de fintech terão de suportar, impedindo-as de serem tão flexíveis como têm sido até agora, para angariar investimentos e para serem competitivas.

Conclusão

Como salientou Peter Sarlin, CEO da Silo AI, o problema não é a regulamentação, mas a má regulamentação.

Ser demasiado genérico pode prejudicar a inovação e todas as empresas envolvidas na produção, distribuição e utilização de produtos e serviços baseados em IA.

Se os investidores da UE estiverem preocupados com os potenciais riscos colocados por um rótulo que diga que uma startup ou empresa se enquadra na categoria de “alto risco”, o ecossistema de IA na União Europeia poderá ser afetado de forma negativa, enquanto os EUA procuram comentários públicos para melhorar a sua tecnologia e a China já tem uma opinião clara sobre como regular a inteligência artificial.

De acordo com Robin Röhm, cofundador da Apheris, um dos cenários possíveis é que as startups se mudem para os EUA — um país que talvez tenha muito a perder quando se trata de blockchain e criptomoedas, mas que poderia vencer a corrida da IA.

Se quiser saber mais sobre fintech e descobrir notícias, eventos e opiniões de fintech, subscreva a newsletter da FTW!