IA na Europa: O que a Lei de IA Pode Significar

Foto de Maico Amorim no Unsplash

O AI Act continua a ser apenas uma proposta, mas investidores e proprietários de empresas na União Europeia já estão nervosos com os possíveis resultados.

Conseguirá impedir a União Europeia de ser uma concorrente valiosa no espaço global?

Segundo os reguladores, não é esse o caso. Mas vejamos o que está a acontecer.

O AI Act e a avaliação de risco

O AI Act divide os riscos colocados pela inteligência artificial em diferentes categorias de risco, mas antes de o fazer, restringe a definição de inteligência artificial para incluir apenas aqueles sistemas baseados em machine learning e lógica.

Isto não serve apenas para diferenciar os sistemas de IA de partes mais simples de software, mas também para nos ajudar a compreender por que razão a UE quer categorizar o risco.

Os diferentes usos de IA são categorizados como risco inaceitável, um risco elevado e
risco baixo ou mínimo. As práticas abrangidas pela categoria de risco inaceitável são consideradas como proibidas.

Este tipo de práticas inclui:

*   Práticas que envolvem técnicas que funcionam para além da consciência de uma pessoa, 
*   Práticas que procuram explorar partes vulneráveis da população, 
*   Sistemas baseados em IA postos em prática para classificar pessoas de acordo com características pessoais ou comportamentos,
*   Sistemas baseados em IA que utilizam identificação biométrica em espaços públicos. 

Há alguns casos de uso que, à partida, devem ser considerados semelhantes a algumas das práticas incluídas nas atividades proibidas, mas que se enquadram na categoria de práticas de “alto risco”.

Estes incluem sistemas utilizados para recrutar trabalhadores ou para avaliar e analisar a capacidade de crédito das pessoas (e isto pode ser perigoso para a fintech). Nestes casos, todas as empresas que criam ou utilizam este tipo de sistema devem produzir relatórios detalhados para explicar como o sistema funciona e as medidas tomadas para evitar riscos para as pessoas e para ser o mais transparente possível.

Tudo parece claro e correto, mas há alguns problemas que os reguladores devem abordar.

A Lei parece demasiado genérica

Um dos aspetos que mais preocupa proprietários de empresas e investidores é a falta de atenção dada a setores específicos de IA.

Por exemplo, aquelas empresas que produzem e utilizam sistemas baseados em IA para fins gerais poderiam ser consideradas como empresas que usam inteligência artificial para casos de uso de alto risco.

Isto significa que devem produzir relatórios detalhados, que custam tempo e dinheiro. Como as PME não são exceção, e como constituem a maior parte das economias europeias, podem tornar-se menos competitivas ao longo do tempo.

E é precisamente a diferença entre as empresas de IA dos EUA e da Europa que levanta grandes preocupações: de facto, a Europa não tem grandes empresas de IA como os EUA, uma vez que o ambiente de IA na Europa é criado principalmente por PME e startups.

De acordo com um inquérito realizado pela appliedAI, a grande maioria dos investidores evitaria investir em startups rotuladas como “alto risco”, precisamente devido às complexidades envolvidas nesta classificação.

A ChatGPT alterou os planos da UE

Os reguladores da UE deveriam ter encerrado o documento a 19 de abril, mas a discussão relacionada com as diferentes definições dos sistemas baseados em IA e os seus casos de uso atrasou a entrega do texto final da proposta.

Além disso, as empresas de tecnologia mostraram que nem todas concordam com a versão atual do documento.

O ponto que mais causou atrasos é a diferenciação entre modelos de base e IA de finalidade geral.

Um exemplo de modelos de base de IA é o ChatGPT da OpenAI: estes sistemas são treinados com grandes quantidades de dados e conseguem gerar qualquer tipo de saída.

A IA de finalidade geral inclui sistemas que podem ser adaptados a diferentes casos de uso e setores.

Os reguladores da UE querem regular estritamente os modelos de base, já que estes podem representar mais riscos e afetar negativamente a vida das pessoas.

Como os EUA e a China estão a regular a IA

Se olharmos para a forma como os reguladores da UE estão a tratar a IA, há algo que se destaca: parece que os reguladores estão menos dispostos a cooperar.

Nos EUA, por exemplo, a administração Biden procurou comentários públicos sobre a segurança de sistemas como o ChatGPT, antes de desenhar um possível quadro regulamentar.

Na China, o governo tem vindo a regular a IA e a recolha de dados há anos, e a sua principal preocupação continua a ser a estabilidade social.

Até agora, o país que parece estar melhor posicionado na regulação da IA é o Reino Unido, que preferiu uma abordagem “leve” — mas não é segredo que o Reino Unido quer tornar-se líder na adoção de IA e de fintech.

Fintech e o AI Act

Quando se trata de empresas e startups que prestam serviços financeiros, a situação é ainda mais complicada.

De facto, se a Lei permanecer como a versão atual, as fintechs terão não apenas de estar ligadas às regulamentações financeiras atuais, mas também a este novo enquadramento regulamentar.

O facto de a avaliação da capacidade de crédito poder ser rotulada como um caso de uso de alto risco é apenas um exemplo do peso que as empresas de fintech terão de suportar, impedindo-as de ser tão flexíveis como têm sido até agora, para captar investimentos e ser competitivas.

Conclusão

Como apontou Peter Sarlin, CEO da Silo AI, o problema não é a regulação, mas sim a má regulação.

Ser demasiado genérico pode prejudicar a inovação e todas as empresas envolvidas na produção, distribuição e utilização de produtos e serviços baseados em IA.

Se os investidores da UE estiverem preocupados com os potenciais riscos colocados por um rótulo que indica que uma startup ou empresa se enquadra na categoria de “alto risco”, o ambiente de IA na União Europeia poderá ser afetado negativamente, enquanto os EUA procuram comentários públicos para melhorar a sua tecnologia e a China já tem uma opinião clara sobre como regular a inteligência artificial.

De acordo com Robin Röhm, cofundador da Apheris, um dos cenários possíveis é que as startups se desloquem para os EUA — um país que talvez tenha muito a perder no que toca a blockchain e criptomoedas, mas que poderia ganhar a corrida da IA.

Se quiser saber mais sobre fintech e descobrir notícias, eventos e opiniões de fintech, subscreva a Newsletter da FTW!