IA na Europa: O que a Lei de IA Pode Significar

Fotografia de Maico Amorim, no Unsplash

O AI Act continua a ser apenas uma proposta, mas investidores e proprietários de empresas na União Europeia já estão nervosos com os possíveis resultados.

Vai impedir a União Europeia de ser um concorrente valioso no espaço global?

Segundo os reguladores, não é esse o caso. Mas vejamos o que está a acontecer.

O AI Act e a avaliação de risco

O AI Act divide os riscos colocados pela inteligência artificial em diferentes categorias de risco, mas antes de o fazer, restringe a definição de inteligência artificial para incluir apenas aqueles sistemas baseados em aprendizagem automática e lógica.

Isto não serve apenas para diferenciar sistemas de IA de componentes de software mais simples, mas também ajuda-nos a compreender por que razão a UE quer categorizar o risco.

Os diferentes usos da IA são categorizados como risco inaceitável, risco elevado e
risco baixo ou mínimo. As práticas que se enquadram na categoria de risco inaceitável são consideradas como proibidas.

Este tipo de práticas inclui:

*   Práticas que envolvem técnicas que funcionam para além da consciência de uma pessoa, 
*   Práticas que pretendem explorar partes vulneráveis da população, 
*   Sistemas baseados em IA implementados para classificar pessoas de acordo com características pessoais ou comportamentos,
*   Sistemas baseados em IA que utilizam identificação biométrica em espaços públicos. 

Existem alguns casos de uso que devem ser considerados semelhantes a certas práticas incluídas nas atividades proibidas e que se enquadram na categoria de práticas de “alto risco”.

Estes incluem sistemas utilizados para recrutar trabalhadores ou para avaliar e analisar a solvabilidade (e isto pode ser perigoso para fintech). Nesses casos, todas as empresas que criam ou utilizam este tipo de sistema devem produzir relatórios detalhados para explicar como o sistema funciona e as medidas tomadas para evitar riscos para as pessoas e para ser o mais transparente possível.

Tudo parece claro e correto, mas existem alguns problemas que os reguladores devem abordar.

A lei parece demasiado genérica

Um dos aspetos que mais preocupa proprietários de empresas e investidores é a falta de atenção para setores específicos de IA.

Por exemplo, aquelas empresas que produzem e utilizam sistemas baseados em IA para fins gerais poderiam ser consideradas como empresas que utilizam inteligência artificial para casos de uso de alto risco.

Isto significa que terão de produzir relatórios detalhados, o que custa tempo e dinheiro. Como as PME não são exceção, e como constituem a maior parte das economias europeias, poderão tornar-se menos competitivas ao longo do tempo.

E é precisamente a diferença entre as empresas de IA dos EUA e da Europa que levanta grandes preocupações: de facto, a Europa não tem grandes empresas de IA como os EUA, já que o ecossistema de IA na Europa é criado principalmente por PME e startups.

De acordo com um inquérito conduzido pela appliedAI, a grande maioria dos investidores evitaria investir em startups rotuladas como “alto risco”, precisamente devido às complexidades envolvidas nessa classificação.

A ChatGPT alterou os planos da UE

Os reguladores da UE deveriam ter encerrado o documento a 19 de abril, mas a discussão relacionada com as diferentes definições de sistemas baseados em IA e os seus casos de uso atrasou a entrega da versão final da proposta.

Além disso, as empresas de tecnologia mostraram que nem todas concordam com a versão atual do documento.

O ponto que mais causou atrasos é a diferenciação entre modelos de base e IA de propósito geral.

Um exemplo de modelos de base de IA é o ChatGPT da OpenAI: estes sistemas são treinados com grandes quantidades de dados e conseguem gerar qualquer tipo de saída.

A IA de propósito geral inclui aqueles sistemas que podem ser adaptados a diferentes casos de uso e setores.

Os reguladores da UE querem regular estritamente os modelos de base, uma vez que poderão colocar mais riscos e afetar negativamente a vida das pessoas.

Como os EUA e a China estão a regular a IA

Se olharmos para a forma como os reguladores da UE estão a tratar a IA, há algo que se destaca: parece que os reguladores estão menos dispostos a cooperar.

Nos EUA, por exemplo, a administração Biden procurou comentários públicos sobre a segurança de sistemas como o ChatGPT, antes de desenhar um possível quadro regulamentar.

Na China, o governo regula a IA e a recolha de dados há anos, e a sua principal preocupação continua a ser a estabilidade social.

Até agora, o país que parece estar melhor posicionado em matéria de regulação da IA é o Reino Unido, que preferiu uma abordagem “leve” — mas não é segredo que o Reino Unido quer tornar-se líder na adoção de IA e fintech.

Fintech e o AI Act

Quando se trata de empresas e startups que fornecem serviços financeiros, a situação é ainda mais complicada.

Na verdade, se a Lei continuar como está, fintechs terão de estar vinculadas não apenas às regulamentações financeiras atuais, mas também a este novo quadro regulatório.

O facto de a avaliação de solvabilidade poder ser rotulada como um caso de uso de alto risco é apenas um exemplo do ónus que as empresas de fintech terão de suportar, impedindo-as de serem tão flexíveis como têm sido até agora, para angariar investimentos e serem competitivas.

Conclusão

Como apontou Peter Sarlin, CEO da Silo AI, o problema não é a regulação, mas uma má regulação.

Ser demasiado genérica pode prejudicar a inovação e todas as empresas envolvidas na produção, distribuição e utilização de produtos e serviços baseados em IA.

Se os investidores da UE estiverem preocupados com os potenciais riscos colocados por um rótulo que diz que uma startup ou empresa se enquadra na categoria de “alto risco”, o ecossistema de IA na União Europeia pode ser afetado negativamente, enquanto os EUA procuram comentários públicos para melhorar a sua tecnologia e a China já tem uma opinião clara sobre como regular a inteligência artificial.

Segundo Robin Röhm, cofundador da Apheris, um dos cenários possíveis é que as startups se mudem para os EUA — um país que talvez tenha muito a perder quando se trata de blockchain e criptomoedas, mas que poderia vencer a corrida à IA.

Se quiser saber mais sobre fintech e descobrir notícias, eventos e opiniões de fintech, subscreva a newsletter FTW!