IA na Europa: O que a Lei de IA Pode Significar

Foto de Maico Amorim no Unsplash

O AI Act ainda é apenas um rascunho, mas os investidores e os proprietários de empresas na União Europeia já estão nervosos com os possíveis resultados.

Irá impedir a União Europeia de ser um concorrente valioso no espaço global?

Segundo os reguladores, não é o caso. Mas vejamos o que está a acontecer.

O AI Act e a avaliação de risco

O AI Act divide os riscos colocados pela inteligência artificial em diferentes categorias de risco, mas antes de o fazer, restringe a definição de inteligência artificial para incluir apenas aqueles sistemas baseados em aprendizagem automática e em lógica.

Isto não serve apenas para diferenciar os sistemas de IA de programas de software mais simples, mas também nos ajuda a compreender por que motivo a UE quer categorizar o risco.

Os diferentes usos da IA são categorizados como risco inaceitável, um alto risco e
risco baixo ou mínimo. As práticas que se enquadram na categoria de risco inaceitável são consideradas como proibidas.

Este tipo de práticas inclui:

*   Práticas que envolvem técnicas que funcionam para além da consciência de uma pessoa, 
*   Práticas que pretendem explorar partes vulneráveis da população, 
*   Sistemas baseados em IA implementados para classificar pessoas de acordo com características ou comportamentos pessoais,
*   Sistemas baseados em IA que utilizam identificação biométrica em espaços públicos. 

Há alguns casos de uso que devem ser considerados semelhantes a algumas das práticas incluídas nas atividades proibidas, que se enquadram na categoria de práticas de «alto risco».

Estes incluem sistemas utilizados para recrutar trabalhadores ou para avaliar e analisar a solvabilidade (e isso pode ser perigoso para fintech). Nestes casos, todas as empresas que criam ou utilizam este tipo de sistema devem produzir relatórios detalhados para explicar como o sistema funciona e as medidas tomadas para evitar riscos para as pessoas e ser o mais transparente possível.

Tudo parece claro e correto, mas há alguns problemas que os reguladores deveriam abordar.

A Lei parece demasiado genérica

Um dos aspetos que mais preocupa os proprietários de empresas e os investidores é a falta de atenção aos setores específicos de IA.

Por exemplo, as empresas que produzem e utilizam sistemas de IA para fins gerais poderiam ser consideradas como aquelas que usam inteligência artificial para casos de uso de alto risco.

Isto significa que devem produzir relatórios detalhados que custam tempo e dinheiro. Como as PME não fazem exceção e, como constituem a maior parte das economias europeias, poderiam tornar-se menos competitivas ao longo do tempo.

E é precisamente a diferença entre as empresas de IA dos EUA e as da Europa que levanta grandes preocupações: na verdade, a Europa não tem grandes empresas de IA como os EUA, uma vez que o ecossistema de IA na Europa é criado principalmente por PME e startups.

De acordo com um inquérito conduzido pela appliedAI, a grande maioria dos investidores evitaria investir em startups rotuladas como «alto risco», precisamente devido às complexidades envolvidas nesta classificação.

ChatGPT alterou os planos da UE

Os reguladores da UE deveriam ter encerrado o documento a 19 de abril, mas a discussão relacionada com as diferentes definições de sistemas baseados em IA e os seus casos de uso atrasou a entrega do rascunho final.

Além disso, as empresas de tecnologia mostraram que nem todas concordam com a versão atual do documento.

O ponto que mais causou atrasos foi a diferenciação entre modelos de base e IA de finalidade geral.

Um exemplo de modelos de base de IA é o ChatGPT da OpenAI: estes sistemas são treinados com grandes quantidades de dados e conseguem gerar qualquer tipo de saída.

A IA de finalidade geral inclui sistemas que podem ser adaptados a diferentes casos de uso e setores.

Os reguladores da UE querem regular estritamente os modelos de base, uma vez que estes podem representar mais riscos e afetar negativamente a vida das pessoas.

Como os EUA e a China estão a regular a IA

Se olharmos para a forma como os reguladores da UE estão a tratar a IA, há algo que se destaca: parece que os reguladores estão menos dispostos a cooperar.

Nos EUA, por exemplo, a administração Biden procurou comentários públicos sobre a segurança de sistemas como o ChatGPT, antes de desenhar um possível enquadramento regulamentar.

Na China, o governo tem vindo a regular a IA e a recolha de dados há anos, e a sua principal preocupação continua a ser a estabilidade social.

Até agora, o país que parece estar melhor posicionado na regulação da IA é o Reino Unido, que preferiu uma abordagem «leve» — mas não é segredo que o Reino Unido quer tornar-se um líder na adoção de IA e fintech.

Fintech e o AI Act

Quando se trata de empresas e startups que prestam serviços financeiros, a situação é ainda mais complicada.

Na verdade, se a Lei permanecer como a versão atual, as fintechs terão de não só estar ligadas às atuais regulamentações financeiras, mas também a este novo enquadramento regulamentar.

O facto de a avaliação de solvabilidade poder ser rotulada como um caso de uso de alto risco é apenas um exemplo do peso que as empresas de fintech terão de suportar, impedindo-as de serem tão flexíveis como têm sido até agora, para recolher investimentos e ser competitivas.

Conclusão

Como referiu Peter Sarlin, CEO da Silo AI, o problema não é a regulamentação, mas a má regulamentação.

Ser demasiado genérica pode prejudicar a inovação e todas as empresas envolvidas na produção, distribuição e utilização de produtos e serviços baseados em IA.

Se os investidores da UE estiverem preocupados com os potenciais riscos colocados por um rótulo que diga que uma startup ou empresa cai na categoria de «alto risco», o ecossistema de IA na União Europeia pode ser afetado negativamente, enquanto os EUA procuram comentários públicos para melhorar a sua tecnologia e a China já tem uma opinião clara sobre como regular a inteligência artificial.

De acordo com Robin Röhm, cofundador da Apheris, um dos cenários possíveis é que as startups se desloquem para os EUA — um país que talvez tenha muito a perder quando se trata de blockchain e criptomoedas, mas que poderia vencer a corrida da IA.

Se quiser saber mais sobre fintech e descobrir notícias, eventos e opiniões de fintech, subscreva a newsletter da FTW!