IA na Europa: o que o AI Act pode significar

Foto de Maico Amorim no Unsplash

O AI Act ainda é apenas um rascunho, mas investidores e donos de empresas na União Europeia já estão nervosos com os possíveis desdobramentos.

Será que isso vai impedir a União Europeia de continuar sendo um concorrente valioso no espaço global?

De acordo com reguladores, não é o caso. Mas vamos ver o que está acontecendo.

O AI Act e a avaliação de risco

O AI Act divide os riscos apresentados pela inteligência artificial em diferentes categorias de risco, mas antes de fazer isso, ele restringe a definição de inteligência artificial para incluir apenas aqueles sistemas baseados em aprendizado de máquina e lógica.

Isso não serve apenas para diferenciar sistemas de IA de softwares mais simples, mas também nos ajuda a entender por que a UE quer categorizar o risco.

Os diferentes usos de IA são categorizados em risco inaceitável, alto risco e
risco baixo ou mínimo. As práticas que se enquadram na categoria de risco inaceitável são consideradas como proibidas.

Esse tipo de prática inclui:

*   Práticas que envolvem técnicas que funcionam além da consciência de uma pessoa, 
*   Práticas que querem explorar partes vulneráveis da população, 
*   Sistemas de IA colocados para classificar pessoas de acordo com características ou comportamentos pessoais,
*   Sistemas de IA que usam identificação biométrica em espaços públicos. 

Há alguns casos de uso que devem ser considerados semelhantes a algumas das práticas incluídas nas atividades proibidas e que se enquadram na categoria de práticas de “alto risco”.

Esses incluem sistemas usados para recrutar trabalhadores ou para avaliar e analisar a capacidade de crédito das pessoas (e isso pode ser perigoso para fintech). Nesses casos, todas as empresas que criam ou usam esse tipo de sistema devem produzir relatórios detalhados para explicar como o sistema funciona e as medidas adotadas para evitar riscos para as pessoas e, ao máximo possível, ser transparente.

Tudo parece claro e correto, mas existem alguns problemas que os reguladores deveriam abordar.

O ato parece genérico demais

Um dos aspectos que mais preocupa donos de empresas e investidores é a falta de atenção para setores específicos de IA.

Por exemplo, aquelas empresas que produzem e usam sistemas de IA para fins gerais poderiam ser consideradas como usando inteligência artificial para casos de uso de alto risco.

Isso significa que elas devem produzir relatórios detalhados que custam tempo e dinheiro. Como SMEs não são exceção e como elas formam a maior parte das economias europeias, elas poderiam se tornar menos competitivas com o tempo.

E é justamente a diferença entre empresas de IA dos EUA e da Europa que levanta grandes preocupações: na verdade, a Europa não tem grandes empresas de IA como os EUA, já que o ambiente de IA na Europa é criado principalmente por SMEs e startups.

De acordo com uma pesquisa conduzida pela appliedAI, a grande maioria dos investidores evitaria investir em startups rotuladas como “alto risco”, justamente por causa das complexidades envolvidas nessa classificação.

ChatGPT mudou os planos da UE

Os reguladores da UE deveriam ter encerrado o documento em 19 de abril, mas a discussão relacionada às diferentes definições de sistemas baseados em IA e seus casos de uso atrasou a entrega do rascunho final.

Além disso, empresas de tecnologia mostraram que nem todas concordam com a versão atual do documento.

O ponto que mais causou atrasos é a diferenciação entre modelos foundation e IA de uso geral.

Um exemplo de modelos foundation de IA é o ChatGPT, da OpenAI: esses sistemas são treinados usando grandes quantidades de dados e conseguem gerar qualquer tipo de saída.

IA de uso geral inclui aqueles sistemas que podem ser adaptados a diferentes casos de uso e setores.

Reguladores da UE querem regular de forma estrita os modelos foundation, já que eles poderiam representar mais riscos e afetar negativamente a vida das pessoas.

Como os EUA e a China estão regulando a IA

Se olharmos para como os reguladores da UE estão tratando a IA, há algo que se destaca: parece que os reguladores estão menos dispostos a cooperar.

Nos EUA, por exemplo, a administração Biden buscou comentários públicos sobre a segurança de sistemas como o ChatGPT antes de desenhar um possível arcabouço regulatório.

Na China, o governo regula IA e coleta de dados há anos, e sua principal preocupação continua sendo a estabilidade social.

Até agora, o país que parece estar melhor posicionado na regulação de IA é o Reino Unido, que preferiu uma abordagem “leve” — mas não é segredo que o Reino Unido quer se tornar líder na adoção de IA e fintech.

Fintech e o AI Act

Quando se trata de empresas e startups que fornecem serviços financeiros, a situação fica ainda mais complicada.

Na verdade, se o Ato permanecer como a versão atual, fintechs não precisarão apenas estar vinculadas às regulamentações financeiras atuais, mas também a esse novo marco regulatório.

O fato de a avaliação de capacidade de crédito poder ser rotulada como um caso de uso de alto risco é apenas um exemplo do peso que as empresas de fintech devem carregar, impedindo-as de serem tão flexíveis quanto têm sido até agora, para captar investimentos e competir.

Conclusão

Como Peter Sarlin, CEO da Silo AI, apontou, o problema não é a regulação, mas a má regulação.

Ser genérico demais pode prejudicar a inovação e todas as empresas envolvidas na produção, distribuição e uso de produtos e serviços baseados em IA.

Se investidores da UE ficarem preocupados com os possíveis riscos impostos por um rótulo que diz que uma startup ou empresa se enquadra na categoria de “alto risco”, o ambiente de IA na União Europeia pode ser afetado negativamente, enquanto os EUA buscam comentários públicos para melhorar sua tecnologia e a China já tem uma opinião clara sobre como regular a inteligência artificial.

De acordo com Robin Röhm, cofundador da Apheris, um dos cenários possíveis é que startups se mudem para os EUA — um país que talvez tenha muito a perder em termos de blockchain e criptomoedas, mas que poderia vencer a corrida da IA.

Se você quiser saber mais sobre fintech e descobrir notícias, eventos e opiniões sobre fintech, assine a Newsletter da FTW!