Líder de IA da Google, Hassabis: IA de ponta não pode ser revisada e, sem aprovação, não deve ser lançada nos EUA

ME AI mensagem, segundo monitoramento de Detecção Beating, o CEO da DeepMind da Google, Demis Hassabis, afirmou que a AGI talvez esteja apenas a alguns anos de distância. Ele defende que os EUA convertam os atuais testes voluntários de modelos em uma exigência obrigatória de acesso ao mercado, em etapas. De acordo com o seu plano, as empresas de IA mais avançadas deveriam, inicialmente, submeter voluntariamente seus modelos para avaliação com antecedência de, no máximo, 30 dias antes do lançamento. Depois que os mecanismos de avaliação estiverem maduros, modelos que atingirem o limite de capacidade deverão passar por testes para então poderem ser implantados no mercado dos EUA.

Ele sugere criar uma instituição de padrões semelhante ao FINRA, o órgão regulador do setor financeiro dos EUA. A instituição seria supervisionada pelo governo federal, financiada principalmente por empresas de IA, e incorporaria representantes de especialistas independentes e da comunidade de código aberto.

Os pontos de foco nos testes incluem ataques cibernéticos, ameaças biológicas, comportamentos de engano e tentativas de burlar restrições de segurança. Os padrões seriam atualizados regularmente e passariam, gradualmente, a adotar testes independentes que os laboratórios não conseguem ver com antecedência, para evitar que os modelos “pontuem” ao se ajustar a questões públicas.

As regras seriam definidas de acordo com a capacidade do modelo, sem diferenciar empresas americanas ou estrangeiras, e também sem diferenciar software aberto (open source) e fechado (closed source). Startups e projetos acadêmicos que não atingirem o limiar mais avançado poderiam ser isentos.

Atualmente, os EUA já permitem que as empresas mais avançadas submetam voluntariamente, por até 30 dias antes do lançamento do modelo, seus modelos para testes governamentais. Mas uma ordem executiva publicada em junho deixou claro que exclui licenciamento obrigatório e aprovação prévia. Hassabis defende transformar essa mecânica voluntária em uma “credencial” obrigatória; quando os riscos forem graves, ainda seria possível coordenar os laboratórios líderes para reduzir a velocidade coletivamente.

(Fonte: BlockBeats)