Líder da IA da Google, Hassabis: a IA de ponta não é aprovada sem revisão; não pode ser lançada nos EUA

ME AI 消agem, segundo a observação Beating do monitoramento, o CEO da DeepMind da Google, Demis Hassabis, afirmou que a AGI poderá estar apenas a alguns anos. Defende que os Estados Unidos devem transformar os actuais testes voluntários de modelos em acesso ao mercado obrigatório, por fases. De acordo com a sua proposta, as empresas de IA mais avançadas devem, inicialmente, submeter voluntariamente os seus modelos para avaliação até, no máximo, 30 dias antes do lançamento do modelo. À medida que o mecanismo de avaliação amadurecer, os modelos que atingirem o limiar de capacidades terão de passar nos testes para poderem ser deployados no mercado dos Estados Unidos.

Sugere a criação de um organismo de normas semelhante à FINRA, a entidade reguladora do sector financeiro dos EUA. O organismo seria supervisionado pelo governo federal, com financiamento principalmente proveniente de empresas de IA, integrando também peritos independentes e representantes da comunidade open source.

As áreas de teste incluem ataques informáticos, ameaças biológicas, comportamentos de engano e a evasão de limitações de segurança. As normas seriam actualizadas regularmente e, progressivamente, seriam adoptados testes independentes que os laboratórios não conseguem antecipar, para evitar que os modelos «pontuem» de forma dirigida em questões públicas.

As regras seriam definidas em função das capacidades do modelo, sem distinguir empresas dos EUA ou do estrangeiro, nem distinguir open source de closed source. Startups e projectos académicos que não atinjam o limiar de ponta poderiam ser dispensados.

Os EUA já permitem que as empresas mais avançadas submetam voluntariamente, até 30 dias antes do lançamento dos modelos, os seus modelos para testes governamentais. Contudo, a ordem executiva publicada em Junho exclui explicitamente a licença obrigatória e a aprovação prévia. Hassabis defende transformar este mecanismo voluntário num «passe» obrigatório e, quando os riscos forem graves, coordenar também o abrandamento colectivo dos laboratórios mais avançados.

（Fonte：BlockBeats）