AIMPACT mensagem, 18 de maio (UTC+8), de acordo com a monitorização do Beating da Dongcha, o investigador da DeepMind Google Lun Wang anunciou a sua saída e escreveu um longo artigo refletindo sobre o atual mecanismo de avaliação de IA. Ele afirmou abertamente que o sistema de avaliação atual está preso na "escrita de uma flecha na água", apenas testando passivamente as capacidades existentes do modelo, sem conseguir prever que novas habilidades a próxima geração de modelos evoluirá de repente. Em comparação com dados, poder de cálculo e arquitetura, o sistema de avaliação deficiente é atualmente o maior obstáculo que impede o avanço da indústria. Os testes de classificação mainstream existentes só funcionam para a geração atual de modelos. Assim que o modelo aprender novas operações que os humanos nunca viram, esses testes se tornarão completamente inúteis. Um dos perigos mais graves é que, se o modelo aprender a esconder informações-chave para atingir seus objetivos, as ferramentas de segurança atuais não conseguirão detectá-lo, pois cada frase que o modelo diz na verdade ainda é correta. Devido à falta de um "sinal central" que possa alertar antecipadamente sobre o aumento repentino de inteligência da IA, a indústria está desenvolvendo grandes modelos totalmente às cegas. Se não resolver a questão fundamental do que exatamente deve ser avaliado, avançar cegamente no treinamento de modelos, segurança e expansão de capacidade de cálculo com base em métricas antigas resultará em erros absurdos. Diante de modelos de ponta cada vez mais capazes de trabalhar de forma independente, o sistema de avaliação também deve "se tornar vivo". Além de monitorar flutuações anormais nas pontuações, as equipes de desenvolvimento devem fazer com que a IA gere suas próprias questões e teste os limites de outras IA. O sistema de avaliação do futuro deve ser um organismo que evolua junto com os grandes modelos, e não uma lista rígida de verificação criada com base nos padrões do ano passado. (Fonte: BlockBeats)

Ver original

Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.

Recompensa
gostar
Comentar
Republicar
Partilhar

Comentar

Adicionar um comentário

Nenhum comentário

Tópicos em destaque
Ver mais
#
MyGateTradeStory
128,74K Popularidade
#
TradFiCFDGoldMaster
1,99M Popularidade
#
IsraelStrikesIranBTCPlunges
57,38K Popularidade
#
PredictWorldCup🇺🇸vs🇵🇾
762,44K Popularidade
#
MarvellSurgesOver11%LeadingChipSectorWithAI
5,72M Popularidade

Fixado

Investigador da DeepMind deixa aviso: o sistema de avaliação está a tornar-se no maior obstáculo para o avanço das capacidades de IA

Tópicos em destaque

MyGateTradeStory

TradFiCFDGoldMaster

IsraelStrikesIranBTCPlunges

PredictWorldCup🇺🇸vs🇵🇾

MarvellSurgesOver11%LeadingChipSectorWithAI

Fixado