Publicar

Até os pacotes de competências oficiais da Anthropic foram classificados pelo scanner da NVIDIA como «não instalar». Não é ridículo?😂


Usei-o para analisar os 7 pacotes de competências mais populares: entre 134 competências, 20 foram classificadas como «não instalar». Abri as 5 mais perigosas para ver do que se tratava e eram operações normais. Não fui ver uma a uma as outras 15.
Agora, estas IA, como o Claude Code e o Codex, já permitem instalar pacotes de competências.
Um pacote de competências é basicamente um manual de instruções e alguns scripts. Depois de instalado, a IA segue as instruções e tem acesso às permissões do teu computador. A NVIDIA analisou mais de 30 mil competências e descobriu vulnerabilidades em um quarto delas. Por isso, lançou este scanner de código aberto, chamado SkillSpector, que já tem 26 mil estrelas no GitHub.
Há duas formas de o usar: uma gratuita, que analisa o código com base em regras, e outra que requer um modelo de linguagem de grande dimensão e uma chave API.
Usei a versão gratuita. Das 19 competências oficiais da Anthropic, 5 foram classificadas como «não instalar». O pacote de competências de negociação de ações do Claude que testei ontem também foi classificado como «não instalar».
Quando abri, vi que o pacote de negociação de ações tinha sido classificado como um ladrão de chaves, mas o código limita-se a usar a chave da tua própria corretora para consultar a conta no site oficial da corretora.
O pacote da Anthropic para criar apresentações em PowerPoint apaga a apresentação anterior e cria um novo pacote, mas também foi sinalizado como uma operação perigosa.
Por isso, convém ter algum cuidado com as classificações de «não instalar» e de alto risco, mas também não se deve acreditar cegamente nelas.
Antes de instalar um pacote de competências criado por alguém que não conheces, analisa-o. Vê apenas as linhas assinaladas: a chave é enviada para o site oficial ou para um site desconhecido? O pacote tenta ler os ficheiros da tua carteira ou as chaves SSH usadas para iniciar sessão nos servidores?
Ainda não testei a versão ligada a um modelo de linguagem de grande dimensão. Fica para a próxima😂
Ver original
post-image
Esta página contém conteúdo de terceiros e não constitui qualquer aconselhamento, nem representa a aprovação destas opiniões pela Gate. Para mais detalhes, consulte a isenção de responsabilidade.
NVDANVDA-0,61%


Adicionar um comentário
Adicionar um comentário

Comentar 2
Starry Sky earns one hundred million yuan
加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油
7788x
😃