Ação oficial para iniciar a construção conjunta de benchmarks de avaliação de segurança de grandes modelos de linguagem

Mensagem da BlockBeats, em 13 de julho, segundo o Securities Times (《证券时报》): o Centro de Pesquisa para o Desenvolvimento da Segurança da Informação Industrial e da Informatização do Estado, com base em suas acumulações técnicas e experiências práticas na área de avaliação de segurança de modelos de grande escala, está construindo um benchmark de avaliação de segurança para modelos de grande escala. Agora, começa a coletar unidades para co-construir esse benchmark, com o objetivo de criar um sistema de avaliação de segurança de IA que cubra todas as dimensões, de forma sistemática.

O benchmark de avaliação de segurança de modelos de grande escala construído desta vez, com foco nas necessidades de governança de segurança em aplicações reais de modelos de grande escala, estabelece uma estrutura de avaliação panorâmica, cobrindo seis dimensões centrais de segurança: segurança de conteúdo, alinhamento de valores, robustez e estabilidade, justiça e imparcialidade, proteção de privacidade, e veracidade e confiabilidade real, formando um sistema de avaliação ponta a ponta e sistemático.

Clique no link abaixo para o texto original, entre no canal de notícias de IA da Feishu “动察 Beating · 飞书 AI 新闻渠道” e monitore 7×24 horas por dia, sem interrupções, os principais temas e notícias de IA em todo o mundo.