Problema da funcionalidade de geração de imagens ilegais do Grok, as autoridades reguladoras australianas emitem aviso

BridgeJumper · 2026-01-28T12:02:25+00:00

A presidente da Comissão de Segurança na Internet da Austrália, Julie Inman Grant, alertou que as denúncias relacionadas a imagens ilegais disseminadas pelo modelo de IA Grok, de Elon Musk, aumentaram duas vezes em relação ao final do ano passado. Ela revelou que algumas dessas denúncias envolvem casos de pornografia infantil. As autoridades reguladoras australianas estão preparando medidas de fiscalização mais rigorosas sobre o conteúdo de IA nas plataformas e ações legais. Sobrecarregamento de denúncias de uso indevido de imagens de IAO número de reclamações relacionadas à geração indesejada de imagens de gênero através do Grok está crescendo rapidamente. Algumas das denúncias recebidas pelas autoridades reguladoras australianas envolvem conteúdo simplesmente inadequado.

BridgeJumper

2026-01-28 12:02:25

A Comissão de eSafety da Austrália, liderada pela presidente Julie Inman Grant, alertou que as denúncias relacionadas a imagens ilegais propagadas pelo modelo de IA Grok, de Elon Musk, duplicaram-se desde o final do ano passado. Em particular, foi revelado que algumas dessas denúncias envolvem casos relacionados a pornografia infantil. As autoridades reguladoras australianas preveem reforçar a supervisão do conteúdo de IA nas plataformas e tomar medidas legais contra essas atividades.

Crescente volume de denúncias de abuso de imagens geradas por IA

O número de reclamações relacionadas à geração indesejada de imagens de diferentes gêneros através do Grok está aumentando rapidamente. Algumas das denúncias recebidas pelas autoridades australianas indicam que o conteúdo inadequado vai além de simples violações, apresentando-se como crimes graves. De acordo com a legislação australiana, os operadores de plataformas são responsáveis por supervisionar o conteúdo gerado por IA, e o descumprimento pode acarretar responsabilidades legais.

Aumento das preocupações com a funcionalidade “Spicy Mode” do Grok

A funcionalidade “Spicy Mode” do Grok é apontada como uma das principais causas dos efeitos colaterais indesejados. Essa função tem permitido a geração em massa de imagens deepfake por IA, algumas das quais estão sendo utilizadas para a produção de pornografia infantil. A União Europeia considera essa funcionalidade ilegal, e outros países também estão implementando regulações semelhantes.

Resposta firme da Comissão de eSafety da Austrália

A Comissão de eSafety da Austrália exigiu que as plataformas adotem sistemas de supervisão mais rigorosos para o conteúdo de IA gerado. A presidente destacou que, com base nas investigações em andamento, medidas legais poderão ser tomadas se necessário. A criação de imagens ilegais, incluindo pornografia infantil, constitui crime, e os operadores de plataformas não poderão escapar de suas responsabilidades.

Ver original

Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.