A União Europeia está examinando de forma “muito séria” o Grok, de Elon Musk, depois que o chatbot com tecnologia de inteligência artificial gerou imagens sexualizadas de pessoas, inclusive menores de idade, na plataforma de mídia social X. A exemplo da Austrália: França planeja proibir redes sociais para menores de 15 anos Medidas similares: Nova lei restringe feeds das redes sociais e acesso a dados de menores de idade em Nova Iorque; entenda — Estamos cientes do fato de que o X ou o Grok agora está oferecendo um ‘Modo Picante’ que exibe conteúdo sexual explícito, com algumas saídas geradas com imagens de aparência infantil— disse o porta-voz da Comissão, Thomas Regnier, em entrevista coletiva nesta segunda-feira, referindo-se a uma configuração lançada pelo Grok no ano passado para gerar material sugestivo: — Isso não é picante. Isso é ilegal. Usuários do X têm solicitado ao Grok que remova digitalmente roupas de fotos — muitas vezes de mulheres — de modo que os retratados pareçam estar vestindo apenas roupas íntimas ou biquínis. Initial plugin text A proliferação dessas imagens em uma plataforma de mídia social popular alarmou reguladores e defensores da segurança on-line em todo o mundo, com autoridades da Índia, do Reino Unido e da França entre as que condenaram as postagens. Falhas em filtro de conteúdos: Brinquedos com IA revelam novos riscos digitais para crianças A xAI, que opera o X e o Grok, não respondeu a um pedido de comentário. Musk disse em uma publicação no X, no domingo, que a plataforma toma medidas contra material ilegal, removendo-o, suspendendo permanentemente contas e trabalhando com autoridades quando necessário. “Qualquer pessoa que use o Grok para produzir conteúdo ilegal sofrerá as mesmas consequências como se tivesse enviado conteúdo ilegal”, escreveu. Embora a maioria dos modelos de IA convencionais proíba imagens e vídeos sexuais, a xAI posicionou o Grok como mais permissivo. O sistema permite representações de nudez parcial de adultos e imagens sexualmente sugestivas, ao mesmo tempo em que proíbe pornografia explícita envolvendo a imagem de pessoas reais e conteúdo sexual envolvendo menores. Namorado virtual: Ela se apaixonou pelo ChatGPT. Depois, deu um 'ghosting' nele Em alguns países, incluindo os Estados Unidos e o Reino Unido, é ilegal publicar deepfakes íntimos gerados por IA de pessoas sem o seu consentimento. Traçar e aplicar essas distinções representa um teste crítico dos sistemas de segurança incorporados às ferramentas de IA de geração de imagens. A aparente falha da xAI em implementar proteções eficazes provocou condenação de reguladores ao redor do mundo. A Ofcom, órgão regulador de mídia do Reino Unido, afirmou nesta segunda-feira que estava ciente de “preocupações graves” sobre os recursos do Grok e que fez “contato urgente com o X e a xAI para entender quais medidas eles adotaram para cumprir seus deveres legais de proteger os usuários no Reino Unido”. Grok: Chatbot de Musk espalhou desinformação sobre tiroteio na Austrália, dizem pesquisadores O governo francês acusou o Grok, na sexta-feira, de gerar conteúdo sexual “claramente ilegal” no X sem o consentimento das pessoas e sinalizou que o caso pode violar a Lei de Serviços Digitais (Digital Services Act, DSA) da União Europeia. A regulamentação exige que grandes plataformas reduzam o risco de disseminação de conteúdo ilegal. O Ministério de Tecnologia da Informação da Índia exigiu uma revisão abrangente dos recursos de segurança do Grok, e autoridades da Malásia disseram estar investigando o caso após queixas sobre as saídas “indecentes” do chatbot. O X, de Musk, já era alvo de uma investigação no âmbito do DSA da UE e, em dezembro, foi multado em € 120 milhões (US$ 140 milhões) por falhas de conformidade — a primeira penalidade já aplicada sob a controversa lei de moderação de conteúdo. O foco do bloco em empresas de tecnologia americanas, como o X, tem atraído críticas intensas do governo do presidente dos EUA, Donald Trump, que argumenta que os reguladores europeus estão censurando a liberdade de expressão. Initial plugin text