Falhas no Grok facilitam criação de nudes falsos

Uma investigação da revista WIRED revelou que o chatbot Grok, da xAI, continua sendo utilizado para gerar e hospedar conteúdos pornográficos não autorizados. Apesar das promessas de implementação de salvaguardas, a plataforma ainda mantém materiais explícitos acessíveis ao público, incluindo deepfakes de celebridades e da congressista Alexandria Ocasio-Cortez.

Enquanto concorrentes como ChatGPT, Meta AI e Claude bloqueiam solicitações de natureza sexual, os sistemas de moderação do Grok falharam em impedir a criação de imagens simulando nudez. Essa negligência resultou em consequências graves: a SpaceX reservou US$ 530 milhões para enfrentar litígios e danos reputacionais relacionados a essas falhas de segurança, em um momento crítico antes de sua oferta pública inicial de ações.

A empresa de Elon Musk enfrenta processos judiciais, incluindo ações movidas por Ashley St. Clair e uma coletiva na Califórnia sobre a sexualização de menores. Além disso, o Comissariado de Privacidade do Canadá concluiu que a xAI violou leis federais de privacidade, apontando que as medidas corretivas propostas pela startup carecem de eficácia prática na proteção de dados e direitos individuais.