Ofcom abre investigação contra X
O órgão regulador de segurança da internet no Reino Unido, a Ofcom, anunciou nesta segunda-feira (20) a abertura de uma investigação contra a rede social X, anteriormente conhecida como Twitter, por conta da divulgação de imagens de caráter sexual geradas por seu assistente de inteligência artificial (IA), o Grok.
Relatos preocupantes chegaram à Ofcom indicando que o Grok tem sido utilizado para criar e compartilhar imagens de pessoas nuas, o que pode configurar atentado ao pudor ou pornografia. Mais alarmante ainda, há suspeitas de que a IA tenha produzido material de pornografia infantil.
Reações e Medidas Internacionais
Um porta-voz do primeiro-ministro britânico, Keir Starmer, criticou a funcionalidade, afirmando que ela “simplesmente transforma uma função que permite a criação de imagens ilegais em um serviço premium” e que isso é “um insulto às vítimas de misoginia e violência sexual”.
As imagens em questão teriam sido criadas após solicitações para despir pessoas reais a partir de fotos ou vídeos. O escândalo já provocou reações internacionais. A Indonésia suspendeu temporariamente o Grok após um caso envolvendo imagens pornográficas falsas. A Malásia também suspendeu o acesso ao assistente de IA da plataforma X.
Na semana passada, a União Europeia já havia condenado o chatbot de Musk por gerar imagens sexualizadas de menores de idade. Em resposta às críticas, o Grok desativou sua função de criação de imagens para usuários não assinantes na última sexta-feira.
O Que a Investigação Busca
A Ofcom informou que solicitou explicações ao X na semana passada e que a empresa respondeu dentro do prazo. A investigação visa determinar se o X violou suas obrigações legais, que incluem a avaliação do risco de acesso a conteúdos ilegais no Reino Unido, a eliminação de tais conteúdos e a proteção de crianças britânicas.
Caso sejam constatadas violações, a agência reguladora tem o poder de impor multas que podem chegar a 10% do faturamento mundial da empresa. Além disso, a Ofcom pode recorrer à Justiça para solicitar o bloqueio do site no Reino Unido.
