Artigo: Brasil tem instrumentos legais para banir o Grok imediatamente

Editar fotos de pessoas reais, a partir de qualquer fotografia, exibindo-as em poses sensuais, com pouca roupa, nuas ou mesmo em cenas pornográficas — incluindo imagens de crianças — é uma das funcionalidades da ferramenta de Inteligência Artificial chamada Grok, integrada à plataforma X, de propriedade de Elon Musk. A facilidade para produzir esse tipo de conteúdo, de forma não consensual, tem causado indignação em diversos países. Conforme noticiou a BBC, de Londres, em 11 de janeiro de 2026, duas nações já bloquearam o acesso ao Grok por sua capacidade de criar deepfakes sexualmente explícitos: Malásia e Indonésia.

No Brasil, empresas de Elon Musk já enfrentaram problemas com a Justiça antes. Em agosto de 2024, a rede social X (ex-Twitter) foi suspensa pelo Supremo Tribunal Federal (STF) por descumprir intimação que exigia a indicação de um representante legal no país. Musk preferiu fechar o escritório no Brasil a cumprir a determinação, mas voltou atrás dias depois. A plataforma também foi acusada de promover discursos extremistas e de obstrução de justiça ao se recusar a suspender perfis de investigados.

A postura truculenta da X diante do sistema legal brasileiro reacendeu o debate sobre a regulamentação das redes sociais e conteúdos nocivos na internet. O Brasil, no entanto, avançou pouco desde o Marco Civil da Internet, de 2013.

Para o caso Grok, não seria necessário alterar a legislação. Em 12 de janeiro, o Instituto de Defesa do Consumidor (Idec) solicitou formalmente ao Governo Federal a suspensão imediata da ferramenta no Brasil, diante de denúncias de graves violações de direitos humanos.

Além disso, o Código de Defesa do Consumidor (CDC) — Lei nº 8.078/1990 — já oferece fundamentos sólidos para sustentar que a Grok possa estar infringindo diversos dispositivos, especialmente diante dos riscos relatados (deepfakes, conteúdos sexualizados, ausência de salvaguardas, público vulnerável).

Dez pontos para análise

1.⁠ ⁠Aplicabilidade de Inteligência Artificial como serviço digital (Art. 3º, §2º): O CDC permite enquadrar IA como serviço digital, que é qualquer atividade fornecida no mercado de consumo, mediante remuneração, inclusive as de natureza digital. A Grok se enquadra como serviço digital, ainda que integrado a outra plataforma (X), e mesmo quando o modelo de negócio envolve dados como contrapartida econômica.

2.⁠ ⁠Falha na prestação do serviço (defeito): No Art. 14 – Responsabilidade objetiva do fornecedor, quem presta o serviço responde, independentemente de culpa, pela reparação dos danos causados aos consumidores por defeitos relativos à prestação dos serviços.

– A possibilidade de geração de conteúdo ilegal, abusivo ou violador de direitos fundamentais, sem barreiras eficazes, caracteriza defeito do serviço

– ⁠Não é necessário provar dolo ou culpa da empresa — basta o risco e o dano potencial.

Especial gravidade quando envolve:

– ⁠crianças e adolescentes

– mulheres

– conteúdos sexualizados e não consentidos

3.⁠ ⁠Serviço Defeituoso (Art. 14, §1º): ocorre quando um serviço não fornece a segurança que o consumidor dele pode esperar.

E o consumidor não espera, de forma legítima:

– que uma IA gere deepfakes sexuais;

– que permita simulações envolvendo menores;

– que opere sem filtros eficazes.

4.⁠ ⁠Violação do dever de segurança: no Art. 8º – Segurança do consumidor, os produtos e serviços colocados no mercado não acarretarão riscos à saúde ou segurança dos consumidores, exceto os considerados normais e previsíveis.

– ⁠Conteúdos sexualizados, abusivos ou ilícitos não são riscos normais nem previsíveis de um serviço tecnológico.

– A ausência de mecanismos eficazes de prevenção amplia a responsabilidade.

5.⁠ ⁠Informação inadequada ou insuficiente: no Art. 6º, III – Direito à informação, são direitos básicos do consumidor: a informação adequada e clara sobre os diferentes serviços, com especificação correta dos riscos.

Possíveis violações:

– Falta de clareza sobre limites da IA

– Falta de alertas sobre riscos reais de uso

– Termos genéricos que não informam o consumidor médio

6.⁠ ⁠Informação ostensiva (Art. 31): o código estabelece que a oferta de serviços deve assegurar informações corretas, claras, precisas e ostensivas. Se o serviço é apresentado como “seguro”, “responsável” ou “controlado”, mas na prática permite abusos, há descompasso entre oferta e realidade.

7.⁠ ⁠Publicidade enganosa (Art. 37, §1º): qualquer publicidade que seja capaz de induzir o consumidor a erro. Pode haver infração se:

– a IA for promovida como segura;

– ⁠houver promessa de controle ético inexistente;

– houver omissão de riscos relevantes.

8.⁠ ⁠Publicidade abusiva (Art. 37, §2º): qualquer publicidade que desrespeite valores sociais ou explore a vulnerabilidade do consumidor. Especialmente relevante quando:

– envolve crianças e adolescentes;

– naturaliza violência simbólica ou sexual;

– banaliza a exposição indevida de mulheres.

9.⁠ ⁠Cláusulas abusivas e exoneração de responsabilidade: conforme o Art. 51, I e §1º – Nulidade de cláusulas abusivas, são nulas cláusulas que impossibilitem, exonerem ou atenuem a responsabilidade do fornecedor. As cláusulas são nulas de pleno direito se os termos de uso:

– transferem toda a responsabilidade ao usuário;

– afastam indenização por danos graves;

– limitam indevidamente direitos.

10.⁠ ⁠Proteção reforçada a consumidores vulneráveis. No Art. 4º, I – Vulnerabilidade do consumidor, a Política Nacional das Relações de Consumo reconhece a vulnerabilidade do consumidor no mercado, o que aumenta o dever de cuidado do fornecedor. No caso:

– ⁠crianças e adolescentes → hipervulneráveis

– mulheres vítimas de violência digital → vulnerabilidade agravada

Não é preciso esperar a regulamentação da Internet ser aprovada para punir alguns tipos de criminosos digitais. Já temos mecanismos para isso. Em nome da dignidade das crianças, de adolescentes e das mulheres em ambiente digital, a República Federativa do Brasil precisa tomar todas as medidas legais, com o devido direito à defesa, para banimento imediato do produto Grok, que serve somente à proliferação do ódio, de sexismo e da misoginia na rede.

Diante desse conjunto de fatos, fundamentos jurídicos e riscos concretos à dignidade humana, informo que ofício formal foi encaminhado ao Ministério da Justiça e Segurança Pública, solicitando a adoção imediata das medidas administrativas e legais cabíveis, inclusive o bloqueio ou banimento da ferramenta Grok em território nacional, com a devida apuração pelas instâncias competentes. A iniciativa visa resguardar os direitos de crianças, adolescentes e mulheres, bem como afirmar a soberania do Estado brasileiro na proteção da cidadania no ambiente digital.

Ricardo Bimbo
Coordenador Nacional do Setorial de Ciência & Tecnologia / Tecnologia da Informação do Partido dos Trabalhadores.