A Inteligência Artificial que Violenta: Espanha Declara Guerra a X, Meta e TikTok por Pornografia Infantil Gerada por Algoritmos

O primeiro-ministro Pedro Sánchez determinou a investigação criminal de plataformas como X, Meta e TikTok.

O alvo não é apenas o conteúdo compartilhado por usuários, mas a própria tecnologia empregada por essas empresas, que estaria sendo usada para gerar imagens de abuso sexual infantil, levantando questões cruciais sobre responsabilidade algorítmica e os limites éticos da IA.

A linha entre o mundo virtual e o real nunca foi tão tênue — e perigosa. Em uma ofensiva judicial sem precedentes, o governo da Espanha instruiu o Ministério Público a investigar criminalmente as gigantes da tecnologia X (antigo Twitter), Meta (dona do Facebook, Instagram e WhatsApp) e TikTok. O motivo? A suspeita de que os algoritmos de inteligência artificial dessas plataformas estejam sendo deliberadamente utilizados para a criação e distribuição de pornografia infantil.

Não se trata apenas de remover posts criminosos. A investigação espanhola mira a "caixa-preta" das redes sociais: os sistemas de IA generativa que, treinados com bilhões de imagens, são capazes de criar, em segundos, representações hiper-realistas de abuso sexual contra crianças — as chamadas "deepfakes" de exploração infantil.

"Essas plataformas minam a saúde mental, a dignidade e os direitos de nossas crianças. A impunidade desses gigantes deve acabar", sentenciou o primeiro-ministro espanhol, Pedro Sánchez, ao anunciar a medida. A declaração ecoa como um alerta global: a autorregulação das big techs pode estar com os dias contados.

A Nova Fronteira do Crime Digital

Para os operadores do Direito, o caso espanhol abre um debate complexo e urgente. Até ontem, a responsabilização das plataformas se dava, majoritariamente, pela demora ou negligência na remoção de conteúdo impróprio postado por terceiros. Hoje, a Espanha questiona se as empresas não estão se tornando cúmplices ativas ao fornecerem as ferramentas (a IA) que geram o crime.

O caso mais emblemático que inflamou essa investigação foi o escândalo envolvendo o chatbot Grok, da plataforma X, de Elon Musk. A Comissão Irlandesa de Proteção de Dados (DPC), principal autoridade de privacidade da UE, já havia acionado o alerta ao descobrir que a ferramenta era capaz de gerar imagens sexualizadas realistas de figuras públicas e, mais grave ainda, de crianças, sem qualquer consentimento.

A tecnologia, neste cenário, atua como um "abusador em série" digital. Ela não copia, mas cria novas vítimas. Uma criança real pode ter seu rosto extraído de uma foto inocente postada por seus pais e, por meio da IA, ser inserida em contextos de violência sexual. A materialidade do crime deixa de existir fisicamente, mas o dano psicológico e à dignidade da vítima é igualmente devastador.

O Contexto Europeu e a Pressão Regulatória

A ação espanhola não é um fato isolado, mas sim o capítulo mais recente de uma novela em que a União Europeia tem atuado como protagonista na tentativa de domar os "gigantes da tecnologia". A declaração de Sánchez ocorre em um momento de pressão intensificada dos reguladores europeus, que acusam as big techs de um cardápio de violações que vão desde comportamentos anticompetitivos até a criação deliberada de recursos viciantes para prender a atenção de crianças e adolescentes.

Vale lembrar que, em novembro do ano passado, Sánchez já havia anunciado a intenção do parlamento espanhol de investigar a Meta por violações de privacidade. Agora, a mira é mais ambiciosa: provar que a infraestrutura tecnológica dessas empresas é uma ameaça sistêmica à infância.

Na prática, a justiça espanhola precisará responder a perguntas espinhosas:

1. Quem é o autor do crime? O usuário que digitou o prompt, a empresa que criou o modelo de IA ou ambos?

2. Há dolo por parte das plataformas? A acusação precisa demonstrar que as empresas tinham conhecimento de que suas IAs eram usadas para esse fim e se omitiram em corrigir os "vieses criminosos" de seus algoritmos.

3. Como equilibrar inovação e proteção? Até onde vai a liberdade de desenvolver IAs generativas sem salvaguardas rígidas contra o abuso?

Um Precedente para o Brasil

Para os leitores da TV Forense, este caso é uma bússola para o futuro do Direito Digital no Brasil. Com o avanço do Marco Civil da Internet e as discussões em torno da regulamentação das plataformas (o PL 2630), o modelo espanhol pode servir de inspiração para o Ministério Público brasileiro.

A ideia de responsabilizar as empresas não apenas pelo que é publicado, mas pela arquitetura tecnológica que permite e, em alguns casos, estimula a prática de ilícitos, é uma fronteira que o Judiciário brasileiro ainda precisará cruzar.

Enquanto isso, a OpenAI anunciou que começará a implementar a verificação de idade para usuários do ChatGPT na UE, uma medida paliativa que demonstra que as empresas já sentem o calor da fogueira regulatória. A pergunta que fica é: a tecnologia que promete revolucionar o mundo será a mesma que o judiciário precisará conter para proteger o que ele tem de mais valioso — a dignidade da pessoa humana, começando pelas crianças?

A Espanha acaba de acender o sinal de alerta. O mundo assiste, e o Direito se prepara para o maior desafio de sua história: julgar não apenas ações humanas, mas os pecados capitais dos algoritmos.