Risco real e imediato

Indústria da pornografia infantil se vale de IA para expandir sua capacidade de aliciamento e de criação de conteúdos obscenos envolvendo crianças e jovens

Eu sempre gosto de conectar afirmações teóricas com fatos reais para que essas afirmações sejam compreendidas de maneira mais orgânica por gente que não é de tecnologia, e a maioria das pessoas não são.

Quando eu falo, e tá cheio de artigos sobre isso, que 'IA Generativa traz riscos sociais muito sérios ', é fácil pensar em algo meio distante, meio nerd, meio dark web.

Então deixa eu trazer, pra chamar sua atenção, um assunto feio, delicado, chocante por qualquer ângulo que se olhe, que é a pornografia infantil.

Pois umas das grandes preocupações que começam a aparecer em várias partes do mundo é como a IA Generativa consegue acelerar a criação, processamento e envolvimento de crianças e jovens numa indústria asquerosa, porque sim, tem gente que ganha dinheiro com isso.

E aí vem meu clamor, e de todo mundo do mundo de IA, por mais regulação. Mas vale a pena eu explicar como funciona, porque você tem filhos, netos, sobrinhos, e deve se preocupar.

1. IA generativa permite a criação de vídeos de pornografia infantil com personagens gerados automaticamente pela IA

2. Esse é mais grave, a mesma tecnologia permite utilizar rostos ou corpos de crianças reais para criar históricas que não existem de fato

3. Não preciso nem usar adjetivos aqui. Pode-se alterar digitalmente rostos de crianças abusadas para dificultar a identificação destes por autoridades

4. Chatbots superpoderosos e programados para isso, podem automatizar o contato entre predadores e vítimas, como descrito nesse artigo do The Guardian (uso muito esse jornal porque é excelente, e não tem paywall).

Se não trabalharmos forte em modelos e leis, a fronteira entre real e imaginário vai deixar de existir de maneira clara, com consequências que ninguém consegue prever.

Julie Inman Grant, da eSafety, alerta para riscos de cyberbullying infantil e abusos baseados em imagens de jovens e crianças.