Grok: a IA vai tirar a roupa e a liberdade de suas filhas
Nos últimos dias, o Grok, inteligência artificial associada à plataforma X (antigo Twitter), virou ponto de um dos debates mais importantes da década. Por aqui no Amargurado já discutimos o uso de IA e os direitos autorais, mas agora o problema é muito maior.
Aplicativos como o Chat GPT ou o Gemini, que geram imagens ao seu comando, costumam ter filtros e às vezes chegam a ser bem rigorosos ao aceitar pedidos. Porém, a IA de Elon Musk parece não ter limites e está acionando um alerta vermelho em toda a comunidade online.
Usuários do X estão pedindo para o Grok remover a roupa de fotos de mulheres anônimas e famosas, pondo-as de biquíni e em posições sexuais. A inteligência artificial está obedecendo até mesmo quando a pessoa é menor de idade.
Um exemplo é a atriz Nell Fisher, que interpretou Holly na última temporada de Stranger Things. Com apenas 14 anos, ela foi colocada com trajes de banho e em outras imagens perturbadoras aparece beijando homens adultos.
No Brasil, o STF define que o X/Twitter é responsável pelos conteúdos gerados e que as vítimas podem processar a plataforma. Em 2024, o aplicativo ficou fora do ar por 40 dias no nosso território após descumprimento do Código Civil.
Na rede iniciou-se o debate sobre as razões envolvendo essa “trend”. Fica evidente que não é somente perversão no sentido sexual da coisa pois, como sabemos, existe milhares de formas de consumir pornografia na internet.
Isso, no caso, tem raízes no puro machismo, no controle. Em intimidar mulheres e colocá-las em constante estado de ameaça. Quem se sentiria confortável em compartilhar uma foto sabendo que pode ser usada para deepfakes eróticos? Como viveremos em paz sabendo que nossa imagem a qualquer momento está refém desse tipo de gente?
Decidimos por não colocar nenhum exemplo nesta matéria em respeito as vítimas. Porém, a internet está lotada de casos e fica a pergunta: que tragédia vai precisar acontecer até que tomem uma atitude?
