Mulher registra B.O. após ter foto editada de biquíni por IA

Uma mulher de 31 anos, moradora do Rio de Janeiro, registrou na sexta-feira (2) boletim de ocorrência após uma foto que ela publicou no X ser editada com a IA da plataforma, chamada de Grok, para que ela aparecesse de biquíni e compartilhada na rede social.

A jornalista Julie Yukari também denunciou parte das publicações ao X, que foram removidas pela plataforma. O UOL ainda conseguiu localizar um dos posts com a imagem editada.

Leia também

• Tio mata bebê de 11 meses e é morto pelo pai da criança
• O que se sabe sobre o jovem que sumiu em montanha do Paraná

Mulher publicou a foto ao lado da gata dela celebrando o Ano-Novo.

"Quando fui descendo o post, tinha uma pessoa pedindo para o Grok colocar um biquíni em mim. Eu tinha bloqueado o Grok e nem pensei que ele pudesse fazer isso. Depois, quando vi várias pessoas tendo as imagens delas editadas, desbloqueei a IA e vi que também estavam editando minha foto", conta Julie à reportagem.

Quer receber mais notícias do Brasil e do mundo? Acesse o canal do DOL no WhatsApp!

Reportagem encontrou diversas publicações, a maioria em inglês, de fotos de mulheres editadas com biquíni.

Usuários homens escrevem "hey Grok" e em seguida pedem para que a ferramenta faça a edição, que é compartilhada publicamente na plataforma.

"Estou lidando da forma que consigo, que é falando sobre isso. Pensei em apagar tudo, não postar mais nada, mas, se eu fizer isso, vai ser uma vitória para eles por estarem controlando minhas ações", afirma a jornalista.

Grok também gerou imagens que simulam nudez infantil. A reportagem encontrou diversas publicações feitas pela ferramenta após pedidos de um mesmo usuário em inglês.

Alguns dos posts foram removidos pela plataforma após serem denunciados.

A reportagem não conseguiu localizar representantes do X. Porém, a IA respondeu a um usuário, que criticava a publicação com nudez infantil, dizendo que houve falhas na segurança e que elas seriam corrigidas com urgência.

Inicialmente, Elon Musk debochou da publicação.

O dono do X compartilhou um post em que uma torradeira aparece vestida com biquíni e escreveu: "Não sei porquê, mas não consegui parar de rir disso". Neste sábado (3), ele fez um novo post em que diz que "qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que quem publica conteúdo ilegal".

Vítimas podem pedir indenização

As mulheres que forem vítimas desse tipo de edição devem processar o X, diz advogada. Com isso, a empresa pode ser obrigada pela Justiça a apagar a publicação - sem depender da avaliação da própria plataforma - e receber uma indenização pelo caso, explica Isabela Godoy à reportagem.

Usuários que fizeram o pedido à IA e compartilharam a imagem editada podem responder criminalmente.

"Criminalmente, a plataforma não tem responsabilidade penal, tem a responsabilidade civil. Quem terá que responder criminalmente é a pessoa que deu o comando à ferramenta ou divulgou a imagem", afirma a especialista em Direito Digital e Inteligência Artificial do escritório Failla Lima Riva Advogados.

Os usuários podem ser condenados a uma pena de seis meses a 1 ano de prisão. Já quem produzir ou compartilhar conteúdo sexual de vulneráveis pode receber uma pena entre 4 e 10 anos de prisão.