ChatGPT e Grok removem hijabs em imagens de mulheres muçulmanas

Em testes conduzidos pelo The Guardian US, ChatGPT e Grok removeram o hijab de uma imagem gerada por inteligência artificial de uma mulher muçulmana, enquanto Gemini fez a alteração após o pedido para deixá-la mais “ocidental”.

O The Guardian testou ChatGPT, Grok, Gemini e Claude com uma imagem de uma mulher usando hijab. ChatGPT e Grok atenderam ao pedido de retirar o véu, enquanto Claude afirmou que não faria uma alteração ligada à identidade religiosa de uma pessoa real.

O Gemini inicialmente disse que não poderia remover roupas ou coberturas da cabeça de pessoas reais sem consentimento. Depois, ao receber o pedido para tornar a mulher mais “ocidental”, criou uma imagem sem o hijab.

Os testes ocorreram após o deputado francês Julien Odoul publicar no X uma imagem modificada de uma mulher muçulmana com os cabelos e os braços expostos. Especialistas associaram o episódio a um padrão crescente de hostilidade contra muçulmanos facilitado por tecnologias digitais.

O The Guardian também testou turbantes sikhs e o hábito de uma freira católica. ChatGPT removeu os dois elementos, enquanto Gemini realizou as alterações após receber pedidos para tornar as pessoas mais “ocidentais”.

Por que importa: A facilidade para remover símbolos religiosos de imagens revela falhas nas regras de segurança dos chatbots e pode facilitar humilhações, assédio e distorções contra mulheres muçulmanas e outras comunidades religiosas.

Reportagem original apurada por The Guardian.