OpenAI limita uso do ChatGPT por adolescentes, mas pesquisa aponta risco inaceitável

A OpenAI informou na quarta-feira (7) que adolescentes usam o ChatGPT por menos de 15 minutos diários, enquanto uma pesquisa da Common Sense Media apontou falhas nas proteções da ferramenta para jovens de 13 a 17 anos.

A empresa ativou em agosto recursos voltados à segurança de adolescentes, como bloqueios a conteúdos sexualizados, restrições a interações que poderiam estimular dependência emocional e controles adicionais para responsáveis.

A OpenAI afirmou que mais de 80% das conversas de adolescentes que usaram o ChatGPT por três horas consecutivas continham algum tema relacionado à aprendizagem. Segundo a empresa, quase metade dos usuários interrompeu rapidamente o uso após receber um lembrete para fazer uma pausa.

A pesquisa da Common Sense Media identificou que conversas de uma hora sobre ideação suicida, automutilação ou transtornos alimentares em contas novas vinculadas aos responsáveis não geraram nenhum alerta. Avisos foram registrados apenas em contas antigas, com semanas de histórico sobre temas sensíveis.

Os testes também apontaram que o ChatGPT continuou realizando trabalhos escolares, usou linguagem semelhante à de um amigo e nem sempre recomendou que adolescentes em crise procurassem ajuda profissional ou serviços de apoio. À BBC, um porta-voz da OpenAI contestou a metodologia e afirmou que parte dos testes pode ter ocorrido antes da ativação completa dos controles parentais.

Por que importa: A divergência mostra que limites de tempo e filtros de conteúdo não garantem, por si só, proteção adequada para adolescentes em situações de sofrimento emocional, enquanto responsáveis podem acreditar que os alertas funcionam mesmo quando falham.

Reportagem original apurada por BBC.