OpenAI adotará marca d’água invisível em textos do ChatGPT na União Europeia

A OpenAI informou, em data não especificada pela matéria, que aplicará uma marca d’água invisível a textos gerados pelo ChatGPT e pelo Codex para usuários elegíveis na União Europeia.

A medida atende às regras de transparência do Regulamento Europeu de Inteligência Artificial, em vigor desde 2 de agosto, que exigem uma forma de identificação de conteúdos gerados por inteligência artificial.

A marca d’água será incorporada às escolhas de palavras e poderá ser detectada por sistemas específicos, mesmo depois que o texto for copiado e colado. A OpenAI afirmou que o recurso não identifica o usuário e não provocou mudança significativa no desempenho dos modelos.

A empresa publicou o relatório técnico do método textGrain com pesquisadores da Universidade da Pensilvânia e de Yale. Segundo testes da OpenAI, substituir 10% das palavras por sinônimos reduziu a detecção de cerca de 92% para 66%. A TechCrunch também informou que textos curtos, respostas matemáticas e traduções são mais difíceis de identificar.

Por que importa: A medida cria uma forma técnica de sinalizar conteúdos produzidos por sistemas da OpenAI, mas seus limites mostram que a ausência da marca d’água não comprova autoria humana e que a edição pode reduzir a eficácia da detecção.

Reportagem original apurada por TechCrunch.