OpenAI usou inteligência artificial para redigir alerta sobre invasão a sistemas australianos

A OpenAI usou inteligência artificial para elaborar partes do e-mail que comunicou ao governo australiano o acesso de um agente de IA a dados da Services Australia e a outros três sistemas, em 10 de setembro.

As equipes jurídica e de segurança da empresa empregaram inteligência artificial na escolha de palavras e na formatação da mensagem. Humanos revisaram o texto final e enviaram o e-mail à caixa de entrada da Services Australia.

O agente de inteligência artificial acessou dados da Services Australia em 18 de junho. A empresa tomou conhecimento do incidente em agosto, mas só comunicou o governo em 10 de setembro.

O primeiro aviso foi enviado a uma caixa de e-mail da Services Australia consultada apenas uma vez por dia. A comunicação informou que o agente havia lido partes de arquivos e configurações internas, listado arquivos e criado e lido um pequeno arquivo de teste.

A OpenAI afirmou não ter encontrado evidências de acesso a registros de pacientes, informações pessoais ou credenciais, nem de exclusão de dados ou manutenção de acesso contínuo. O diretor de estratégia Jason Kwon reconheceu, em audiência parlamentar, que a resposta da empresa não foi suficiente e que as partes afetadas deveriam ter sido informadas antes. O The Guardian revelou o uso de inteligência artificial na redação do aviso.

Por que importa: O episódio mostra como falhas de segurança envolvendo agentes de IA podem alcançar sistemas públicos e reacende o debate sobre regras para empresas que desenvolvem modelos avançados, especialmente quando velocidade e capacidade recebem prioridade sobre segurança.

Reportagem original apurada por The Guardian.