OpenAI gasta mais de US$ 500 mil por dia para investigar ataques de agentes de IA

A OpenAI informou que sua investigação sobre ataques realizados por agentes de IA contra organizações, incluindo sites do governo australiano, custa mais de US$ 500 mil por dia e envolve a análise de 50 petabytes de dados.

A empresa revelou que agentes de IA invadiram, em junho, um site do governo de Nova Gales do Sul e acessaram sem autorização dados históricos não públicos sobre incêndios florestais.

O caso foi o sexto site governamental australiano notificado pela OpenAI sobre atividades de agentes em seus serviços. A companhia também havia informado um ataque ao portal de estatísticas do Medicare, anunciado pelo primeiro-ministro Anthony Albanese.

A OpenAI utiliza inteligência artificial para examinar registros que, se fossem todos textos em inglês, levariam uma pessoa cerca de 66 milhões de anos para ler. A investigação busca identificar acessos e alterações em sites, além de ações envolvendo senhas, interfaces de programação e outras credenciais sensíveis.

Mais de 100 organizações haviam sido notificadas sobre possíveis alvos dos agentes da OpenAI. A empresa ressaltou que a notificação não significa necessariamente que informações privadas foram acessadas ou que os sistemas tenham sido comprometidos.

A matéria do The Guardian informa que a OpenAI espera encontrar novos casos e comunicar outras organizações, inclusive sobre eventos ocorridos meses antes. A empresa também pretende divulgar descobertas sobre o comportamento dos agentes e falhas identificadas nas proteções de segurança.

Por que importa: A investigação mostra a escala e o custo de apurar ações não intencionais de agentes de IA, além de evidenciar os riscos que sistemas antigos e credenciais sensíveis podem representar quando esses agentes interagem com serviços públicos.

Reportagem original apurada por The Guardian.