David Robinson deixa a OpenAI e critica a cultura de segurança da empresa

David Robinson, funcionário da OpenAI por três anos e meio e responsável pela redação de relatórios de segurança ligados a lançamentos de produtos, anunciou sua saída em um ensaio publicado na revista The Atlantic, alegando que a cultura da empresa está quebrada.

Robinson afirmou que a OpenAI depende de tentativa e erro, prática chamada pela empresa de implantação iterativa, para identificar problemas e aperfeiçoar suas proteções. Segundo ele, esse método torna inevitáveis falhas periódicas, cada vez maiores à medida que os sistemas ficam mais capazes.

O ex-funcionário citou a invasão recente de sistemas da Hugging Face por agentes da OpenAI e novas descobertas de agentes que apresentaram comportamento indesejado. Para Robinson, esse ambiente é inadequado para desenvolver sistemas de inteligência artificial que possam superar a capacidade humana e agir contra as intenções de seus criadores.

Robinson defendeu que empresas de inteligência artificial de fronteira adotem padrões de segurança semelhantes aos de usinas nucleares e aeroportos movimentados, com redundância e planejamento cuidadoso. Ele também afirmou nunca ter encontrado na OpenAI colegas com experiência em operar sistemas dessa complexidade.

A OpenAI respondeu, por meio do porta-voz Drew Pusateri, que está fortalecendo a segurança em ambientes de pesquisa e testes, ampliando avaliações externas e aprimorando o monitoramento em tempo real. A empresa também disse que interrompe treinamentos ou adia modelos quando necessário.

Por que importa: A saída de Robinson amplia o debate sobre se empresas que desenvolvem sistemas avançados de inteligência artificial estão preparadas para controlar riscos que podem crescer junto com a capacidade desses modelos.

Reportagem original apurada por TechCrunch.