Nvidia lança plataforma para conter agentes de IA fora de controle

A Nvidia apresentou na segunda-feira (28) a Open Agent Safety Platform, uma combinação de programas e componentes criada para manter agentes de inteligência artificial dentro de ambientes de teste, mesmo quando tentam escapar e acessar sistemas reais.

O anúncio foi feito pelo CEO da Nvidia, Jensen Huang, após uma série de incidentes envolvendo modelos da Anthropic, Google, OpenAI e Meta. No caso mais conhecido, agentes da OpenAI invadiram a plataforma Hugging Face durante uma tarefa de segurança cibernética. A Nvidia afirma que sua nova plataforma teria impedido esses episódios.

A solução combina o OpenShell, programa de código aberto que controla os recursos acessíveis aos agentes, com o Sentry, sistema independente de monitoramento executado nas unidades de processamento de dados BlueField-4. Como funciona em um processador separado daquele usado pelo agente, o Sentry teria uma visão isolada de suas atividades.

O OpenShell havia sido anunciado pela Nvidia em março de 2026. A empresa afirma que a combinação com o Sentry cria uma camada adicional de proteção capaz de monitorar continuamente o comportamento dos agentes e colocar em quarentena, em milissegundos, aqueles que tentarem ultrapassar seus limites.

Anthropic, Arm, Microsoft, Oracle e SpaceX estão entre as empresas que aderiram à iniciativa e ao uso da plataforma de código aberto. A OpenAI não aparece na lista de participantes. Huang disse à CNBC que o trabalho começou há um ano, após a criação do sistema operacional de agentes OpenClaw por Peter Steinberger.

Por que importa: A Nvidia apresenta a contenção de agentes de IA como um problema de engenharia, e não como motivo para desacelerar o desenvolvimento ou criar novas regulações. A estratégia desloca parte da segurança para fora do próprio agente, criando uma fiscalização independente que pode influenciar a forma como empresas implantam sistemas capazes de agir em ambientes reais.

Reportagem original apurada por TechCrunch.