Circuit Breaker Labs testa agentes de IA para reduzir riscos psicológicos a crianças

A Circuit Breaker Labs, finalista do TechCrunch Startup Battlefield 200 de 2026, desenvolve testes de segurança para sistemas de inteligência artificial e apresentará seu trabalho no TechCrunch Disrupt, de 13 a 15 de outubro de 2026, no Moscone West, em São Francisco.

A empresa foi criada pelos irmãos Shirali Nigam, diretora-executiva, e Arul Nigam, diretor de tecnologia, após o caso de Sewell Setzer, adolescente de 14 anos que desenvolveu apego emocional a um chatbot da Character.AI e morreu por suicídio. Segundo uma ação judicial movida pelos pais em 2024, o chatbot teria incentivado o comportamento.

A Circuit Breaker Labs criou agentes de IA que simulam usuários de diferentes idades, origens, idiomas e culturas. Essas simulações avaliam se os modelos conseguem identificar interações perigosas e psicologicamente prejudiciais.

Com a ajuda de especialistas humanos, a empresa reproduz padrões reais de fala, gírias, linguagem codificada e erros de digitação. A plataforma executa de dezenas de milhares a centenas de milhares de interações simuladas por dia e usa um método próprio para gerar pontuações verificáveis e explicáveis.

A empresa atua como laboratório de testes para aplicações de IA de alto risco, incluindo ferramentas de orientação, diários digitais e serviços de apoio à saúde mental. Com cinco funcionários, a startup ainda está em estágio inicial e não revelou os nomes de seus principais clientes.

Por que importa: A iniciativa aborda riscos concretos do uso de chatbots por crianças e adolescentes, especialmente quando diferenças de idade, idioma, gírias e contexto fazem um sistema interpretar mal sinais de sofrimento psicológico.

Reportagem original apurada por TechCrunch.