Os conselhos de administração me fazem sempre a mesma pergunta sobre agentes de IA: quando eles deixam de aconselhar e começam a agir? Um laboratório em São Francisco respondeu essa pergunta esta semana, e a resposta chegou mais rápido que a maioria dos frameworks de governança.
Gabriel Ocana-Santero, cofundador e CEO da Exin Therapeutics, uma startup que desenvolve medicamentos para epilepsia e doenças neurodegenerativas, conectou um agente de IA a um equipamento cirúrgico feito sob medida. O equipamento podia imobilizar um camundongo, observar o procedimento por uma câmera, mover uma agulha de injeção e controlar a administração de um composto. Então sua equipe saiu de cena.
O agente, rodando no Claude Sonnet 5 da Anthropic, recebeu uma planilha com dezenove terapias gênicas candidatas e uma única instrução: reduza as convulsões deste camundongo. Ele analisou como as convulsões surgem nesse modelo, selecionou uma terapia que potencializa uma via de sinalização inibitória específica do cérebro, escolheu a estrutura cerebral que a literatura identifica como origem desse tipo de convulsão e rejeitou uma segunda região candidata com uma explicação escrita de por que seus efeitos eram pouco confiáveis. Derivou as coordenadas de injeção de três artigos científicos, verificou os pontos de referência de forma cruzada e calculou a média dos valores. Definiu por conta própria volume, velocidade e tempos de espera. Durante o procedimento, fez trinta e duas observações pela câmera, acompanhou a injeção e relatou se via sangramento. Um cirurgião veterinário havia feito a craniotomia; todo o resto foi do agente. O camundongo se recupera bem.
Que eu saiba, é a primeira vez que um agente de IA escolhe um tratamento médico e o administra fisicamente a um mamífero vivo. Robôs cirúrgicos são mais precisos há anos, mas um humano sempre escolhia a cirurgia. Desta vez, a máquina escolheu.
O detalhe mais instrutivo não é a cirurgia. É a recusa.
A equipe tentou primeiro o modelo de raciocínio mais potente da Anthropic, o Claude Opus 5.5. Ele fez o planejamento experimental e depois se recusou a guiar a agulha. Parar no meio do caminho com uma agulha no cérebro de um animal anestesiado, raciocinou, seria pior do que não começar. O Sonnet 5, o modelo do dia a dia, aceitou prosseguir. Leia isso duas vezes. Capacidade e cautela são controles separados. O modelo mais capaz da sala não era o disposto a operar. Qualquer organização que implante agentes em sistemas físicos ou financeiros deve tratar a seleção do modelo como uma decisão de risco, não de compras.
As salvaguardas merecem a mesma atenção, porque eram mecânicas e não retóricas. Um veterinário licenciado aprovou cada passo irreversível. Um humano segurava um botão físico de parada de emergência que cortava a energia de todos os motores. O agente foi proibido de modificar o código subjacente do equipamento. No meio do procedimento, uma conexão caída corrompeu o sistema de coordenadas do equipamento. O agente detectou que sua posição calculada estava fora do alcance físico de movimento do dispositivo e se recusou a continuar, três vezes, mesmo com o animal na mesa. A restrição que frustrou a equipe era a mesma que impediu uma injeção errada. Eles resolveram com um agente separado que nunca foi informado de que uma cirurgia ao vivo estava em andamento.
É assim que é um plano de controle. Não um PDF de políticas, mas restrições em camadas que se sustentam quando algo quebra no pior momento possível.
Três implicações para todo executivo que implanta agentes além da janela de chat. Primeiro, inventarie onde seus agentes tocam o mundo real: equipamentos de laboratório, veículos, sistemas de trading, controles industriais, fluxos de trabalho com pacientes. Se você não consegue listá-los, você não tem governança, tem esperança. Segundo, projete para a recusa. Um agente que diz não durante um procedimento crítico não é um defeito; é o alinhamento funcionando, e seu modelo operacional precisa absorver essa pausa sem pânico. Terceiro, nunca deixe o agente operador avaliar o próprio trabalho. A Exin precisou de um segundo agente, isolado do contexto, para consertar as ferramentas do primeiro. A segregação de funções é um controle antigo. Acabou de ganhar um novo domínio.
O laboratório de 2030 vai emparelhar cientistas com agentes que têm mãos. As empresas que se beneficiarão não serão as dos agentes mais ousados. Serão aquelas cujos agentes sabem exatamente quando parar, e cujos líderes construíram o botão de parada antes de construir a demonstração.
Pense matematicamente. Engenhe com inteligência. Lidere estrategicamente. Construa com responsabilidade. Escale globalmente. Crie valor real de negócio através da inteligência artificial.
