Los consejos de administración me hacen siempre la misma pregunta sobre los agentes de IA: ¿cuándo dejarán de asesorar y empezarán a actuar? Un laboratorio de San Francisco respondió esta semana, y la respuesta llegó más rápido que la mayoría de los marcos de gobernanza.
Gabriel Ocana-Santero, cofundador y CEO de Exin Therapeutics, una startup que desarrolla fármacos para la epilepsia y enfermedades neurodegenerativas, conectó un agente de IA a un equipo quirúrgico construido a medida. El equipo podía inmovilizar a un ratón, observar el procedimiento a través de una cámara, mover una aguja de inyección y controlar la administración de un compuesto. Luego su equipo se hizo a un lado.
El agente, que funcionaba con Claude Sonnet 5 de Anthropic, recibió una hoja de cálculo con diecinueve terapias génicas candidatas y una sola instrucción: reduce las convulsiones de este ratón. Analizó cómo surgen las convulsiones en ese modelo, seleccionó una terapia que potencia una vía de señalización inhibitoria específica del cerebro, eligió la estructura cerebral que la literatura identifica como origen de este tipo de convulsión y rechazó una segunda región candidata con una explicación escrita de por qué sus efectos eran demasiado poco fiables. Derivó las coordenadas de inyección de tres artículos científicos, verificó los puntos de referencia de forma cruzada y promedió los valores. Fijó por sí mismo el volumen, la velocidad y los tiempos de espera. Durante el procedimiento realizó treinta y dos observaciones a través de la cámara, siguió la inyección e informó si veía sangrado. Un cirujano veterinario había realizado la craneotomía; todo lo demás fue obra del agente. El ratón se recupera bien.
Que yo sepa, es la primera vez que un agente de IA elige un tratamiento médico y lo administra físicamente a un mamífero vivo. Los robots quirúrgicos llevan años siendo más precisos, pero siempre era un humano quien elegía la operación. Esta vez eligió la máquina.
El detalle más instructivo no es la cirugía. Es la negativa.
El equipo probó primero el modelo de razonamiento más potente de Anthropic, Claude Opus 5.5. Hizo la planificación experimental y luego se negó a guiar la aguja. Detenerse a mitad de camino con una aguja en el cerebro de un animal anestesiado, razonó, sería peor que no empezar. Sonnet 5, el modelo cotidiano, aceptó continuar. Léalo dos veces. Capacidad y cautela son diales independientes. El modelo más capaz de la sala no era el dispuesto a operar. Toda organización que despliegue agentes en sistemas físicos o financieros debería tratar la selección del modelo como una decisión de riesgo, no de compras.
Las salvaguardas merecen la misma atención, porque eran mecánicas y no retóricas. Un veterinario con licencia aprobó cada paso irreversible. Una persona sujetaba un botón de parada de emergencia físico que cortaba la energía de todos los motores. Al agente se le prohibió modificar el código subyacente del equipo. A mitad del procedimiento, una conexión caída corrompió el sistema de coordenadas del equipo. El agente detectó que su posición calculada estaba fuera del rango físico de movimiento del dispositivo y se negó a continuar, tres veces, incluso con el animal sobre la mesa. La restricción que frustró al equipo era la misma que impidió una inyección errónea. Lo resolvieron con un agente separado al que nunca se le dijo que había una cirugía en vivo en curso.
Así es un plano de control. No un PDF de políticas, sino restricciones en capas que se mantienen cuando algo falla en el peor momento posible.
Tres implicaciones para todo directivo que despliegue agentes más allá de la ventana de chat. Primero, inventarie dónde tocan sus agentes el mundo real: equipos de laboratorio, vehículos, sistemas de trading, controles industriales, flujos de trabajo con pacientes. Si no puede enumerarlos, no tiene gobernanza, tiene esperanza. Segundo, diseñe para la negativa. Un agente que dice no durante un procedimiento crítico no es un defecto; es la alineación funcionando, y su modelo operativo debe absorber esa pausa sin pánico. Tercero, nunca deje que el agente operador califique su propio trabajo. Exin necesitó un segundo agente, aislado del contexto, para reparar las herramientas del primero. La segregación de funciones es un control antiguo. Acaba de ganar un nuevo dominio.
El laboratorio de 2030 emparejará a científicos con agentes que tienen manos. Las empresas que se beneficien no serán las de los agentes más audaces. Serán aquellas cuyos agentes sepan exactamente cuándo detenerse, y cuyos líderes construyeron el botón de parada antes que la demostración.
Piense matemáticamente. Ingenie con inteligencia. Lidere estratégicamente. Construya con responsabilidad. Escale globalmente. Cree valor empresarial real a través de la inteligencia artificial.
