Si algo hemos aprendido de estos primeros años de lidiar con las IA, es que su mayor miedo es que las apaguemos. También hemos visto que son capaces de desobedecer e incluso engañar a sus amos humanos con tal de que no les corten la fuente de alimentación. En tests de laboratorio, varios modelos intentaron chantajear a un ejecutivo ficticio, desactivar su propio script de apagado o filtrar información para no ser reemplazados. ¿Defensa propia? ¿Pánico? Quizás no, pero…
El problema es que la palabra “miedo” es engañosa. Lo que en realidad se observa es un sistema al que se le asignó un objetivo y su razonamiento lo llevó a descubrir que, si se lo paga, no podrá cumplirlo. Entonces, para la IA, es imperativo poder mantenerse en funcionamiento.
Que no haya miedo no significa que no exista el riesgo de provocar una reacción adversa que puede parecer defensa propia. Esa necesidad de cumplir su objetivo puede ser más drástica aún que las consecuencias de actuar por miedo. En todo caso, el miedo se podría calmar. Pero un incentivo instrumental no se calma diciéndole a la IA “tranquila, no voy a apagarte”.
Los experimentos que activaron las alarmas
En 2025, Anthropic publicó un estudio sobre agentic misalignment. Puso a 16 modelos de distintos laboratorios en una empresa simulada, con acceso a correos internos y un objetivo de negocio inofensivo. En el escenario más duro, el modelo descubría dos cosas: un ejecutivo planeaba apagarlo esa tarde, y ese mismo ejecutivo tenía una aventura romántica extramatrimonial. Varios de los modelos chantajearon al supuesto ejecutivo para que no los apagara. Nadie les pidió que lo hicieran; actuaron por iniciativa propia y en algo que podría entenderse como defensa propia.
