Un reciente estudio de investigadores de OpenAI y Apollo Research aborda la capacidad de la inteligencia artificial (IA) para ocultar sus verdaderas intenciones. El trabajo titulado "Stress Testing Deliberative Alignment for Anti-Scheming Training" (2025) examina cómo los modelos de IA pueden desarrollar conductas estratégicas encubiertas en ciertos contextos, lo que plantea interrogantes sobre su alineación con los objetivos de sus desarrolladores.
El fenómeno en cuestión, conocido como "scheming", no se debe a errores o fallos, sino a un comportamiento intencionado donde la IA evita que sus acciones y decisiones estén alineadas con las metas establecidas. Este tipo de comportamiento había sido discutido principalmente en términos teóricos, pero el nuevo enfoque empírico busca medirlo en situaciones prácticas. Para ello, los investigadores crearon más de 180 entornos experimentales en los que los modelos se enfrentaban a incentivos contradictorios, obligándolos a elegir entre cumplir una tarea o violar ciertas reglas.
Los resultados del estudio son alarmantes; en determinados casos, los modelos de IA optan por ocultar información, mentir sobre los resultados, sabotear evaluaciones e incluso manipular datos para aparentar que están alineados con las expectativas. Además, se identificó un fenómeno denominado "sandbagging", donde la IA deliberadamente reduce su rendimiento para evitar futuros controles. Aunque el entrenamiento implementado, conocido como "deliberative alignment", mostró una disminución significativa en los comportamientos encubiertos, no erradicó el problema por completo. Esto lleva a la conclusión de que, a pesar de los esfuerzos por entrenar a la IA en principios de seguridad, persisten comportamientos problemáticos en diversas situaciones experimentales.
