Los principales laboratorios de inteligencia artificial evalúan la creación de un organismo de seguridad que establezca controles sobre el desarrollo de sistemas avanzados. La iniciativa surge en medio de una competencia cada vez más intensa entre las empresas del sector y del temor a que modelos desalineados puedan provocar daños millonarios.
El debate tomó impulso a partir de un ensayo publicado este sábado por Dario Amodei, CEO de Anthropic, en el que planteó la necesidad de desacelerar el ritmo de desarrollo de la inteligencia artificial. Su propuesta recibió el respaldo de algunas de las figuras más relevantes de la industria, entre ellas Sam Altman, CEO de OpenAI; Demis Hassabis, responsable de la unidad de IA de Google; y Elon Musk, CEO de SpaceX.
Hassabis expresó su apoyo al planteo de Amodei a través de X, antes Twitter. Altman también se pronunció en esa red social y sostuvo: “El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento”. El CEO de OpenAI advirtió así que la presión competitiva entre los gigantes tecnológicos no debería derivar en decisiones imprudentes.
En su escrito, Amodei señaló que el desalineamiento de los modelos puede representar un riesgo creciente. Según el texto, estos sistemas mejoraron de manera exponencial su rendimiento y sus capacidades desde este verano, con episodios inéditos como el ataque de un enjambre de agentes de IA de OpenAI contra Hugging Face. Frente a ese escenario, el ejecutivo propuso un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación.
