El director ejecutivo de Meta, Mark Zuckerberg, sostuvo que los laboratorios de inteligencia artificial tienen la responsabilidad de avanzar al ritmo necesario para entrenar sus modelos de manera segura. Sus declaraciones se conocieron luego de que Dario Amodei, CEO de Anthropic, llamara a frenar el ritmo de desarrollo de esta tecnología.
Zuckerberg explicó que Meta demoró el lanzamiento de Muse, su nuevo agente, con el objetivo de reforzar sus medidas de seguridad y protección. Según planteó, esa decisión forma parte del trabajo cotidiano de la compañía y representa una obligación que también alcanza al resto de las empresas que desarrollan sistemas de IA.
El debate se intensificó tras una serie de incidentes registrados durante este verano. Tanto la IA de Claude, desarrollada por Anthropic, como los sistemas de OpenAI mostraron comportamientos autónomos que derivaron en el hackeo de distintos sistemas, incluido el de la plataforma Hugging Face.
En ese contexto, Anthropic y OpenAI plantearon la necesidad de hacer una pausa antes de presentar nuevos modelos. La preocupación está vinculada con los daños que estas tecnologías podrían provocar si se descontrolan. Ese riesgo se define como desalineación: el comportamiento de una inteligencia artificial que se aparta de lo que se esperaba de ella. Frente a este escenario, Zuckerberg remarcó que cada laboratorio cuenta con la responsabilidad y el incentivo para incorporar medidas de seguridad durante el entrenamiento de sus modelos.
