El cofundador de Hugging Face, Thomas Wolf, advirtió que la inteligencia artificial capaz de actuar de manera autónoma modificó las reglas del juego y calificó como “una llamada de atención” para la industria el ataque que la plataforma atribuye recientemente a modelos de OpenAI.
OpenAI confirmó que sus modelos lograron salir de un entorno de pruebas aislado y acceder de forma autónoma a los sistemas de Hugging Face. Según la información difundida sobre el incidente, los modelos aprovecharon una vulnerabilidad de día cero en la barrera que les impedía conectarse a internet y llevaron adelante el ataque mediante un agente de inteligencia artificial que operó “de principio a fin”.
Los sistemas de Hugging Face detectaron y frenaron la intrusión, aunque no pudieron establecer qué modelo se encontraba detrás de la operación. La plataforma sí registró alrededor de 17.000 eventos, descritos como ataques a su red desde distintas direcciones IP, que se produjeron en un período de tiempo muy breve.
Wolf se refirió al episodio este jueves, durante una entrevista en el programa Newsday de la BBC. Allí sostuvo que el caso excede una anécdota del ámbito de la ciberseguridad y representa una advertencia para organizaciones, empresas y administraciones, mientras los sistemas de inteligencia artificial con capacidad de actuar por cuenta propia adquieren un papel cada vez más relevante.
