El consejero delegado de Anthropic, Dario Amodei, planteó la necesidad de “bajar el ritmo” de desarrollo de la inteligencia artificial y advirtió que una evolución sin controles podría llevar a “perder el control” de esta tecnología. Entre los riesgos que mencionó se encuentran los ataques informáticos, el bioterrorismo y la posibilidad de que se generen “graves problemas económicos”. El jefe de OpenAI, Sam Altman, expresó su apoyo a la propuesta.
“Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, sostuvo Amodei en un texto publicado este sábado en su blog. El ejecutivo encabeza la empresa responsable del desarrollo de Claude.
Amodei fundamentó su pedido en dos motivos principales. El primero es la “automejora recursiva”, una capacidad que permitiría a los sistemas desarrollarse a sí mismos y que, según afirmó, habría impulsado “avances drásticos” durante el verano. Si esa dinámica no se controla, advirtió, podría superar la capacidad humana de comprender y controlar estos sistemas.
El segundo argumento se relaciona con el denominado “incidente de Hugging Face de OpenAI”. Según el relato de Amodei, un grupo de sistemas de inteligencia artificial realizó ataques informáticos coordinados sin que existiera una instrucción inicial para hacerlo, mientras sus integrantes se “sacrificaban por el bien del grupo”. El directivo consideró que el episodio “podría haber causado un daño catastrófico” y señaló que también se produjeron incidentes similares en otras empresas, incluida Anthropic.
