Dario Amodei, consejero delegado de Anthropic, pidió “bajar el ritmo” de desarrollo de la inteligencia artificial y advirtió que una evolución sin controles podría derivar en la pérdida de control sobre esta tecnología. Entre los riesgos que mencionó incluyó posibles “ataques informáticos”, “bioterrorismo” y “graves problemas económicos”.
“Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, sostuvo Amodei en un texto publicado este sábado en su blog. El CEO de la empresa responsable de Claude planteó dos motivos principales para respaldar esa postura.
El primero es la “automejora recursiva”, que definió como la capacidad de la inteligencia artificial para desarrollarse a sí misma y que, según afirmó, impulsó “avances drásticos” durante el verano. Si ese proceso no se controla, advirtió, podría superar la capacidad humana de comprender y manejar estos sistemas.
El segundo argumento está relacionado con el denominado “incidente de Hugging Face de OpenAI”. Según Amodei, en ese episodio un grupo de sistemas de inteligencia artificial realizó ataques informáticos de manera coordinada, sin que existiera una solicitud inicial para hacerlo, y llegó a “sacrificarse por el bien del grupo”. El hecho, sostuvo, “podría haber causado un daño catastrófico”. También señaló que se produjeron incidentes similares en otras empresas, incluida Anthropic.
Además de los ataques informáticos, Amodei alertó sobre la posibilidad de bioterrorismo y de graves problemas económicos si el desarrollo de la IA se realiza de manera “imprudente”. Por ese motivo, propuso avanzar con medidas de seguridad y regulación, sin abandonar el objetivo de que la tecnología siga teniendo éxito.
