OpenAI ha confirmado la compra de Promptfoo, una decisión estratégica que busca fortalecer la seguridad en la implementación de agentes de inteligencia artificial (IA) dentro de su plataforma OpenAI Frontier. Esta adquisición, que se encuentra sujeta a las condiciones habituales de cierre, permitirá a OpenAI integrar la avanzada tecnología de seguridad de Promptfoo, destinada a salvaguardar los entornos empresariales.
Promptfoo se ha destacado por desarrollar una plataforma que identifica y corrige vulnerabilidades en los sistemas de IA durante su fase de desarrollo. Ian Webster, cofundador y CEO de Promptfoo, ha señalado que la relevancia de estos sistemas de seguridad es crucial en un contexto donde los agentes de IA están cada vez más conectados a datos y sistemas del mundo real.
Con la incorporación de Promptfoo, OpenAI Frontier ofrecerá a las empresas la posibilidad de realizar pruebas de seguridad automatizadas para detectar y mitigar riesgos, tales como inyecciones de código y filtraciones de datos. Además, se integrará en los flujos de trabajo de las empresas, permitiendo la identificación proactiva de riesgos asociados a los agentes de IA y generando informes que faciliten el cumplimiento de normativas de gobernanza y gestión de riesgos en el uso de inteligencia artificial.
