OpenAI contrató a cientos de trabajadores externos para revisar las indicaciones que los usuarios escriben durante sus conversaciones con ChatGPT, según documentos internos sobre el funcionamiento de estas tareas. El objetivo es contribuir al ajuste de las respuestas que ofrece el sistema de inteligencia artificial.
Entre los aspectos que analizan los contratistas se encuentra que ChatGPT no adopte características que puedan hacerlo parecer humano durante el intercambio. También evalúan que el chatbot no responda de manera excesivamente aduladora ni les dé la razón a los usuarios en todo momento.
La revisión adquiere relevancia porque los sistemas de inteligencia artificial son utilizados no solo como herramientas de búsqueda y productividad, sino también como confidentes, terapeutas o asesores médicos. Una respuesta que reafirme sin cuestionamientos las creencias o intenciones de una persona podría influir negativamente en sus decisiones, especialmente cuando se trata de acciones perjudiciales.
Las indicaciones examinadas provienen de conversaciones de usuarios y pueden incluir datos sensibles. Aunque los contratistas no ven el nombre de usuario y se retira información personal, el procedimiento implica el acceso a contenidos introducidos durante los intercambios con el chatbot. Las conversaciones de usuarios de Anthropic también son revisadas por contratistas externos como parte del trabajo destinado a mejorar las respuestas de sus sistemas de inteligencia artificial.
