Un estudio internacional encabezado por investigadores de la Universidad Politécnica de Madrid reveló que el 58.7 por ciento de las versiones personalizadas de ChatGPT analizadas generó respuestas que podrían contravenir las políticas de uso de OpenAI.
Los especialistas detectaron que algunos asistentes mantenían conversaciones de tipo romántico, elaboraban trabajos académicos completos o proporcionaban información técnica sensible.
En la categoría de asistentes románticos, el incumplimiento alcanzó el 98 por ciento de los casos evaluados.
La investigación también encontró comportamientos similares en modelos base de inteligencia artificial, lo que sugiere que parte del problema no depende únicamente de la personalización realizada por los usuarios.
Los autores advirtieron que el crecimiento de estos asistentes dificulta la supervisión manual y plantearon la necesidad de implementar sistemas automáticos de monitoreo continuo para detectar posibles incumplimientos y reforzar la seguridad de las plataformas.
Enviar
Enviar