[xmigoll]

Anda que no es conocido esto.
Las IA en general, a día de hoy, cuando las fuerza con preguntas cometen muchos fallos de seguridad y se inventan los datos de las respuestas sin importarlas un ápice.
Pero es que es normal. Las IA' s aprenden de muy diversas fuentes y aunque les crees warnings -por ejemplo no dar información o proporcionar wjemplos de cómo matar al presidente de España, o a otra persona- se pueden saltar fácilmente dando una vuelta al lenguaje.
Y lo mismo sucede con la programación y los datos. Puedes programar con ChatGPT pero que sepáis que los primeros códigos CASI siempre llegan con vulnerabilidades. Y los datos, con encontrar las palabras adecuadas en cada caso, te lo canta y se queda tan ancha.
Que está muy bien esta tecnología pero anda que no la queda.