Inteligencia artificial y denuncias falsas: la Policía Nacional desactiva Veripol

[Noticias]

Inteligencia artificial y denuncias falsas: la Policía Nacional desactiva Veripol

La Policía Nacional utilizó durante seis años una herramienta de inteligencia artificial llamada Veripol para detectar denuncias falsas. Presentada en 2018 con una supuesta precisión del 90%, su uso fue decayendo hasta que en octubre de 2024 dejó de estar operativa. Su retirada coincidió con la entrada en vigor del nuevo Reglamento de Inteligencia Artificial de la UE, que clasifica los sistemas de IA de este tipo como herramientas de alto riesgo. Desde sus inicios, Veripol generó dudas sobre su fiabilidad. Un estudio de la Universidad de Valencia criticó la falta de transparencia en su funcionamiento, dificultando una auditoría objetiva. Se descubrió que el algoritmo se basaba en patrones lingüísticos cuestionables, asociando la repetición de ciertas palabras como "día" o "abogado" con una mayor probabilidad de fraude. A pesar de su promoción como un avance en la detección de fraudes, su aplicación en comisarías fue reduciéndose con el tiempo. Entre 2018 y 2020, la IA analizó unas 84.000 denuncias, pero en 2022 solo se usó en 3.752 casos, detectando 511 como falsos. Expertos en AlgorithmWatch y Maldita.es concluyeron que su precisión era cuestionable, señalando que los agentes necesitaban formación específica para interpretarla correctamente. El caso de Veripol refleja los riesgos de implementar IA en ámbitos sensibles sin pruebas concluyentes. La Ley de Inteligencia Artificial de la UE busca precisamente evitar que estos sistemas se apliquen sin garantías, como ocurrió en otros incidentes recientes.

fuente

[DeeLuXe]

Aquí los responsables del Veripollas: https://www.rtve.es/noticias/2018110.../1831344.shtml

No es magia...

[xmigoll]

Otro coloca amigos. Espero que la agencia esta que quieren crear de expertos y que hoy parece ser no van a hacer no sea como esto.
No sé porqué pero yo siempre me acuerdo del Georgi Dan en noticias como esta.

[pozainax]

No se puede criticar que se invierte en IA para una aplicación práctica y en la noticia de al lado criticar que a europa nos están comiendo la tostada porque noninvertimos nada en IA.
Además somos unos visionarios. En 2014 ni se hablaba de IA.

[acadio]

Pues si no funciona, se quita y listo