Noticias
20/03/25, 21:00:29
Inteligencia artificial y denuncias falsas: la Policía Nacional desactiva Veripol
https://static.htcmania.com/2023-09-126-09-01-19-20032025-47950-htcmania.webp
La Policía Nacional utilizó durante seis años una herramienta de inteligencia artificial llamada Veripol para detectar denuncias falsas. Presentada en 2018 con una supuesta precisión del 90%, su uso fue decayendo hasta que en octubre de 2024 dejó de estar operativa. Su retirada coincidió con la entrada en vigor del nuevo Reglamento de Inteligencia Artificial de la UE, que clasifica los sistemas de IA de este tipo como herramientas de alto riesgo. Desde sus inicios, Veripol generó dudas sobre su fiabilidad. Un estudio de la Universidad de Valencia criticó la falta de transparencia en su funcionamiento, dificultando una auditoría objetiva. Se descubrió que el algoritmo se basaba en patrones lingüísticos cuestionables, asociando la repetición de ciertas palabras como "día" o "abogado" con una mayor probabilidad de fraude. A pesar de su promoción como un avance en la detección de fraudes, su aplicación en comisarías fue reduciéndose con el tiempo. Entre 2018 y 2020, la IA analizó unas 84.000 denuncias, pero en 2022 solo se usó en 3.752 casos, detectando 511 como falsos. Expertos en AlgorithmWatch y Maldita.es concluyeron que su precisión era cuestionable, señalando que los agentes necesitaban formación específica para interpretarla correctamente. El caso de Veripol refleja los riesgos de implementar IA en ámbitos sensibles sin pruebas concluyentes. La Ley de Inteligencia Artificial de la UE busca precisamente evitar que estos sistemas se apliquen sin garantías, como ocurrió en otros incidentes recientes.
fuente (https://www.xataka.com/robotica-e-ia/policia-nacional-llevaba-seis-anos-usando-ia-para-detectar-denuncias-falsas-su-fiabilidad-real-era-muy-discutible)
https://static.htcmania.com/2023-09-126-09-01-19-20032025-47950-htcmania.webp
La Policía Nacional utilizó durante seis años una herramienta de inteligencia artificial llamada Veripol para detectar denuncias falsas. Presentada en 2018 con una supuesta precisión del 90%, su uso fue decayendo hasta que en octubre de 2024 dejó de estar operativa. Su retirada coincidió con la entrada en vigor del nuevo Reglamento de Inteligencia Artificial de la UE, que clasifica los sistemas de IA de este tipo como herramientas de alto riesgo. Desde sus inicios, Veripol generó dudas sobre su fiabilidad. Un estudio de la Universidad de Valencia criticó la falta de transparencia en su funcionamiento, dificultando una auditoría objetiva. Se descubrió que el algoritmo se basaba en patrones lingüísticos cuestionables, asociando la repetición de ciertas palabras como "día" o "abogado" con una mayor probabilidad de fraude. A pesar de su promoción como un avance en la detección de fraudes, su aplicación en comisarías fue reduciéndose con el tiempo. Entre 2018 y 2020, la IA analizó unas 84.000 denuncias, pero en 2022 solo se usó en 3.752 casos, detectando 511 como falsos. Expertos en AlgorithmWatch y Maldita.es concluyeron que su precisión era cuestionable, señalando que los agentes necesitaban formación específica para interpretarla correctamente. El caso de Veripol refleja los riesgos de implementar IA en ámbitos sensibles sin pruebas concluyentes. La Ley de Inteligencia Artificial de la UE busca precisamente evitar que estos sistemas se apliquen sin garantías, como ocurrió en otros incidentes recientes.
fuente (https://www.xataka.com/robotica-e-ia/policia-nacional-llevaba-seis-anos-usando-ia-para-detectar-denuncias-falsas-su-fiabilidad-real-era-muy-discutible)