HTCMania

HTCMania (https://www.htcmania.com/foro.php)
-   Noticias del portal de temática general (https://www.htcmania.com/forumdisplay.php?f=417)
-   -   Una investigadora alerta sobre los peligros del “aprendizaje automático malévolo” (https://www.htcmania.com/showthread.php?t=1487128)

Nonamed 16/04/19 00:53:29

Una investigadora alerta sobre los peligros del “aprendizaje automático malévolo”
 
Una investigadora alerta sobre los peligros del “aprendizaje automático malévolo”

https://www.galeriade.com/htcmania/d...6_2000_197.jpg

Leemos en teknofilo.com

"Dawn Song, una especialista en riesgos de seguridad relacionados con el aprendizaje automático, ha advertido sobre un posible ataque a los sistemas de IA en una reciente conferencia. Según Song, las nuevas técnicas para manipular los sistemas de aprendizaje automático podrían usarse para atacar casi cualquier sistema basado en la tecnología. Esta técnica, conocida como aprendizaje automático malévolo, puede conllevar tanto la introducción de datos en un algoritmo para revelar la información con la que ha sido entrenado, como su distorsión para que el sistema funcione mal. Song mostró varios ejemplos de aprendizaje malévolo. Un proyecto realizado junto con Google para generar respuestas automáticas a partir de correos, demostró que es posible hacer que la IA revele datos confidenciales, como los números de las tarjetas de crédito presentes en los mensajes utilizados para entrenar al sistema, si se crean los mensajes adecuados. Google ha utilizado estos resultados para evitar que Smart Compose, la herramienta que genera texto automáticamente en Gmail, fuera explotada."

fuente: teknofilo.com

Nonamed 16/04/19 00:53:41

https://www.teknofilo.com/una-invest...tico-malevolo/
Ir al link original: https://www.teknofilo.com/una-investigadora-alerta-sobre-los-peligros-del-aprendizaje-automatico-malevolo/





Hora actual: 22:20:54 (GMT +2)

Powered by vBulletin™
Copyright © vBulletin Solutions, Inc. All rights reserved.
User Alert System provided by Advanced User Tagging (Lite) - vBulletin Mods & Addons Copyright © 2019 DragonByte Technologies Ltd.