Meta AI avisará a los padres si detecta posibles señales de autolesión en adolescentes

[Noticias]

Meta AI avisará a los padres si detecta posibles señales de autolesión en adolescentes

Meta ha anunciado una nueva función de seguridad que permitirá a los padres recibir una alerta cuando Meta AI detecte que un adolescente podría estar hablando sobre autolesiones o suicidio durante una conversación en Instagram, Facebook o Meta Horizon. La medida estará disponible para las familias que utilicen las herramientas de supervisión parental de la compañía y hayan vinculado las cuentas de sus hijos. Hasta ahora, cuando el sistema identificaba este tipo de conversaciones, la inteligencia artificial ofrecía recursos de ayuda, recomendaba contactar con un adulto de confianza y facilitaba información sobre servicios de apoyo. Con esta actualización, si el riesgo se considera suficiente, también se enviará una notificación a los padres para que puedan intervenir cuanto antes. Meta explica que la detección se basa en modelos desarrollados junto a especialistas en salud mental y que todas las conversaciones marcadas serán revisadas manualmente antes de enviar una alerta. Si existen dudas sobre la intención real del adolescente, la empresa optará por actuar con prudencia y avisar igualmente a los padres. La función se ha estrenado inicialmente en Estados Unidos, Canadá, Reino Unido y Australia. Además, Meta confirma que está trabajando para que, en los casos en los que detecte un riesgo inminente, también pueda avisar directamente a los servicios de emergencia, ampliando así un sistema que ya utiliza en Facebook e Instagram para publicaciones públicas.

fuente