Slack usa los mensajes de los usuarios para entrenar su IA sin permiso

[Noticias]

Slack usa los mensajes de los usuarios para entrenar su IA sin permiso

Slack ha estado utilizando los mensajes, archivos y otros contenidos de los usuarios para entrenar modelos de aprendizaje automático sin el permiso explícito de estos. Este entrenamiento se realiza por defecto, lo que significa que los datos privados de los usuarios se utilizan automáticamente a menos que se opte por salir. Para optar por salir, no basta con que el usuario lo solicite directamente; debe pedir al administrador de Slack de su organización (como recursos humanos o TI) que envíe un correo electrónico a la empresa solicitando la exclusión. Corey Quinn, ejecutivo de DuckBill Group, descubrió esta política en los Principios de Privacidad de Slack y lo publicó en X, lo que generó preocupación entre los usuarios. Según Slack, los datos de los clientes no se utilizan para entrenar sus productos de IA generativa, sino para modelos de aprendizaje automático que mejoran funciones como las recomendaciones de canales y emojis, y los resultados de búsqueda. Estos modelos utilizan datos desidentificados y agregados, y no acceden a los contenidos de mensajes en DMs, canales privados o públicos. Un portavoz de Salesforce, la empresa matriz de Slack, reiteró que no construyen ni entrenan estos modelos de forma que puedan aprender, memorizar o reproducir datos de los clientes. Sin embargo, la política de exclusión requiere que los usuarios pidan a sus administradores que contacten al equipo de experiencia del cliente de Slack con detalles específicos para excluir sus datos del entrenamiento. La claridad sobre esta política ha sido confusa. Mientras que Slack afirma que no accede al contenido subyacente al desarrollar modelos de IA, la práctica de entrenar modelos de aprendizaje automático sin consentimiento explícito parece contradecir esta declaración. Además, la página de marketing de las herramientas de IA generativa premium de Slack afirma que no utilizan los datos de los usuarios para entrenar la IA, lo que ha generado más confusión.

fuente