TikTok desarrolla IA para clonar voces en 10 segundos: ¿innovación o riesgo?

**Noticias** · #1 23/04/24, 22:00:02

TikTok está desarrollando una nueva función de inteligencia artificial que permitirá clonar la voz de los usuarios en solo 10 segundos, según revelaciones del filtrador AssembleDebug. Esta característica, aún en fase beta para dispositivos Android, ha generado un intenso debate sobre las implicaciones éticas y de privacidad que podría acarrear, especialmente por el potencial uso indebido para crear deepfakes. La nueva función, que aún no tiene un nombre oficial, forma parte de lo que se denomina "Biblioteca de voz de TikTok". Según los detalles filtrados, los usuarios podrán utilizar esta herramienta para aplicar una versión sintética de su voz en los vídeos que publiquen en la plataforma, simplemente escribiendo el texto que deseen narrar. Este proceso promete ser rápido y sencillo, requiriendo solo una breve grabación de voz de 10 segundos para generar la copia digital. Sin embargo, hay preocupaciones significativas sobre cómo se manejará y protegerá el uso de estas voces clonadas. Los términos de uso sugieren que, aunque TikTok intentará minimizar el riesgo de mal uso, no puede garantizar completamente que las voces no sean utilizadas de manera inapropiada o sin el consentimiento del usuario original. Incluso, estas voces podrían estar disponibles para otros usuarios de TikTok a través de la mencionada biblioteca. Este avance tecnológico plantea un dilema sobre la delgada línea entre la innovación en la creación de contenido y los derechos de privacidad de los usuarios, especialmente en un entorno tan dinámico y ampliamente utilizado como TikTok.

fuente