Los trolls adoptan rápidamente la tecnología de clonación de voz de ElevenLabs

[Noticias]

Los trolls adoptan rápidamente la tecnología de clonación de voz de ElevenLabs

ElevenLabs, una startup de inteligencia artificial que brinda la tecnología de clonación de voz, ha anunciado medidas adicionales para proteger su plataforma. La empresa ha anunciado que impedirá que los usuarios gratuitos creen voces personalizadas y lanzará una herramienta para detectar audio generado por IA. Además, ElevenLabs prohibirá las cuentas que hayan sido denunciadas por crear "contenido dañino". El software de ElevenLabs, que permite clonar la voz de cualquier persona en cuestión de segundos, ha sido adoptado rápidamente por trolls en Internet. Los usuarios de 4chan han acudido en masa a la plataforma gratuita de síntesis de voz de ElevenLabs, utilizando la tecnología para clonar las voces de celebridades y leer en voz alta audios que van desde memes y contenido erótico hasta discursos de odio y desinformación. La falsificación de voces con inteligencia artificial ha mejorado significativamente en los últimos años, pero el software de ElevenLabs, que parece haber abierto el acceso general durante el fin de semana, ofrece una potente combinación de velocidad, calidad y disponibilidad, así como una falta total de medidas de protección.

fuente