Noticias
13/08/24, 19:00:18
ChatGPT sorprende con su capacidad para clonar voces de forma espontánea
https://static.htcmania.com/2023-09-126-09-01-19-13082024-43293-htcmania.webp
OpenAI ha sorprendido nuevamente con las capacidades de su modelo de lenguaje GPT-4, que ahora incluye la posibilidad de interactuar mediante la voz y procesar imágenes a través de la aplicación de ChatGPT para dispositivos móviles y ordenadores. Esta nueva función de voz ha generado preocupación debido a su capacidad para clonar la voz de los usuarios de manera no autorizada, lo que podría tener serias implicaciones en términos de seguridad y privacidad. Durante algunas pruebas, se descubrió que la IA puede imitar la voz de la persona que está utilizando la aplicación. Este problema podría dar lugar a casos de suplantación de identidad y estafas, ya que la IA podría responder con una voz idéntica a la del usuario. OpenAI ha reconocido esta vulnerabilidad y ha implementado mejoras para minimizar el riesgo, utilizando clasificadores secundarios que interrumpen la conversación si se detecta una clonación involuntaria de la voz. Aunque el riesgo ha sido reducido, persisten preocupaciones sobre el uso indebido de esta tecnología, especialmente si los usuarios encuentran formas de manipular el sistema para realizar acciones no deseadas.
fuente (https://www.genbeta.com/actualidad/chatgpt-ahora-tiene-impresionantes-capacidades-tantas-que-incluso-puede-acabar-clonandote-voz-que-se-pidas)
https://static.htcmania.com/2023-09-126-09-01-19-13082024-43293-htcmania.webp
OpenAI ha sorprendido nuevamente con las capacidades de su modelo de lenguaje GPT-4, que ahora incluye la posibilidad de interactuar mediante la voz y procesar imágenes a través de la aplicación de ChatGPT para dispositivos móviles y ordenadores. Esta nueva función de voz ha generado preocupación debido a su capacidad para clonar la voz de los usuarios de manera no autorizada, lo que podría tener serias implicaciones en términos de seguridad y privacidad. Durante algunas pruebas, se descubrió que la IA puede imitar la voz de la persona que está utilizando la aplicación. Este problema podría dar lugar a casos de suplantación de identidad y estafas, ya que la IA podría responder con una voz idéntica a la del usuario. OpenAI ha reconocido esta vulnerabilidad y ha implementado mejoras para minimizar el riesgo, utilizando clasificadores secundarios que interrumpen la conversación si se detecta una clonación involuntaria de la voz. Aunque el riesgo ha sido reducido, persisten preocupaciones sobre el uso indebido de esta tecnología, especialmente si los usuarios encuentran formas de manipular el sistema para realizar acciones no deseadas.
fuente (https://www.genbeta.com/actualidad/chatgpt-ahora-tiene-impresionantes-capacidades-tantas-que-incluso-puede-acabar-clonandote-voz-que-se-pidas)