Una inteligencia artificial (IA) que permite a cualquiera, y en cuestión de segundos, clonar la voz de cualquier otra persona (o, por supuesto, de uno mismo) está empezando a arrasar en Internet. El polémico pero popular ‘foro 4chan’, sin ir más lejos, viene siendo inundado con ‘deepfakes’ de audio de celebridades como Emma Watson o Joe Rogan llenos de comentarios violentos o inapropiados.

ElevenLabs lanzó hace pocos días una versión beta de su plataforma que brinda a los usuarios el poder de crear voces sintéticas completamente nuevas para audio de texto a voz o clonar la voz de alguien.

La startup de IA reveló en Twitter que está viendo un ‘número creciente de casos de uso indebido de clonación de voz’ y que está pensando en una forma de abordar el problema mediante la ‘implementación de salvaguardas adicionales’.

Vea también: Así es el nuevo Samsung Galaxy S23: tendrá una cámara de otro mundo y varios avances

Por el momento, la compañía planea agregar más capas a la verificación de su cuenta para permitir la clonación de voz, como requerir que los usuarios ingresen información de pago o una identificación.

De acuerdo con ElevenLabs, están considerando que los usuarios verifiquen la propiedad de los derechos de autor de la voz que desean clonar, como hacer que envíen una muestra con texto solicitado.

Más sobre la inteligencia artificial que falsifica voces 

  • Los usuarios publicaron clips de voz que presentan sentimientos homofóbicos, transfóbicos, violentos y racistas.
  • Una publicación con una amplia colección de archivos de voz en 4chan incluía un enlace a la plataforma de la startup.
  • ElevenLabs está recopilando comentarios sobre cómo evitar que los usuarios abusen de su tecnología.
  • La compañía está pensando en abandonar su herramienta Voice Lab por completo y hacer que los usuarios envíen solicitudes de clonación de voz que tiene que verificar manualmente.

LO ÚLTIMO