En un giro inesperado durante la conferencia Microsoft Ignite de este año, la compañía presentó dos innovadoras herramientas de inteligencia artificial: Azure AI Speech Text to Speech Avatar y Personal Voice. La función Azure AI Speech Text to Speech Avatar permite a los usuarios crear avatares fotorrealistas que pronuncien guiones cargados por los usuarios. Esta característica, actualmente en versión de prueba pública, utiliza imágenes de una persona para generar un avatar animado que “lee” el guion en voz alta. Aunque esta herramienta ofrece un potencial creativo significativo, plantea preocupaciones éticas sobre el abuso y la creación de contenido falso.
Además, Microsoft ha lanzado Personal Voice: esta herramienta es capaz de replicar la voz de un usuario en segundos con solo un minuto de muestra de audio. Aunque se presenta como una forma de crear asistentes de voz personalizados y narraciones personalizadas, su implementación está restringida por consideraciones éticas, requiriendo el “consentimiento explícito” de los usuarios.
Ambas herramientas, aunque fascinantes en su potencial, plantean preguntas éticas y legales significativas. El uso indebido de tecnologías similares ha llevado a la producción de propaganda y noticias falsas en el pasado, destacando la necesidad de medidas cautelares.
En términos de avatares, Microsoft ha limitado el acceso a avatares personalizados, reconociendo el riesgo de mal uso. La compañía también ha implementado salvaguardias adicionales para Personal Voice, asegurando que los usuarios den su consentimiento explícito antes de sintetizar sus voces. Estos desarrollos son un recordatorio de la creciente intersección entre la tecnología y la ética, y cómo las empresas deben abordar cuidadosamente la implementación de herramientas de inteligencia artificial para evitar abusos y proteger la integridad de la información y la identidad personal.
***
NANI?, un vlog donde discutiremos los temas centrales de la agenda del entretenimiento audiovisual asiático, principalmente de la industria japonesa. No te lo pierdas en nuestro canal de YouTube.
