Clonación de Voces - Precaución Necesaria

OpenAI limita la liberación de Voice Engine, una herramienta capaz de clonar voces con solo 15 segundos de audio, por riesgos de desinformación   
   
OpenAI ha desarrollado Voice Engine, una herramienta innovadora capaz de clonar cualquier voz a partir de solo 15 segundos de audio grabado. Sin embargo, la organización ha decidido restringir su liberación general debido al alto riesgo de propagación de desinformación dañina, especialmente relevante en un año plagado de elecciones en todo el mundo. Aunque el potencial benéfico de esta tecnología es inmenso, permitiendo aplicaciones revolucionarias en campos como la educación y la salud, OpenAI elige avanzar con precaución para proteger contra el abuso potencial de esta poderosa herramienta de IA.    

La precaución supera la innovación en esta decisión   
   
Voice Engine, introducido en 2022 y nunca revelado al público en su total capacidad, tiene aplicaciones transformadoras. Age of Learning, una empresa de tecnología educativa, lo utiliza para crear voz en off guionizadas, mientras que HeyGen permite a los usuarios generar traducciones de contenido grabado, preservando el acento y la voz originales del hablante. Además, en un avance médico sobresaliente, investigadores del Norman Prince Neurosciences Institute usaron un clip de baja calidad de 15 segundos para "restaurar la voz" de una joven que la había perdido debido a un tumor cerebral vascular, demostrando la capacidad de esta tecnología para cambiar vidas significativamente. 
   
No obstante, los peligros de esta herramienta son igualmente significativos. A pesar de su simplicidad técnica y la mínima cantidad de audio original requerido para generar un clon convincente, los competidores ya están ofreciendo herramientas similares al público. Esto plantea riesgos notables para la seguridad y la privacidad, incluyendo la posibilidad de estafas de extorsión dirigidas a familias y pequeñas empresas, campañas electorales falsas que benefician a actores malintencionados y el uso indebido de las voces de profesionales creativos de una manera que podría comprometer su reputación y sus medios de vida. Ante estos desafíos, OpenAI sugiere medidas proactivas como eliminar la autenticación basada en voz para el acceso a cuentas bancarias y otras informaciones sensibles, explorar políticas para proteger el uso de las voces individuales en la IA, y educar al público sobre las capacidades y limitaciones de estas tecnologías. 
   
Mirando hacia el futuro y otros casos similares, vemos ejemplos internacionales como el uso de una aplicación de IA similar en Yiwu, China, para interactuar con comerciantes extranjeros en 36 idiomas diferentes. Este uso temprano destaca el impacto económico positivo y la adopción temprana de tecnologías de clonación de voz. Estos avatares digitales y anfitriones de transmisión en vivo impulsados por IA representan un nuevo modelo económico, señalando un cambio significativo en cómo la tecnología de vanguardia puede apoyar y transformar la economía real. A medida que avanzamos, la implementación cuidadosa y la consideración ética serán clave para asegurar que los beneficios de tales tecnologías superen los riesgos potenciales. 

🎧 Recomiendo el pódcast El Siglo 21 es Hoy para explorar más sobre estos temas en ElSiglo21esHoy.com. 

📚 Bibliografía:

• "OpenAI deems its voice cloning tool too risky for general release" en The Guardian [https://www.theguardian.com/technology/2024/mar/31/openai-deems-its-voice-cloning-tool-too-risky-for-general-release]
• "Is OpenAI Voice Engine Adding Value or Creating More Societal Risks?" en Forbes [https://www.forbes.com/sites/cindygordon/2024/03/31/is-openai-voice-engine-adding-value-or-creating-more-societal-risks/?sh=4d57e9d07e1a]
• "OpenAI unveils Voice Engine tool in Yiwu, China adopts similar AI application" en Global Times [https://www.globaltimes.cn/page/202403/1309855.shtml]
• "OpenAI offers limited access to its voice generation AI model" en The Verge [https://www.theverge.com/2024/3/29/24115701/openai-voice-generation-ai-model]
• "OpenAI previews custom Voice Engine, highlights responsible development" en TechCrunch [https://techcrunch.com/2024/03/29/openai-custom-voice-engine-preview/]

Conviértete en un seguidor de este podcast: https://www.spreaker.com/podcast/flash-diario-de-el-siglo-21-es-hoy--5835407/support.

Flash Diario es un informativo de El Siglo 21 es Hoy
Suscríbete gratis en:
➜ YouTube ⬅︎
➜ Spotify ⬅︎
➜ Apple Podcasts ⬅︎
➜ Google News 📰 ⬅︎

April 01, 2024 at 02:00AM