YouTube ha anunciado el desarrollo de nuevas herramientas avanzadas para frenar el uso no autorizado de inteligencia artificial (IA) que manipule la imagen, voz y características de celebridades, creadores de contenido y figuras públicas. Estas medidas, que estarán disponibles en 2025, permitirán a los afectados detectar y eliminar contenido generado por IA sin su permiso, reforzando la privacidad digital en la plataforma.
El proyecto se llevará a cabo inicialmente en colaboración con la Agencia de Artistas Creativos (CAA), que jugará un papel fundamental en esta iniciativa. CAA, conocida por su herramienta CAAVault, escanea y almacena imágenes digitales de sus clientes, lo que facilita la identificación de contenido manipulado. Gracias a esta tecnología, celebridades y deportistas podrán identificar material en línea que use sus rostros, voces u otras características sin autorización. La función se lanzará en un plan piloto con figuras públicas y se expandirá posteriormente a creadores destacados en YouTube.
Además de estas herramientas, YouTube está desarrollando una nueva función llamada “identificación de canto sintético”, diseñada para detectar el uso de IA en la replicación de voces de creadores en canciones. Las discográficas ya pueden solicitar la eliminación de este tipo de contenido, y YouTube exige que los creadores etiqueten videos generados por IA desde principios de 2024.
Este avance refuerza el compromiso de YouTube con la protección de los derechos de imagen y la privacidad de sus usuarios, mientras enfrenta los desafíos legales y éticos derivados del uso de IA en la creación de contenido. Uno de los principales retos será equilibrar la privacidad con la libertad de expresión, especialmente en casos de parodias o sátiras. Las políticas de YouTube evaluarán las solicitudes de eliminación considerando factores como la autenticidad del contenido, su relevancia pública y su posible impacto en la opinión pública, en especial en contextos políticos o comerciales.
El movimiento de YouTube forma parte de una estrategia más amplia para manejar de manera responsable la inteligencia artificial en plataformas digitales. Además, la compañía ha lanzado otras iniciativas de seguridad como el "código parental" para proteger a los menores de contenido no adecuado y la aplicación YouTube Kids, que ofrece material educativo y seguro para niños con opciones personalizables para los padres.
Con estas medidas, YouTube se posiciona como líder en la lucha por un entorno digital más seguro y consciente de los avances tecnológicos, dejando un precedente para otras plataformas frente a los retos que presenta la inteligencia artificial en la creación de contenido.