YouTube Introduce Medidas contra Videos Generados por IA que Simulan Rostros y Voces

YouTube ha implementado medidas para abordar el problema de los videos generados por inteligencia artificial que utilizan rostros y voces de otras personas sin su consentimiento. La plataforma tomará acciones contra estos contenidos, ya sean versiones de canciones interpretadas por artistas diferentes o la creación de temas completamente nuevos.

Nuevas Etiquetas para Contenido Generado por IA en YouTube

En un comunicado, YouTube explicó su nuevo sistema de etiquetas diseñado para informar a los usuarios sobre contenido generado por inteligencia artificial. La plataforma solicitará a los creadores que indiquen cuando hayan creado contenido de manera sintética o alterado uno ya existente de manera realista.

Los usuarios que no cumplan con este nuevo requisito podrían enfrentar sanciones, como la eliminación de la monetización de ese contenido específico. Además, YouTube podrá borrar por completo videos que simulen a una persona identificable, ya sea imitando su rostro o su voz.

Aunque algunos contenidos generados por IA buscan entretener a través de la sátira o la imitación, YouTube requerirá que se implementen estas etiquetas para facilitar el reconocimiento de este tipo de videos y prevenir la propagación de desinformación.

Identificación Especialmente Importante para Temas Delicados

Según YouTube, esta identificación es especialmente crucial en temas delicados, como elecciones, conflictos en curso y crisis de salud pública, así como en videos que involucren a funcionarios públicos. Aunque las etiquetas son opcionales, la plataforma tomará medidas si los creadores no identifican correctamente los videos generados por IA de manera continua.

Las etiquetas serán de dos tipos: una más pequeña que se mostrará en secciones como YouTube Shorts en la parte inferior izquierda de la pantalla, y otra más grande que estará en la parte inferior de la descripción de los videos.

Prevención de Contenido Alterado o Generado por IA

YouTube advierte que, aunque las etiquetas buscan prevenir la difusión de imágenes alteradas, editadas o generadas por inteligencia artificial, puede haber casos en los que las etiquetas no sean suficientes. En tales situaciones, la plataforma eliminará el video, ya que, además de ser generado por programas de computadora, podría infringir las normas de la comunidad.

La nueva herramienta busca abordar casos en los que personas ven sus rostros y voces utilizados sin su consentimiento para expresar opiniones o ideas que no representan fielmente a los individuos. En los próximos meses, YouTube permitirá la solicitud de eliminación de contenido generado por IA que simule a un individuo identificable, incluido su rostro o voz, a través de su proceso de solicitud de privacidad.

La actualización ya ha sido lanzada oficialmente y se implementará progresivamente en las cuentas de los usuarios para sitios de escritorio y dispositivos móviles en los próximos meses.