YouTube quiere etiquetar el contenido de IA «realista»

YouTube está tomando medidas para tratar de ayudar a los espectadores a comprender mejor si lo que están viendo ha sido creado, ya sea total o parcialmente, por IA generativa.

«La IA generativa está transformando la forma en que los creadores se expresan, desde ideas de guiones gráficos hasta la experimentación con herramientas que mejoran el proceso creativo», dijo YouTube en un mensaje compartido el lunes. «Pero los espectadores quieren cada vez más transparencia sobre si el contenido que están viendo está alterado o es sintético».

Parte del esfuerzo por reforzar la confianza en la popular plataforma de streaming incluye el lanzamiento de una nueva herramienta que requiere que los creadores informen a los espectadores cuando el contenido de aspecto realista (definido por YouTube como «contenido que un espectador podría confundir fácilmente con una persona, lugar o evento real») se realiza con medios alterados o sintéticos, incluida la IA generativa.

YouTube ofreció ejemplos de contenido que los creadores deberían marcar como alterado:

• Usar la imagen de una persona realista: alterar digitalmente el contenido para reemplazar la cara de un individuo con la de otro o generar sintéticamente la voz de una persona para narrar un video
• Alterar imágenes de eventos o lugares reales: como hacer que parezca que un edificio real se incendió o alterar un paisaje urbano real para que parezca diferente al de la realidad.
• Generar escenas realistas: Mostrar una representación realista de eventos importantes ficticios, como un tornado que se mueve hacia una ciudad real.

Si un creador marca el contenido de esta manera, la divulgación aparecerá como una etiqueta. YouTube dijo que para la mayoría de los videos, la etiqueta aparecerá en la descripción ampliada del video, pero para el contenido que involucre temas más sensibles, como salud, noticias, elecciones o finanzas, aparecerá en el video para aumentar su prominencia.

YouTube agregó que no está exigiendo a los creadores que divulguen contenido «que sea claramente poco realista, animado, que incluya efectos especiales o que haya utilizado IA generativa para ayudar a la producción».

Además, la empresa propiedad de Google no está obligada a destacar todos los casos en los que se ha utilizado la IA generativa en el proceso de producción más amplio. Por ejemplo, no es necesario revelar cuándo se ha utilizado la tecnología para crear guiones, ideas de contenido o subtítulos automáticos.

Las nuevas etiquetas se implementarán en todas las plataformas de YouTube en las próximas semanas.

Y una advertencia para los creadores de YouTube que intenten saltarse el requisito de resaltar el contenido alterado voluntariamente: YouTube dijo que en el futuro, «analizará medidas de aplicación para los creadores que opten constantemente por no divulgar esta información». Agregó que incluso puede poner una etiqueta en el contenido en los casos en que un creador no lo haya hecho, «especialmente si el contenido alterado o sintético tiene el potencial de confundir o engañar a las personas».

Recomendaciones del editor