YouTube está trabajando activamente para equilibrar el potencial de la Inteligencia Artificial (IA) generativa con la responsabilidad de proteger a su comunidad. Todos los contenidos subidos deben cumplir las normas de la comunidad, independientemente de cómo se generen, según ha explicado la empresa esta semana a través de un comunicado en su blog.

Nuevas etiquetas y requisitos

Con este objetivo, en los próximos meses YouTube introducirá requisitos para que los creadores declaren el uso de IA y apliquen nuevas etiquetas a los contenidos. Los creadores deberán indicar si un vídeo contiene material realista manipulado o sintético. Los contenidos que no cumplan con esta información serán eliminados, y los creadores podrían ser sancionados.

Para informar a los espectadores de que un contenido es sintético, YouTube agregará una nueva etiqueta al panel de descripción y, en el caso de contenidos sobre temas sensibles, aplicará una etiqueta más destacada en el reproductor de vídeo. Los contenidos sintéticos que incumplan las Normas de la comunidad serán eliminados, incluso si están etiquetados.

Todos los contenidos creados utilizando los productos y funciones de IA generativa de YouTube serán claramente etiquetados como “generados mediante IA”.

Protección de la privacidad y derechos de los artistas

YouTube está introduciendo nuevas opciones para creadores, espectadores y artistas en respuesta a las preocupaciones sobre las tecnologías emergentes. En el futuro más próximo, los usuarios podrán utilizar el proceso de reclamación de privacidad de YouTube para solicitar la eliminación de contenidos generados por IA que simulen a una persona identificable, incluyendo su rostro y su voz.

Sin embargo, no todos los contenidos serán eliminados. YouTube considerará varios factores, como si el contenido es una parodia o una sátira, si la persona puede ser identificada de forma inequívoca, o si el contenido presenta a un político, alto funcionario o persona famosa.

Los músicos tendrán la opción de solicitar la retirada de contenidos musicales generados por IA que recreen su voz o estilo de canto. Al evaluar estas solicitudes, YouTube considerará factores como la cobertura mediática, análisis o críticas del uso de voces sintéticas.

Herramientas de IA y aprendizaje automático

YouTube utiliza una combinación de personas y tecnologías de aprendizaje automático para hacer cumplir sus normas de la comunidad. Las herramientas de clasificación asistidas por IA ayudan a detectar contenidos que potencialmente incumplen las normas, y luego los revisores humanos confirman si un contenido es inadecuado.

La IA generativa ayuda a identificar nuevas formas de mal uso ampliando la información con la que se entrenan los clasificadores de IA. Esto permite identificar y capturar contenidos problemáticos mucho antes.

Enfoque de responsabilidad

La plataforma está trabajando en el desarrollo de nuevas herramientas de IA para los creadores, siempre con un enfoque de responsabilidad. Están desarrollando barreras para prevenir que sus herramientas de IA se usen para generar contenidos no deseados en YouTube. También están mejorando continuamente sus protecciones, teniendo en cuenta los comentarios de los usuarios y lo que van aprendiendo. Además, cuentan con equipos especializados que realizan pruebas de adversarios y detectan nuevas amenazas, permitiendo a sus sistemas responder a cualquier desafío emergente de forma temprana.

Fuente: GoogleBlog