YouTube etiquetará videos generados por IA que parecen reales: NPR
15 de noviembre de 2023

YouTube etiquetará videos generados por IA que parecen reales: NPR

Por La redacción

YouTube pronto comenzará a alertar a los espectadores cuando estén viendo un vídeo realizado con inteligencia artificial.

La plataforma de videos propiedad de Google dice que los creadores deben revelar cuándo usan inteligencia artificial u otras herramientas digitales para crear videos sintéticos o alterados de apariencia realista, o corren el riesgo de que sus cuentas sean eliminadas o suspendidas para obtener ingresos publicitarios en YouTube. La nueva política entrará en vigor en los próximos meses.

YouTube también permitirá a las personas solicitar la eliminación de vídeos si utilizan IA para simular una persona identificable, bajo sus herramientas de privacidad.

La proliferación de la tecnología de inteligencia artificial generativa, que puede crear imágenes, videos y audio realistas, a veces conocidos como «deepfakes», ha generado preocupación sobre cómo podría usarse para engañar a las personas, por ejemplo, al representar eventos que nunca sucedieron o al convertir a una persona real en algo real. parecen decir o hacer algo que no hicieron.

Esa preocupación ha impulsado a las plataformas en línea a crear nuevas reglas destinadas a equilibrar las posibilidades creativas de la IA y sus posibles peligros.

A partir del próximo año, Meta, propietario de Facebook e Instagram, exigirá a los anunciantes que revelen el uso de IA en anuncios sobre elecciones, política y temas sociales. La compañía también ha prohibido a los anunciantes políticos utilizar las propias herramientas de inteligencia artificial generativa de Meta para crear anuncios.

Leer también:  La inteligencia artificial interviene para reducir la huella de carbono de los edificios

Tik Tok exige que se etiquete el contenido generado por IA que represente escenas «realistas» y prohíbe los deepfakes de jóvenes y figuras privadas generados por IA. El contenido generado por IA que representa a figuras públicas está permitido en determinadas situaciones, pero no se puede utilizar para respaldos políticos o comerciales en la aplicación de vídeo de formato corto.

En septiembre, YouTube anunció que los anuncios políticos elaborados con inteligencia artificial deben incluir información. La nueva política dada a conocer el martes es una expansión de eso a cualquier video sintético que pueda confundirse con real.

YouTube ya prohíbe «contenido técnicamente manipulado que engañe a los espectadores y pueda representar un riesgo grave de daño atroz», escribió la compañía en un entrada en el blog el martes. «Sin embargo, las nuevas y poderosas formas de narración de la IA también se pueden utilizar para generar contenido que tiene el potencial de engañar a los espectadores, especialmente si no saben que el video ha sido alterado o creado sintéticamente».

La compañía dice que las etiquetas de IA serán más prominentes en algunos videos que tratan de «temas delicados» como elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos.

El contenido generado por IA se eliminará por completo si viola las pautas de la comunidad de YouTube. «Por ejemplo, un vídeo creado sintéticamente que muestra violencia realista aún puede eliminarse si su objetivo es sorprender o disgustar a los espectadores», dijo YouTube.

Además de las etiquetas, YouTube también está creando una forma para que las personas soliciten que se eliminen la IA u otras representaciones sintéticas de personas reales. Si bien las representaciones falsas de personas involuntarias, incluidas figuras políticas, famososy el papa han generado titulares, los expertos dicen que el uso más común de los deepfakes de IA es crear pornografía no consentida dirigido a las mujeres.

El proceso de solicitud de privacidad de YouTube ahora permitirá a las personas marcar contenido «que simule a un individuo identificable, incluido su rostro o su voz». La compañía dice que considerará «una variedad de factores» para decidir si sigue adelante con las mudanzas. Eso incluye si el video es una parodia o una sátira, si la persona es «única identificable» y si involucra a una persona conocida o a un funcionario público, «en cuyo caso puede haber un listón más alto», dijo YouTube.