En un esfuerzo por combatir la desinformación, especialmente con las elecciones estadounidenses de otoño a la vista, TikTok ha anunciado el jueves que implementará una nueva tecnología para etiquetar imágenes y videos generados por inteligencia artificial (IA). La medida se introduce en un momento crítico, donde los contenidos generados por IA podrían ser utilizados para influir indebidamente en los procesos democráticos.
TikTok empleará lo que se conoce como “credenciales de contenido”, una especie de marca de agua digital desarrollada por Adobe, aunque disponible para su uso por otras compañías. Esta marca indica cómo se crearon y editaron las imágenes o videos, proporcionando así transparencia sobre su origen. Empresas como OpenAI, los creadores de ChatGPT, ya han adoptado esta tecnología.
La preocupación de los investigadores sobre el uso potencial de contenidos generados por IA para desinformar es alta, especialmente en contextos sensibles como las elecciones. TikTok no está solo en esta iniciativa; es parte de un consorcio de 20 compañías tecnológicas que a principios de año se comprometieron a luchar contra la desinformación. Grandes actores de la industria como YouTube y Meta Platforms, propietarios de plataformas como Instagram y Facebook, también planean implementar el uso de credenciales de contenido.
El sistema requerirá cooperación entre los creadores de herramientas de IA y las plataformas de distribución para ser efectivo. Por ejemplo, si un usuario crea una imagen con la herramienta Dalle de OpenAI, OpenAI incrusta una marca de agua en la imagen. Si esa imagen luego se carga en TikTok, la plataforma la etiquetará automáticamente como generada por IA.
Además de las etiquetas para contenido generado fuera de la plataforma, TikTok ya tiene políticas para contenido generado internamente que debe ser etiquetado. “También contamos con políticas que prohíben la IA realista no etiquetada en nuestra plataforma. Si dicho contenido aparece, será eliminado por violar nuestras directrices comunitarias”, explicó Adam Presser, jefe de operaciones y confianza y seguridad de TikTok, en una entrevista reciente.
Esta medida representa un paso significativo hacia la responsabilidad y transparencia en el uso de tecnologías generativas de contenido en redes sociales, señalando una era de mayor conciencia sobre la integridad de la información en el espacio digital.
