En un esfuerzo por combatir la desinformación y los riesgos asociados a los deepfakes, las gigantes tecnológicas Google, Meta y OpenAI han presentado recientemente una serie de iniciativas destinadas a facilitar la identificación de contenidos producidos o modificados mediante inteligencia artificial (IA). Estas medidas buscan prevenir que la propagación de información falsa pueda influir en los resultados electorales o generar otras consecuencias no deseadas. Ya se habían comprometido a limitar el uso de IA en las elecciones de 2024.
Después de años dedicados a perfeccionar la inteligencia artificial generativa, estas plataformas se han sumado a la Coalición para la Procedencia y Autenticidad de Contenido (C2PA), una iniciativa que busca establecer un estándar de certificación y que agrupa a actores clave de la industria digital, medios de comunicación como la BBC o The New York Times, entidades financieras y fabricantes de cámaras. Aunque reconocen que no existe una solución infalible para la identificación de contenido generado por IA, las empresas exploran diversas técnicas, desde marcas visibles en las imágenes hasta datos ocultos en los metadatos o los píxeles.
Google, con su herramienta SynthID aún en desarrollo, afirma haber hallado una manera de identificar audios generados por IA. Sin embargo, el estándar C2PA, que se enfoca en la inclusión de información en los metadatos de las imágenes, presenta varias limitaciones técnicas señaladas por los desarrolladores. Incluso OpenAI, que implementará C2PA en su generador de imágenes Dall-3, advierte sobre no confiar demasiado en esta tecnología, ya que los metadatos pueden ser eliminados accidental o intencionalmente.
Aunque no se han especificado fechas exactas para la implementación total de estas medidas, el año 2024, cargado de eventos electorales significativos, subraya la urgencia de aplicar estas soluciones de manera preventiva. Nick Clegg, presidente de Asuntos Públicos de Meta, mencionó que la compañía comenzará a aplicar etiquetas en los contenidos en los próximos meses, en todos los idiomas compatibles con sus aplicaciones.
Meta no solo se compromete a etiquetar las imágenes generadas por sus propias herramientas de IA, sino también a identificar aquellas cargadas en sus plataformas, incluyendo Instagram, Facebook y Threads, siempre que sea posible. Google, por su parte, extenderá sus métodos a YouTube. A pesar de las limitaciones técnicas actuales, estas empresas confían en que sus enfoques representan lo más avanzado en la detección de contenidos generados por IA.
