Logran gran avance contra la desinformación en California
Una legislación estatal con posible repercusión mundial.
Culminando un período de rápido avance, la legislatura de California impulsa la creación de un ecosistema digital poblado de contenidos marcados con el equivalente de “etiquetas de nutrición” con el propósito de frenar la proliferación de desinformación y restaurar la confianza del público en los contenidos que consumen Online.
Por John Reichertz
La legislatura de California, estado sede de 32 de las 50 empresas más importantes de Inteligencia Artificial (IA) del mundo, la semana pasada aprobó una legislación que concretiza el esfuerzo de hacer disponible al público la información de procedencia de los contenidos digitales, dándole así una respuesta sistémica a la plaga de la desinformación y fraude online.
Por razones tecnológicas y financieras, es probable que las medidas de California, la cuarta economía del mundo, tengan impacto mundial entre aquellas plataformas, herramientas de IA y dispositivos de captura, fabricados y utilizados en el mundo occidental. Llevarían a la implementación a escala del estándar de procedencia C2PA promovido por la Iniciativa de Autenticidad de Contenido (CAI).
La votación de la legislatura corona un período de rápido avance del movimiento sobre la trazabilidad del contenido, que incluye el lanzamiento del teléfono Pixel 10 de Google con tecnología C2PA; una implementación innovadora de C2PA por parte de France TV; una decisión de la asociación de proveedores de cámaras de seguridad de unirse a C2PA y la implementación de una política de procedencia en China.
El Senado de California votó 30-6 para aprobar la legislación que obligaría a las plataformas y redes a mostrar información de procedencia cuando está presente en los contenidos que circulen, y a los fabricantes de cámaras de fotografía y de video, como también grabadores de audio, a incluir la tecnología de procedencia como opción de uso en sus productos.
La cámara baja el viernes convalidó los cambios hechos en el Senado, enviando la ley al Gobernador Gavin Newsom para su firma.
“No se puede hacer la vuelta olímpica aún, pero tengo mucha fe”, dijo David Evan Harris, representante del Iniciativa de California para la Tecnología y la Democracia (CITED), que ayudó a redactar la legislación, presentada por Buffy Wicks, integrante de la cámara baja.
John Bennett, investigador del comité de privacidad y protección al consumidor, hizo un informe meses atrás para resumir para los legisladores la naturaleza de la legislación. En ese informe, dijo:
“La propagación descontrolada de contenido sintético amenaza con perjudicar a los californianos de diversas maneras, como la proliferación de pornografía DeepFake no consensuada, estafas, daños a la reputación y la distribución de desinformación electoral dirigida. Una estrategia para combatir esto es integrar datos de procedencia (origen) en el contenido generado por IA y capturado en tiempo real que permitan a los espectadores verificar el contenido”.
El año pasado la legislatura estatal aprobó el Acta AI de Transparencia, SB 942, que obliga a los proveedores de IA Generativa, a partir del 1 de enero de 2026, a incluir en los contenidos generados información sobre el origen de los mismos, incluyendo su creación mediante la IA, el nombre del sistema generador y la fecha de la producción.
Pero los autores y proponentes de esa legislación sabían que ese primer paso era incompleto sin las medidas contempladas en la legislación aprobada ahora, ya que:
· No tenía sentido práctico marcar las obras de IA como tales si esa información de origen no estaba visible en las plataformas/redes.
· Visto que la IA puede crear imágenes, videos y audios esencialmente indistinguibles de capturas reales, era imprescindible que fuera posible, y a la vez, opcional, marcar capturas reales para darle al público las herramientas de conocer afirmativamente la naturaleza de cada contenido.
“Estos requisitos, junto con la SB 942, crearían un marco integral de divulgación y detección que permitiría la clasificación a gran escala del contenido como auténtico o artificial”, dijo Bennett, en su análisis, que contempla la utilización del estándar de procedencia C2PA impulsado por CAI, un esfuerzo colaborativo de más de 5.000 miembros de la cual la Sociedad Interamericana de Prensa forma parte.
La obligatoriedad de las plataformas y redes de mostrar la información de procedencia incluido en los contenidos entraría en vigor el 1 de enero de 2027 mientras que los dispositivos de captura deberían incluir tecnología de procedencia desde el 1 de enero de 2028.
El estándar C2PA es de fuente abierta y fue desarrollado dentro de la Fundación Linux, por un grupo de empresas incluyendo a Adobe, BBC, Publicis Groupe, Google, Microsoft, OpenAI, Sony, Intel, Meta, Amazon y TruePic. C2PA es el acrónimo por el nombre de este grupo técnico, la Coalición por la Procedencia y Autenticidad del Contenido. CAI es el grupo que públicamente promueve la adopción del estándar.
Actualmente, es el único esfuerzo tecnológicamente avanzado de procedencia, que además cuenta con apoyo amplio de todos los sectores del sistema de información y economía digital.
Con el estándar, el público tiene acceso a algo como una “etiqueta de nutrición” de los contenidos digitales. En el caso de capturas reales, la etiqueta dice donde, como, cuando y eventualmente, por quién fue logrado el registro (la fotografía, el video o el audio), y si fue cambiado después de su captura, y como. Para capturas reales, el uso de la tecnología es opcional, incluyendo la posibilidad de definir qué información de procedencia uno quiere compartir.
El estándar C2PA ya está siendo utilizado por ChatGPT, Dall-e, Sora, Bing y Adobe Firefly, y está visible en LinkedIn, con un icono CR visible en imágenes, que es un vínculo que lleva a la información de procedencia. Google y Facebook anunciaron sus planes para implementar el estándar, aunque no se sabe aun cuando.
La aprobación de esta legislación es solamente la más reciente de los avances logrados por quienes proponen que las credenciales de contenido, las etiquetas, sean ubicuos como parte de un esfuerzo de restablecer la confianza del público en los contenidos que usan para informarse, y para evitar ser víctima de fraudes y estafas, entre otras cosas.
A fines de agosto Google presentó su teléfono Pixel 10, siendo el primer Smartphone en incorporar de forma nativa la tecnología C2PA, dándole a los usuarios la opción de activar las credenciales de contenido sobre las fotografías sacadas con el Android. Leica, Nikon y Sony ya lanzaron cámaras C2PA, y Sony promete incluir la tecnología en una cámara de video antes de fin de año.
Andy Parsons, director general de CAI, dijo sobre el lanzamiento, “Este es un momento muy emocionante para la transparencia de los medios, para los fotógrafos y para las Credenciales de Contenido de C2PA. El nuevo Pixel 10 de Google es el primer teléfono que integra Credenciales de Contenido en el núcleo de su proceso de captura de fotos, y ha alcanzado el nivel más alto ofrecido por el Programa de Conformidad de C2PA”.
En otro avance, France Televisión gano el premio de Tecnología e Innovación de la European Broadcasting Union (EBU) por su implementación del estándar C2PA en dos de sus programas.
“En un contexto donde la desinformación y los DeepFakes erosionan gravemente la confianza pública y desestabilizan las democracias, France Televisión ha dado un paso decisivo al convertirse en la primera emisora en adoptar sistemáticamente el protocolo C2PA a diario”, escribió Romuald Rat, director del Tech Lab de France Televisión, en la revista Tech-I del EBU. “Esta iniciativa marca un punto de inflexión en la participación de los medios públicos en la transparencia informativa y la lucha contra la manipulación de contenidos digitales”.
Mostrando la amplitud del esfuerzo, ONVIF, la asociación que nuclea a los proveedores de cámaras de seguridad para promover estándares abiertos comunes, se unió como miembro de C2PA.
“Preservar la autenticidad del video nunca ha sido tan importante, ya que las amenazas de la IA generativa y otros métodos de manipulación de contenido siguen aumentando exponencialmente, independientemente del sector y el caso de uso”, afirmó Leo Levit, presidente del Comité Directivo de ONVIF. “La labor de ONVIF para preservar la integridad del video y el reconocimiento de la C2PA contribuirán a generar confianza en los usuarios de que el video grabado puede verificarse como genuino y sin manipulaciones”.
ONVIF dijo que preservar la integridad de los videos de seguridad es fundamental ya que los mismos son utilizados en procedimientos judiciales, investigaciones policiales e incidentes de seguridad corporativa, donde cualquier duda sobre la validez de la evidencia en video puede socavar los resultados y erosionar la confianza institucional.
Finalmente, el 1 de septiembre China se constituyó como el primer país en el mundo en imponer un sistema obligatorio de procedencia de los contenidos generados con IA. Los contenidos IA deben llevar dos sistemas de identificación, uno visible al público, y otro con meta datos adjuntos a cada fotografía, audio, video, documento producido por la IA.
Los críticos dicen que mientras la campaña de China oficialmente está diseñada para el combate a la desinformación, al ser obligatorio podría ser utilizada como herramienta de censura.
“China ha puesto en práctica lo que otros aún debaten: un estándar nacional de autenticidad de la IA”, dijo en un posteo en LinkedIn Barbara Cresti, un experto en IA que da asesoramiento a las juntas directivas de empresas. “La infraestructura técnica demuestra que es posible. Las implicaciones políticas nos recuerdan sus riesgos”.
AUTOR
<p><span style="color: black;"><em>John Reichertz es consultor en América Latina de la Iniciativa de Autenticidad de Contenido (CAI). La información en esta nota está presentado a título personal</em></span></p>