Desde principios de 2023, la fotógrafa Jingna Zhang y un pequeño equipo de voluntarios mantienen en pie una aplicación de portafolios y publicación de imágenes llamada Cara. Ha atraído a cerca de 1,5 millones de artistas. Lo que los llevó allí fue una oposición compartida al uso no autorizado de su trabajo para entrenar modelos de inteligencia artificial y el deseo de mostrar su arte sin ser explotados por las grandes tecnológicas.

Pero aunque Cara filtra las imágenes generadas con IA y ofrece algunas protecciones mínimas, impedir los rastreos es casi imposible. A partir del 13 de agosto, la plataforma sufrió tres rastreos importantes. Los costes de servidor se dispararon y los creadores que habían migrado desde plataformas como Instagram —donde el contenido está expresamente disponible para Meta como material de entrenamiento— se alarmaron.

Tres rastreos

  • 12 millones de obras. El responsable del primer incidente anunció en una comunidad de Reddit que había obtenido un archivo de 12 terabytes, más o menos toda la biblioteca pública de imágenes de Cara. En su publicación, ya borrada, lo llamó "un proyecto divertido" y dijo que le había costado menos de 10 dólares.
  • 8,5 millones de enlaces. Un segundo rastreador subió los enlaces, junto con metadatos como nombres de usuario y etiquetas, a Hugging Face. Ante las peticiones de retirada, la plataforma respondió que avisaría al usuario para que eliminara los metadatos personales, pero que no podía tocar las direcciones, ya que "aquí no se alojan copias de las obras" y los enlaces apuntan a "las copias que los artistas publicaron en Cara".
  • 123.000 imágenes. El 22 de agosto un tercer rastreador las colocó, junto con publicaciones de texto y biografías con datos personales, en un sitio llamado Academic Torrents.

Zhang se enteró porque los usuarios la etiquetaron: el rastreador "se jactaba y buscaba a otros para que se le unieran y hacer algo con el conjunto de datos en Reddit". Su valoración es breve: "Me parece dirigido y muy doloroso". Añade que las leyes no han alcanzado a estas recolecciones de datos, de modo que los rastreadores suelen justificarlas como técnicamente legales.

El rastreador cambió de opinión

Aquí está lo inesperado: la persona que se llevó todo el arte acabó arrepintiéndose y aceptó colaborar con Zhang en una nueva herramienta de código abierto para proteger a los artistas.

Identificado solo con el alias "Heft" por el acoso y las amenazas de muerte que dice haber recibido, es un estudiante en Norteamérica con formación en software e interés por la preservación digital y los proyectos de archivo. Cuenta a Wired que rastrear Cara fue en origen un simple proyecto técnico y que no tenía intención de hacer públicos los datos.

"Visto en retrospectiva, no solo apuntar deliberadamente a Cara sino presentarlo como lo hice fue cruel e irreflexivo", dice. "No vi las consecuencias que tendría más allá de provocar algo de enfado". Vio a personas "contando que tenían ataques de pánico por el rastreo, que habían borrado sus portafolios enteros de internet".

El dilema de Zhang

A Zhang le frustra no solo el rastreo, sino la confusión sobre lo que su equipo puede hacer realmente. Algunos usuarios ya han borrado sus portafolios y se han ido. "Hemos hecho las cosas correctas dentro de los límites, sin volver horrible el uso de la aplicación", dice de las protecciones actuales, incluidas medidas temporales como exigir inicio de sesión, que, añade, no son una solución a un problema continuo y global.

Lo que dice a quienes se marchan resulta llamativo: "Si les hace sentir mejor borrar su trabajo y dejar Cara, lo apoyo. Pero no quiero dar a nadie la idea equivocada de que estará más seguro en otro sitio, porque no lo estará. A las plataformas grandes las rastrean más, y eso me hace sentir peor".

Zhang abrió una recaudación para gastos legales con un objetivo de 120.000 dólares y ha superado los 100.000. Además, forma parte de dos demandas colectivas de artistas visuales: una contra Stability AI y Midjourney, y otra contra Google.