¿Qué ocurrió?

Anthropic ha decidido poner marca de agua a las salidas de Claude: inserta en el texto del chatbot un código invisible que lo señala como generado por IA.

La compañía puso en marcha esta política para cumplir el Código de Transparencia del Reglamento de IA de la UE, que ahora obliga a las empresas tecnológicas a etiquetar el contenido generado o editado con IA de una forma identificable por los sistemas informáticos. Los reguladores europeos pueden estar satisfechos con eso; algunos usuarios de IA, desde luego, no.

Dónde está la reacción

Basta con mirar Reddit para encontrar señales del descontento, aunque otros usuarios del sitio no están de acuerdo. Una de las publicaciones más exaltadas venía de un usuario llamado visionode, cuya cuenta tiene apenas tres semanas. Según él, el nuevo sistema de marca de agua es una conspiración draconiana diseñada para perjudicar a usuarios inocentes de chatbots en todo el mundo.

Su argumento básico es que, mientras los usuarios avezados de Claude pueden ocultar el rastro de su uso de IA parafraseando o limpiando el texto a través de otros servicios, el usuario medio quedará al descubierto.

Los ejemplos que puso

Los ejemplos que enumeraba la publicación eran:

  • El estudiante que usó Claude para reorganizar un párrafo
  • El periodista que pidió a la IA resumir una transcripción de doscientas páginas
  • El escritor con bloqueo creativo que pidió sinónimos

La valoración de TechCrunch es que no son los mejores ejemplos: a un periodista que pide resumir una transcripción de doscientas páginas no le molestará una marca de agua en ese resumen, salvo que copie y pegue el resumen literalmente en su artículo, algo abiertamente poco ético que no debería ocurrir. Lo mismo vale para el estudiante que pega la salida de Claude en un trabajo tras pedirle que "reorganice un párrafo".

Qué dijeron otros usuarios

Otros usuarios de Reddit tampoco respaldaron demasiado esa indignación. Uno se limitó a comentar "mira a este tipo"; otro pidió al autor que respirara hondo. Visionode no fue el único que se quejó, pero el debate no fue en una sola dirección.

El alcance de la norma

La cláusula de transparencia del Reglamento de IA de la UE no pide que el contenido se etiquete para el ojo humano, sino que se marque de forma identificable por los sistemas informáticos. Esa distinción explica por qué la marca es invisible: el objetivo no es mostrar un aviso al lector, sino permitir que una herramienta compruebe el texto después.

También importa que la obligación recaiga en el proveedor del modelo. Quien aplica la norma no es la persona que usa el texto, sino la empresa que lo produce, de modo que el usuario no tiene elección sobre este marcado.

¿Por qué es importante?

La propia reacción dice algo sobre para qué sirve la tecnología de marca de agua. Una herramienta de transparencia tiene su efecto más visible sobre quienes quieren ocultarse, y eso deja al descubierto la distancia entre el objetivo de la norma y la expectativa del usuario.

La justificación de la norma europea es que el lector pueda saber cómo se produjo un texto. La justificación de la queja es la contraria: que no se sepa cómo se produjo. Ambas partes hablan de la misma consecuencia de la misma función.

Qué no está cerrado

No hay ninguna medición de cuán extendida está la reacción; la información se apoya en publicaciones concretas y la cuenta que firma la más destacada tiene tres semanas. En qué condiciones puede detectarse realmente la marca de agua y hasta qué punto resiste queda además fuera del alcance de esta información.