La respuesta corta
Detectar texto de IA no consiste en mirar una frase y declarar "esto lo escribió una máquina". Ninguno de los métodos que funcionan produce certeza: todos producen probabilidad. Por eso "real o falso" no es siquiera una pregunta respondible en la práctica; la pregunta útil es cuánto de un texto viene de la IA.
Max Spero, cofundador y consejero delegado de la startup de detección Pangram, sostiene justo eso en el pódcast Equity de TechCrunch: averiguar cuánta IA hay en algo es más difícil y más útil que etiquetarlo como IA o humano. La empresa levantó hace poco 9 millones de dólares para su sistema de detección y firmó una alianza con Substack, que ahora muestra a los lectores qué autores de los que siguen usan IA para escribir sus boletines.
En realidad son tres preguntas distintas
Buena parte de la confusión viene de tratar tres preguntas diferentes como si fueran una:
- ¿Produjo este texto un modelo? Una clasificación binaria. La pregunta más repetida y la que menos informa.
- ¿Cuánto del texto viene de un modelo? Quien hizo que un modelo corrigiera su borrador no está en la misma posición que quien pegó una instrucción y publicó la salida tal cual. La pregunta de grado dice más que una etiqueta binaria.
- ¿Qué modelo lo produjo? Es lo que de verdad importa en derechos de autor, contratos y revisiones de cumplimiento, y es lo más difícil de responder.
Una organización no puede elegir un método sin saber qué pregunta se está haciendo. Las familias de métodos que siguen responden a esas tres preguntas en grados distintos, y ninguna sirve bien para las tres. Para un colegio suele decidir la segunda, para un editor la primera, para un equipo jurídico la tercera; y esa elección determina de entrada con qué tipo de error se puede vivir.
Métodos de detección: cuatro familias
| Método | Qué observa | Punto débil |
|---|---|---|
| Firma estadística | Cuán "esperable" es el texto según un modelo de lenguaje; la distribución y uniformidad de las elecciones de palabras | Se derrumba con texto editado, corto o traducido |
| Clasificador entrenado | Una probabilidad dada por otro modelo entrenado con texto humano y de máquina | Puede quedar ciego ante la salida de un modelo nuevo ausente de su entrenamiento |
| Marca de agua | Un rastro estadístico invisible incrustado a propósito en el momento de generar | Solo funciona para el proveedor que la añade; se puede quitar |
| Metadatos de procedencia | Información de generación adjunta al archivo: quién, con qué herramienta, cuándo | Se pierde al copiar y pegar; en texto plano casi no sobrevive |
Las dos primeras miran el texto en sí y sirven para cualquier caso; las dos últimas requieren la cooperación de quien lo produjo. Esa distinción es decisiva en la práctica: una universidad o un empleador no eligen qué modelo usa un estudiante, así que cualquier política apoyada en marcas de agua nace incompleta.
Por qué la marca de agua no basta por sí sola
La idea es sólida: al generar la salida, el modelo altera la fuente de aleatoriedad de sus elecciones de palabras para que el resultado pueda reconocerse después de forma estadística. Anthropic describió este método para el texto de Claude con detalle y abrió una interfaz de detección. Pero tiene tres límites.
El primero es la cobertura: solo se reconoce el modelo del proveedor que pone la marca. Quien ejecuta un modelo de pesos abiertos en su propio hardware no la pone nunca. El segundo es la durabilidad: el código que eliminaba la marca invisible de Claude se publicó en cuatro horas. El tercero apareció en el lado de la imagen: Google hizo que la marca visible en las imágenes generadas pudiera quitarse, y la mantuvo obligatoria solo donde la ley lo exige.
Aun así, las marcas de agua no son inútiles. Donde un proveedor necesita reconocer su propio producto —revisiones de abuso, cumplimiento corporativo, investigaciones de brechas— funcionan. Lo que no pueden sostener es la promesa de etiquetar todo el texto de internet.
Identificar qué modelo lo escribió
Esta era la más difícil de las tres preguntas: nombrar el modelo del que salió un texto. Los métodos de firma estadística ayudan en parte, porque cada modelo tiene tendencias propias en la elección de palabras: la misma instrucción tiene un "sabor" distinto en cada uno. Pero esas tendencias cambian con cada versión; una distinción que funcionaba hace una semana puede no sostenerse tras un lanzamiento nuevo.
La marca de agua da la respuesta más clara a esta pregunta, pero solo para el proveedor que la aplica. Así que la respuesta a "qué modelo" se parte en dos en la práctica: casi certeza para los proveedores con marca, conjetura para todo lo demás. Esa asimetría crece a medida que se extienden los modelos de pesos abiertos.
Una dificultad añadida en turco
La mayoría de las herramientas de detección se entrenan sobre todo con texto en inglés, y sus cifras de acierto también suelen reportarse en inglés. Para el turco eso genera un problema doble: hay menos datos de entrenamiento y la estructura de la lengua dificulta la lectura de la firma estadística. En una lengua aglutinante la misma raíz adopta decenas de formas mediante sufijos, así que un método que mide previsibilidad a nivel de palabra encuentra una señal mucho menos limpia que en inglés.
La consecuencia práctica: trasladar tal cual al turco una cifra de acierto reportada en inglés es un error. Una organización que despliegue un detector sobre contenido en turco necesita preguntar aparte por el rendimiento de esa herramienta en turco, y la mayoría de los proveedores no publica ese número.
La cuestión de fondo: el coste de un falso positivo
La tasa de acierto de un detector significa poco por sí sola; lo que importa es en qué dirección se equivoca. Un falso negativo —dejar pasar texto de IA— es tolerable en la mayoría de los contextos. Un falso positivo significa acusar a una persona de hacer trampa.
Esa asimetría produce sus consecuencias más graves justo donde más se usan estas herramientas: en la educación. Un estudiante que escribe en una segunda lengua, con vocabulario limitado y estructuras de frase planas, se parece mucho, bajo los métodos de firma estadística, al texto generado, porque lo que ambos comparten es la previsibilidad. El mismo problema afecta a los redactores técnicos que mantienen su estilo deliberadamente sobrio.
Otro punto que subraya Spero es el coste de los falsos positivos en imágenes sensibles. En un texto, la etiqueta "IA" crea un problema de reputación; en una imagen personal, la misma etiqueta se convierte en una acusación mucho más grave.
¿Por qué esto no se vuelve más fácil?
Hay una asimetría estructural entre generación y detección. Con cada versión, el lado generativo intenta producir texto menos previsible, más variado y más "humano", es decir, debilita a propósito la señal de la que depende la detección. El lado detector tiene que recalibrarse con cada modelo nuevo. Es una carrera en la que quien defiende va siempre un paso por detrás: cuando sale un modelo nuevo, el detector no lo reconoce, y para reconocerlo hace falta antes reunir suficientes muestras de lo que ese modelo produce.
A eso se suman cuatro dificultades prácticas:
- Texto corto: la señal estadística se fortalece con la longitud. Un comentario o una reseña rara vez lleva datos suficientes para decidir.
- Reescritura: pasar la salida de un modelo a otro con un "dilo con tus palabras" borra en gran medida la firma.
- Autoría mixta: es hoy la forma de uso más común, y donde el borrador es humano y la edición es de máquina, una etiqueta binaria carece de sentido de partida.
- Evasión dirigida: quien conoce el funcionamiento de un detector puede ajustar la salida para superarlo.
Qué hacer en la práctica
Usar un detector como mecanismo de decisión por sí solo le carga un peso que no puede soportar. Un montaje más defendible se parece a esto:
- Tratar la salida de la herramienta como una señal, no como una prueba; nunca debe bastar para sancionar.
- Fijar el umbral según el caso de uso: la cadena de contenidos de un editor y el proceso disciplinario de una universidad no absorben el mismo margen de error.
- Pedir una proporción en lugar de una etiqueta binaria: "qué porcentaje" es más honesto y más útil que "sí o no".
- Apoyar el proceso en la declaración: un sistema donde el uso se declara abiertamente sale más barato y más justo que intentar detectarlo.
- Dejar una vía de apelación ante un falso positivo; una política de detección sin ella acabará castigando a alguien injustamente.
¿Cuán cerca está la "internet muerta"?
La afirmación más amplia de Spero es que internet está peligrosamente cerca de que la teoría de la internet muerta se haga realidad en unos pocos años. No se refiere solo a los muros llenos de contenido de IA, sino a texto e imágenes generados que se cuelan en solicitudes de empleo, reseñas de productos e incluso reclamaciones de seguros. Lo que internet necesita entonces es una "capa de confianza": el hueco que startups como Pangram intentan llenar.
Su previsión sobre el trabajo va en dos direcciones: cree que el "escalón más bajo" de los empleos de escritura se ha ido para siempre, mientras que la escritura humana realmente buena puede ganar valor. Esa segunda mitad muestra por qué el debate sobre la detección no es un asunto puramente técnico: la pregunta de quién escribió un texto no se separa de la de cuánto vale ese texto.
En resumen
Las herramientas de detección funcionan, pero no dan certeza; dan probabilidad, y cómo se use esa probabilidad es enteramente decisión de la organización. La postura más defendible hoy es tratar la herramienta no como una máquina de pruebas sino como una señal que alimenta una decisión humana, y poner la posibilidad del falso positivo en el centro de la política.
A más largo plazo, el debate se desplazará probablemente de la detección a la declaración. Medir desde fuera si un texto lo escribió una máquina se vuelve más difícil con cada versión, mientras que montar un sistema donde el uso se declara de antemano es técnicamente mucho más barato. Que Substack muestre a los lectores el uso de IA de un autor va justo en esa dirección: convierte el problema de detección en un problema de transparencia.