Los seres humanos llevan hablando entre sí al menos cien mil años. En todo ese tiempo solo hubo una cosa en el mundo capaz de aprender una lengua humana con fluidez perfecta: un niño. Ahora hay dos.

En los pocos años transcurridos desde ChatGPT, damos por hecho que podemos conversar con naturalidad con nuestros teléfonos. Pero detrás del telón computacional hay un inconveniente: enseñar a una máquina a usar la lengua humana sigue exigiendo una cantidad inhumana de datos, miles de veces más palabras de las que una persona encuentra al dominar su lengua materna.

Michael C. Frank, de Stanford, lo resume así: el progreso reciente ha sido asombroso, "pero seguimos teniendo que quemar un bosque y rastrear la suma entera del conocimiento humano para recrear este hito que ocurre en nuestros salones a lo largo de un año".

Ese abismo se llama brecha de eficiencia de datos. Plantea una pregunta para los científicos cognitivos y un desafío para quienes diseñan modelos: ¿cómo es que los niños siguen superando a las máquinas lingüísticamente más sofisticadas jamás construidas?

La magnitud del abismo

Durante la última década, los modelos han mejorado sobre todo haciéndose más grandes. Llama 3.1, de Meta, procesó 15 billones de tokens en el preentrenamiento, y los modelos de frontera podrían estar usando diez veces más, señala Ethan Gotlieb Wilcox, de Georgetown. Pero internet no es infinito: el pozo de datos accesibles podría secarse ya en la década de 2030.

Los niños demuestran que se puede aprender más con muchísimo menos. Un preadolescente criado en un hogar rico en lenguaje habrá oído unos 100 millones de palabras; con la lectura, quizá 300 millones a los 20 años.

Wilcox recurre a una analogía: "Claude ha visto la cantidad de lengua que una ciudad entera experimentará en una generación". Impresas, las palabras de entrenamiento de un modelo moderno formarían una pila que superaría la Estación Espacial Internacional; los 100 millones del preadolescente apenas veinte metros.

La comparación queda así:

  • Un niño pequeño: empieza a producir oraciones gramaticales tras unos 10 millones de palabras.
  • Un preadolescente: alrededor de 100 millones de palabras.
  • Un lector de veinte años: quizá 300 millones.
  • Llama 3.1: 15 billones de tokens en el preentrenamiento.

Los niños pequeños suelen empezar a producir oraciones gramaticalmente correctas tras oír alrededor de 10 millones de palabras. Como dice Frank: "Es sencillamente milagroso. Si entrenas GPT-2 con 30 millones de palabras, obtienes un generador de sinsentidos; no obtienes un niño".

El viejo debate: innato o aprendido

Cómo lo consiguen los bebés sigue siendo un misterio. La sintaxis incluye estructuras recursivas y anidadas que permiten expresar ideas casi infinitas con un léxico finito. El bebé solo chapotea en la orilla de un océano insondable de lengua y, aun así, de una gota infiere la profundidad.

En los años cincuenta, el lingüista del MIT Noam Chomsky propuso una solución: los bebés nacen con conocimiento gramatical incorporado. Reaccionaba a B. F. Skinner, para quien la lengua se aprendía por condicionamiento, como un perro que descubre cómo sentarse a cambio de una golosina.

Chomsky replicó con la "pobreza del estímulo": la lengua, y en especial la sintaxis, es demasiado compleja y la exposición infantil demasiado escasa para aprenderla solo por experiencia. Como lo resume Richard Futrell, lingüista de la Universidad de California en Irvine: "Su argumento característico era, en esencia, que la lengua no puede aprenderse sobre una base puramente estadística".

Esa visión dominó la lingüística estadounidense durante décadas como gramática generativa. Los investigadores intentaron enseñar lengua codificando explícitamente las reglas: menos inmersión y más clase de gramática. Ese enfoque, llamado inteligencia artificial simbólica, fracasó en gran medida al producir modelos capaces de manejar la lengua a escala.

La suposición que los modelos derribaron

En 2018 y 2019, BERT y GPT-2, construidos sobre transformadores y entrenados con miles de millones de tokens, dejaron claro que aprender de una avalancha de datos podía funcionar para la lengua. Los modelos no son cerebros: son máquinas ingenuas de aprender patrones, sin las rarezas biológicas de la corteza humana; exactamente aquello que un lingüista generativo de hace dos décadas habría creído incapaz de aprender lengua.

Alison Gopnik, psicóloga del desarrollo de la Universidad de California en Berkeley, lo admite sin rodeos: "Por muy escéptico que seas con la inteligencia artificial, lo que ha impresionado a todo el mundo es esto: estas cosas aprenden sintaxis. No pensé que fuera a resultar cierto".

BabyLM: entrenar a escala infantil

¿Y qué hay de aprender a partir de una muestra pequeña de lengua, del tamaño de la de un niño?

Alex Warstadt, lingüista y científico de datos, convirtió esa pregunta en una competición. Con Leshem Choshen y otros fundó BabyLM, un certamen anual para entrenar modelos con conjuntos pequeños.

La prueba principal exige un corpus "plausible desde el punto de vista del desarrollo" de apenas 100 millones de palabras; la categoría infantil permite 10 millones, tomados de cuentos, diálogos, subtítulos, Wikipedia y transcripciones de habla dirigida a niños.

Los modelos se evalúan con las pruebas gramaticales que los psicolingüistas usan con personas, que buscan señales de desconcierto ante rasgos agramaticales: por ejemplo, comparar "Las llaves del armario están sobre la mesa" con "Las llaves del armario está sobre la mesa". En una persona esa sorpresa se mide siguiendo los ojos; en un modelo se usa una medida llamada sorpresa.

El hallazgo inesperado: el currículo no ayudó

La competición ya ha puesto en cuestión algunas suposiciones. Una era el aprendizaje por currículo: empezar con datos sencillos y subir hacia entradas complejas, como arrancar con habla infantil. Fue el enfoque más popular en la primera edición y no funcionó tan bien como se esperaba.

Aaron Mueller, informático de la Universidad de Boston, lo explica: "Es difícil resistirse a su atractivo. Parece encajar de verdad con la forma en que creemos que aprenden los humanos. Pero da la impresión de que estos transformadores no necesitan que sus datos estén ordenados así para aprender con eficacia".

Quizá con cierta ironía, los mejores modelos de BabyLM no se inspiran en los bebés. El campeón de 2024, GPT-BERT, se entrenó en parte para predecir el siguiente token y en parte para rellenar huecos. Con unos 100 millones de palabras superó a Llama 2 70B —preentrenado con miles de veces esa cantidad— en una prueba de BabyLM.

Aun así, los modelos de BabyLM no están al nivel de los comerciales: muchos ni siquiera producen texto.

Qué falta: cuerpo, sentidos, curiosidad

Los niños no son programas descarnados cuya única experiencia llega por texto escrito. Algunos investigadores creen que las máquinas tendrán que aprender a través de los ojos y los oídos de los niños.

Frank y sus colegas usaron cámaras en la cabeza para ver cómo experimentan el mundo los bebés: "La experiencia de los niños resulta radicalmente distinta de lo que pensábamos. Está mucho más enfocada: tienen los brazos cortos, así que los objetos están justo delante. Y viven en un bosque de rodillas".

El proyecto SAYCam registró dos horas semanales de la vida de tres bebés. Brenden Lake, de Princeton, demostró que un modelo entrenado con 61 horas de ese material aprendió a identificar objetos y asociarlos con palabras, sin los sesgos incorporados que muchas teorías consideran necesarios. Pero añade: "Cuando terminamos el entrenamiento no obtenemos un niño de dos años".

Los niños eligen sus datos; los modelos los reciben

Para Gopnik el ingrediente que falta está en otra parte: "Los niños exploran activamente, lo que significa que eligen activamente sus propios datos. Están experimentando constantemente".

La investigación de su grupo muestra que lo que parece juego infantil es una forma eficaz de aprender causa y efecto: los niños buscan experiencias que maximizan su capacidad de producir un efecto previsible sobre el mundo.

Elizabeth Bonawitz, de Harvard, añade otra diferencia: a diferencia de los modelos, los niños saben lo que no saben y sienten el impulso de llenar esos huecos. Su investigación muestra que interpretan la información de otro modo cuando saben que un adulto intenta enseñarles algo: "Los niños no razonan solo sobre la evidencia que se les cuenta. Razonan sobre el maestro, sobre lo que el maestro sabe y sobre por qué les está dando precisamente esa información".

Eso difiere mucho de cómo aprenden los modelos: de forma pasiva y aislada. La edición pasada de BabyLM admitió modelos que aprenden interactuando con otros. No superaron a los estándar.

Por qué importa

Cerrar la brecha rendiría frutos en tres frentes distintos.

Lenguas minoritarias. David Samuel, investigador de aprendizaje automático en la Universidad de Oslo y uno de los arquitectos de GPT-BERT, tiene un motivo personal. Es checo y trabaja en Noruega, y hay muchos menos datos de entrenamiento en checo y noruego que en inglés. Lenguas minoritarias como el sami pueden contar solo con decenas de millones de tokens, más o menos la escala de exposición de un niño pequeño. Su pregunta: "¿Cómo podemos desarrollar modelos de lenguaje tan capaces como los ingleses para lenguas pequeñas?".

La cuestión vale también para el turco: no es una lengua minoritaria, pero el volumen de texto turco en internet es pequeño al lado del inglés. Cerrar la brecha permitiría entrenar modelos competentes en turco sin datos a escala del inglés.

Democratización. Warstadt quiere cerrar la brecha para que las universidades, sin recursos de hiperescala, puedan entrenar buenos modelos y seguir siendo relevantes.

Entendernos a nosotros mismos. Quizá el motivo más atractivo. Bonawitz era al principio escéptica sobre que los modelos revelaran algo de la cognición: los cerebros están encarnados, las neuronas son células vivas y el cerebro cambia mientras los modelos se preentrenan una sola vez. Aun así: "Estoy revisando en cierto modo mis creencias", dice.

Los investigadores usan ya los modelos como una rata de laboratorio lingüística: incorporan hipótesis —simulando grados de bilingüismo o privando al modelo de ciertas formas gramaticales— y las ponen a prueba de un modo imposible con niños reales.

Como dice Warstadt: "Los humanos hemos sido las únicas entidades del universo que usan lengua. Ahora hay otra entidad lingüística. Por fin tenemos un modelo; no en el sentido de modelo de lenguaje, sino en el de organismo modelo".

Dónde estamos

Los laboratorios de frontera no compiten por tomar prestados trucos de los niños. Gopnik cree que será la próxima generación de inteligencia artificial —lo que sustituya al transformador— la que aprenda de la psicología del desarrollo. El interés crece por otro flanco: la prueba NanoGPT Slowrun, lanzada en marzo de 2026, comparte los objetivos de BabyLM pero deja de lado la motivación del aprendizaje humano y apunta directamente a la eficiencia de datos.

Así que la brecha no está cerrada y no se conoce su causa. Pero ya se mide, y lo que se mide tiende, tarde o temprano, a convertirse en algo sobre lo que se trabaja.