¿Qué ocurrió?
En la conferencia Ai4 celebrada en Las Vegas, tres de los investigadores de IA más respetados del mundo —el premio Nobel Geoffrey Hinton, la consejera delegada y cofundadora de World Labs Fei-Fei Li y el cofundador de Coursera Andrew Ng— se pronunciaron sobre la cuestión de la apertura. Aunque discreparon en tácticas concretas, los tres defendieron con fuerza que la IA siga abierta.
El terreno del debate es este: mientras proyectos como Pacing the Frontier miran hacia los grandes laboratorios como vía para mantener segura la investigación en IA, los modelos de código abierto se han convertido en un punto delicado para el sector. Por su distribución libre y el escaso control sobre cómo se usan, los modelos de pesos abiertos no son fáciles de controlar, lo que lleva a algunos laboratorios a considerarlos directamente inquietantes.
La preocupación común: los guardianes
Para los tres ponentes, la preocupación central era permitir que un puñado de grandes empresas de IA controlara el ritmo del avance. Cuando unas pocas empresas controlan el acceso a una tecnología, como hacen Apple y Google con los sistemas operativos móviles, la innovación puede ralentizarse y quienes controlan las plataformas pueden influir en lo que se construye sobre ellas.
Andrew Ng dijo que le preocupaba que surgiera una dinámica parecida en la IA: "No quiero que haya guardianes de la puerta. Eso limita cómo todos podemos acceder a la IA".
La receta de Ng
Las empresas tienen incentivos para proteger sus ventajas competitivas, incluso influyendo en las normas que rigen el sector. Eso podría generar una dinámica en la que solo las firmas más grandes y mejor capitalizadas tengan recursos para construir los sistemas de IA más avanzados.
La solución de Ng pasaba por mantener varios proveedores, con modelos y empresas compitiendo, en lugar de permitir que un puñado de actores domine el campo: "Si tuviera que dar una sola receta, sería promover la apertura, porque la IA es una tecnología asombrosa y quiero que esté en manos de todos".
La objeción de Hinton
No todos coincidían en que los modelos de pesos abiertos ayuden a preservar ese equilibrio. Hinton, en particular, trazó una distinción:
- Software de código abierto: pone el código subyacente a disposición para inspeccionarlo y modificarlo.
- Modelos de pesos abiertos: publican los parámetros de un modelo de IA ya entrenado.
En palabras de Hinton: "El código abierto es estupendo. Le enseñas el código a la gente y muchas personas miran las líneas y dicen: 'Ah, aquí hay un error'". Con los pesos abiertos esa inspección no funciona igual: ver los parámetros no equivale a ver un error.
¿Por qué es importante?
La distinción está en el centro del debate porque la "apertura" no es una sola cosa. Publicar los pesos de un modelo no equivale a hacerlo inspeccionable; la inspección no ofrece la lectura directa que sí permite el software de código abierto.
Frente a eso, que los pesos se puedan descargar es justamente lo que hace que las afirmaciones sean comprobables de forma independiente. Ambas partes tienen, por tanto, un argumento real, y por eso el debate no se cierra.
Qué no está cerrado
La información se apoya en una sesión de conferencia y recoge las declaraciones destacadas de los ponentes más que sus posturas completas. La posición de Fei-Fei Li sobre esta distinción concreta no se detalla en la información.