Detrás de cada respuesta de una inteligencia artificial opera una inmensa maquinaria invisible de cálculo, capital y decisiones algorÍtmicas. Este especial destripa el proceso técnico de su entrenamiento para desvelar los lÍmites fÍsicos, geopolÍticos y corporativos que definen su verdadero poder.
Para entender cómo aprende una máquina, primero hay que mirar los ingredientes de la receta. El entrenamiento de cualquier modelo moderno no es magia ni programación tradicional: es una ecuación masiva sostenida por tres factores críticos. Si uno falla, el sistema se cae por completo. Es la combinación de datos masivos, potencia de cálculo de silicio y lógica matemática.
Sin datos, la máquina está en blanco. Los modelos actuales devoran bibliotecas enteras de texto: la web pública, libros digitalizados, repositorios de código y prensa. Por ejemplo, Llama 2 (Meta) consumió dos billones de tokens (las fracciones de palabras en que la IA divide los textos, equivalentes a unas 4 letras por token en español, sumando más de 1,5 billones de palabras) durante su adiestramiento inicial.
Esta sed insaciable de información ha desatado batallas legales históricas. Editoriales y autores reclaman que sus obras se usen sin permiso ni compensación, forzando a los laboratorios a comprar licencias o recurrir a datos sintéticos (información artificial generada por otros modelos).
La calidad de los datos es la que define la mente del sistema: si el corpus contiene prejuicios, alucinaciones o errores históricos, la máquina los asimilará como verdades absolutas.
Entrenar una red neuronal requiere resolver billones de operaciones matemáticas por segundo. Para ello se usan GPUs (Unidades de Procesamiento Gráfico), chips capaces de multiplicar miles de matrices en paralelo. Una sola tarjeta moderna Nvidia H100 rinde hasta 700 TFLOPS (700 billones de operaciones matemáticas por segundo) procesando grandes bloques multidimensionales de números llamados tensores.
La escala de los modelos punteros es colosal: el entrenamiento de GPT-3 requirió el equivalente a unas 10.000 GPUs trabajando en paralelo durante semanas, consumiendo cerca de 1.300 MWh. Los informes del Stanford AI Index Report 2024 estiman que los costes de cómputo para los supermodelos más potentes (como Gemini Ultra) superan ya los 190 millones de € en pura electricidad y servidores.
Este coste estratosférico crea una barrera de entrada casi insuperable, restringiendo la frontera del desarrollo a un selecto club de gigantes tecnológicos.
Clúster de supercomputación optimizado para cargas de trabajo de inteligencia artificial
Los datos y la potencia física no sirven de nada sin la receta matemática que define el aprendizaje. El núcleo algorítmico es la retropropagación (backpropagation), un método formalizado en 1986 que funciona como un 'corrector de errores' en vivo: evalúa el fallo del modelo al final y propaga los ajustes necesarios hacia atrás para modificar la fuerza o 'peso' (la importancia) de las conexiones en la red neuronal.
El punto de inflexión moderno llegó en 2017 con la arquitectura Transformer presentada por ingenieros de Google en el célebre estudio "Attention is All You Need". Al introducir el mecanismo de atención adaptativa, los modelos pudieron procesar textos en paralelo e identificar relaciones contextuales lejanas entre palabras.
Las innovaciones en algoritmos multiplican el rendimiento físico: permiten obtener modelos más capaces usando solo una fracción del hardware y de la energía requerida originalmente.
Internet está lleno de ruido, spam, duplicados y datos tóxicos. El entrenamiento no empieza con datos en bruto, sino con un gigantesco proceso de filtrado. Pasa el cursor sobre cada etapa del diagrama para ver cuánta información se descarta en el camino hacia la pureza del modelo.
El ruido mediático a menudo confunde el funcionamiento de estos modelos. Haz clic en las tarjetas para desmontar las creencias más extendidas y entender qué ocurre en realidad.
"ChatGPT lee la web en tiempo real y busca las respuestas en Google cada vez que le preguntas algo".
No busca en internet (salvo si tiene habilitada una herramienta de búsqueda activa). Los modelos operan de forma local sobre un mapa estático de parámetros ajustados en el pasado. Es una red matemática cerrada que predice palabras basándose en asociaciones probabilísticas previamente aprendidas.
"Una IA almacena y memoriza la Wikipedia e Internet en su disco duro para copiar fragmentos de texto".
No guarda páginas web, ni PDFs, ni imágenes. Durante el entrenamiento, los datos en bruto se procesan para ajustar conexiones matemáticas (parámetros) y se descartan inmediatamente. Lo único que queda en el modelo final son estadísticas de relación: la receta para generar texto, no los textos en sí.
"Ejecutar y usar un modelo consume la misma inmensa infraestructura y energía que entrenarlo."
Entrenar requiere miles de supercomputadoras interconectadas escribiendo pesos en paralelo durante meses (megavatios). Usar el modelo (el proceso llamado inferencia, que es simplemente cuando el modelo ya entrenado se ejecuta para responder preguntas) es pasivo y ligero: solo lee esos pesos y puede ejecutarse en una sola GPU o incluso localmente en tu teléfono móvil con un gasto eléctrico mínimo.
"Cada parámetro de la red representa una pieza de conocimiento concreto e identificable (como una neurona cerebral)".
Ningún parámetro contiene de forma aislada un concepto (por ejemplo, "la capital de Francia"). Son simples coeficientes decimales en multiplicaciones matriciales gigantescas. El conocimiento es una propiedad emergente de la interacción de miles de millones de estos pesos trabajando al mismo tiempo.
El camino hasta los supermodelos de hoy no ha sido lineal. Ha requerido siete décadas de evolución marcadas por inviernos de financiación y explosiones tecnológicas de escala. Conoce los hitos que definieron la historia del aprendizaje profundo antes de explorar los algoritmos matemáticos que lo hacen posible hoy.
Ajustar miles de millones de faders a mano es imposible para un ser humano. Por eso la máquina lo hace de forma automática usando un sensor de error: la función de pérdida. Este termómetro matemático mide el desvío entre las predicciones del modelo y las respuestas reales. El entrenamiento es, en esencia, la búsqueda sistemática del punto donde ese error es cero. Para lograrlo se usa el descenso por gradiente, un algoritmo que funciona como un senderista que desciende de una montaña en mitad de una densa niebla: solo puede sentir la inclinación del terreno bajo sus pies para saber hacia dónde caminar.
Instrucciones: Cambia el selector rotatorio y pulsa "Ajustar Parámetro". Si la tasa es muy baja, tardarás demasiados pasos en llegar. Si es muy alta, el modelo oscilará violentamente fuera del valle de pérdida.
Imagine el conjunto de todos los posibles ajustes de pesos como un terreno montañoso tridimensional. El "valle" representa el error cero (la perfección), mientras que los "picos" representan respuestas inútiles.
A través de la retropropagación, el algoritmo calcula la dirección de la pendiente más empinada cuesta abajo para avanzar lentamente hacia el valle. Si la tasa de aprendizaje es demasiado alta (el tamaño de la zancada de nuestro caminante por la montaña), el modelo dará saltos gigantescos de ladera en ladera y pasará de largo el fondo del valle. Si es demasiado baja (pasos microscópicos), tardará años en llegar.
Mapa tridimensional de los errores del modelo. La trayectoria roja muestra cómo la IA 'rueda' cuesta abajo sorteando colinas hasta dar con el fondo azul (el punto de mínimo error).
Experimenta el proceso del cálculo de error y retropropagación (Backpropagation). Observa cómo se modifican los pesos de las conexiones neuronales tras realizar una predicción errónea en vivo.
Cuando se habla de "entrenar" un modelo de lenguaje como los que hay detrás de los asistentes más conocidos, en realidad se habla de un proceso con al menos tres fases distintas, cada una con objetivos diferentes. Entenderlas ayuda a comprender por qué estos modelos hacen lo que hacen y por qué a veces fallan de maneras predecibles.
Ingenieros de alineamiento de IA analizando y etiquetando respuestas mediante RLHF para calibrar el comportamiento del modelo
La primera fase, el pre-entrenamiento, es la más costosa y la que da forma al conocimiento del modelo. Se le pide que prediga la siguiente palabra en billones de fragmentos de texto. Parece trivial, pero para hacerlo bien, el modelo necesita aprender gramática, hechos, razonamiento básico y estructura del lenguaje. Al terminar, el modelo es competente en lenguaje pero no necesariamente útil para seguir instrucciones.
El ajuste fino (fine-tuning) lo convierte en un asistente. Con una cantidad mucho menor de datos, pero de alta calidad y seleccionados cuidadosamente (ejemplos de conversaciones bien resueltas, instrucciones seguidas correctamente), el modelo aprende a comportarse como se espera de él. El RLHF (Reinforcement Learning from Human Feedback, aprendizaje por refuerzo con feedback humano) añade una capa adicional: evaluadores humanos puntúan las respuestas del modelo, y esas puntuaciones se usan para entrenarlo a producir respuestas que los humanos consideran preferibles.
¿Qué le ocurre a la red neuronal mientras pasan los días y los meses dentro del clúster de supercomputación? Explora la evolución temporal de la IA durante su adiestramiento inicial.
El modelo acaba de encenderse. Todos los parámetros de peso están inicializados con valores aleatorios. Si le pides escribir una frase, el modelo devolverá caracteres de ruido o palabras encadenadas sin sentido lógico, tales como "yuhf jsua eoe". Se consumen millones de FLOPs por segundo pero el error es del 100%.
Loss: 10,421 | Output: "g%2h.a sda* a9a"
El avance ha sido extraordinario, pero el proceso de entrenamiento arrastra problemas estructurales que los laboratorios más avanzados reconocen abiertamente. No son detalles técnicos menores: algunos afectan a la fiabilidad de los modelos, otros a su coste ambiental y otros a quién puede permitirse construirlos.
Los modelos predicen qué palabra es estadísticamente más probable, no cuál es verídica. Por ello inventan hechos con absoluta elocuencia. Ejemplos reales incluyen abogados sancionados por presentar escritos judiciales con jurisprudencia inventada por ChatGPT, o científicos citando investigaciones inexistentes sugeridas por modelos. Las alucinaciones no son fallos de programación, sino una consecuencia natural de su naturaleza probabilística.
Entrenar modelos grandes de frontera consume volúmenes de electricidad brutales. Solo el entrenamiento de GPT-3 emitió cerca de 502 toneladas de CO2, una huella de carbono equivalente a conducir 110 coches de gasolina durante todo un año o realizar 120 vuelos de ida y vuelta Londres-Nueva York. La computación requerida para mantener las búsquedas de inferencia diarias multiplica esta huella exponencialmente.
Los modelos absorben las correlaciones estadísticas de internet. Si en la web abundan los prejuicios, el modelo asocia con mayor probabilidad términos como "médico" con pronombres masculinos y "enfermero" o "limpiador" con femeninos. El ajuste fino supervisado y el RLHF imponen parches de seguridad, pero los sesgos de representación demográfica y cultural profunda siguen latentes en el núcleo del modelo.
Dado que entrenar un modelo puntero desde cero cuesta cientos de millones de dólares, solo un puñado de firmas multinacionales de EE. UU. y China controlan esta infraestructura. Esto concentra la tecnología con mayor potencial del siglo en consejos de administración privados, dejando a universidades, gobiernos y pequeñas empresas en un rol de meros usuarios o adaptadores secundarios.
A pesar de su inmenso poder, la optimización estadística conlleva fallos típicos que analizan los equipos de ingeniería.
Las alucinaciones son un subproducto inevitable de la decodificación de probabilidad (muestreo de temperatura). El modelo no busca hechos reales, sino las palabras que mejor fluyen probabilísticamente, inventando referencias académicas o bibliográficas con absoluta elocuencia.
El entrenamiento de modelos de IA ha alcanzado un nivel de madurez suficiente para que varias aplicaciones funcionen con fiabilidad en producción. Pero hay líneas de investigación activa donde los resultados aún son inconsistentes o incipientes. Distinguir entre ambas categorías es fundamental para tomar decisiones informadas.
El liderazgo en inteligencia artificial está concentrado, aunque no monolítico. Estados Unidos acumula la mayor parte de la investigación puntera y de la inversión privada. China ha invertido en construir capacidades propias, con restricciones crecientes de acceso a los chips más avanzados. Europa avanza en regulación y en modelos de menor escala pero solventes. Estos son los datos de inversión privada en IA por país en 2023, según el Informe sobre el Índice de IA de Stanford (2024).
En el plano corporativo, la brecha tecnológica y de capital define diferentes modelos de negocio y filosofías de diseño. OpenAI (estrechamente asociada comercialmente con Microsoft) y Anthropic (centrada en la IA constitucional y la investigación en seguridad) lideran el desarrollo comercial cerrado y propietario. En contraste, Meta AI ha adoptado una estrategia de código abierto distribuyendo de forma abierta la familia Llama para acelerar su adopción y estandarización. Por su parte, Google DeepMind consolida una integración vertical absoluta que combina chips de hardware propios (TPU), clústeres masivos globales y su familia nativa Gemini.
En China, gigantes de la computación como Baidu (con su buscador y chatbot Ernie Bot) o Tencent lideran el desarrollo de modelos adaptados a su ecosistema regulado interno, aunque condicionados por las restricciones occidentales a la importación de semiconductores. En la Unión Europea, laboratorios como Mistral (Francia) o Aleph Alpha (Alemania) defienden la soberanía tecnológica europea y abogan por modelos de menor escala pero gran eficiencia, diseñados para cumplir rigurosamente con el nuevo marco legal del EU AI Act.
Las leyes de escala (*scaling laws*) —la regla empírica que indica que si aumentamos proporcionalmente la cantidad de datos, el tamaño del modelo y la potencia informática de cálculo, la IA se vuelve más inteligente de manera predecible— demuestran que a mayor tamaño de modelo, mayor inteligencia. Pero esto tiene un coste económico exponencial. Compara los costes aproximados de pre-entrenamiento de los modelos que han definido la historia de la inteligencia artificial, actualizados con la frontera de 2026.