Los aciagos, ominosos, infaustos, funestos y calamitosos augurios sobre el futuro de la Humanidad ante la todopoderosa inteligencia artificial siguen en el candelero, una semana más, pese a que poco a poco se va imponiendo la sensatez sobre el sensacionalismo de unos y el oportunismo de otros. Podría, por tanto, dedicar este espacio a seguir desmontando las mil y una insensateces que se han promulgado al respecto en los últimos días, pero creo que conviene ir un paso atrás para entender el absurdo de este fenómeno discursivo.

Tanto los predicadores del fin del mundo como los instigadores de la burbuja de la IA se escudan en los datos para defender sus argumentos. Estos, en el poder que demuestran sus modelos en diferentes benchmark, donde la rivalidad por subir un par de puntos en la escala puede hacer que una compañía u otra sea la preponderante en cada momento. Aquellos, para constatar que la IA ya es tan inteligente (valga el eufemismo, teniendo en cuenta que no deja de ser un sistema probabilístico) que es capaz de amenazar la existencia humana.

No puedo dejar de asombrarme cuando veo cómo las redes sociales han hecho del benchmark de turno una suerte de tótem. Se publica una puntuación, se añade una flecha verde, se proclama que un modelo ha superado a otro por 1,7 puntos y durante unas horas asistimos al ritual de siempre: inversores celebrando, desarrolladores cambiando de proveedor, expertos improvisados anunciando que la superinteligencia ya está aquí o, según el caso, que China ha ganado la guerra tecnológica antes de comer.

Lo irónico de todo es que ambos bandos, tanto los neoluditas como los entregados a la causa, están construyendo ídolos con pies de barro. Darwin escribió que "la ignorancia engendra confianza con más frecuencia que el conocimiento". Hoy, más de siglo y medio después, la inteligencia artificial ha conseguido convertir datos de dudosa calidad en premisas supuestamente válidas sobre la capacidad de una máquina que nadie termina de comprender en realidad.

Porque antes de lanzarse a debatir sobre si la inteligencia artificial es tan poderosa como para que alguien tenga que pulsar un botón de pausa, haría falta saber con un mínimo de seriedad qué es exactamente lo que mide esa supuesta potencia. Y ahí empieza el problema: ahora mismo estamos construyendo discursos políticos, valoraciones empresariales, marcos de seguridad y páginas enteras de ansiedad colectiva sobre unos instrumentos de medición que, en demasiadas ocasiones, se parecen a una regla de plástico usada para calcular la profundidad del océano.

Maike Osborne, profesora de Machine Learning y codirectora de la Oxford Martin AI Governance Initiative, y Fazl Barez, investigador sénior y director técnico de la misma iniciativa, han sido claros esta misma semana sobre este tema: "Desgraciadamente, nuestras mediciones sobre la IA siguen siendo rudimentarias". Llegan a comparar como "volar ciegos" la loca espiral en que estamos inmersos, aludiendo además a que "los marcos de seguridad de cada gran desarrollador son vagos y difíciles de operar".

A favor de su premisa, que la propia Anthropic ya alertó en febrero de que sus propios sistemas de evaluación de los modelos no estaban lo suficientemente desarrollados como para ofrecer respuestas concluyentes. Admitía, de hecho, que sus pruebas ya no permiten afirmar que el riesgo biológico de un modelo sea bajo, pero tampoco bastan para demostrar que sea alto. ¿Cómo es posible que desde esa ambigüedad, sin que haya habido progresos sustanciales en la medición en estos meses, ahora puedan afirmar con rotundidad que son sabedores de los riesgos apocalípticos de esta tecnología?

Difícil de creer, salvo que aventuremos otras intenciones al dar este golpe de timón, como ya comentamos la pasada semana.

Incluso el tan mentado AI Index 2026 de Stanford, usado incluso por reguladores de todo el mundo para justificar sus proclamas, recoge la imposibilidad de tener unos datos base fiables para entender el fenómeno de la inteligencia artificial. En sus evaluaciones, nueve nada menos, la proporción de preguntas inválidas osciló entre el 2% y el 42%. ¿Alguien aceptaría un diagnóstico médico en que el 42% de las preguntas del análisis fueran defectuosas? ¿Por qué lo aceptamos como verdad absoluta al hablar de IA?

Hay algo intrínsecamente humano en esta necesidad de creer en cifras, aunque éstas resulten científicamente irrelevantes: nos ofrecen una ilusión que la realidad no concede, la de que estamos comparando objetos perfectamente delimitados, cuando en realidad tratamos con sistemas opacos, cambiantes y particularmente sensibles a las condiciones de cualquier prueba que se les aplique.

Hay mucho, mucho ruido en todo este universo de pruebas y tests. Otro ejemplo de ello: el METR lleva a cabo su particular estimación de "horizonte temporal", una métrica que intenta calcular la duración de las tareas que un agente puede completar con un 50% de éxito. En sus últimas ejecuciones, Claude Opus 4.5 pasó de una estimación de 289 minutos a 320 minutos tras actualizar el conjunto de tareas y la infraestructura de evaluación. La horquilla, aun mejorada, quedó entre 170 y 729 minutos. GPT-5 subió un 55% con el nuevo protocolo; versiones de GPT-4 descendieron entre un 35% y un 57%.

Demasiado baile de cifras en muy poco tiempo. Y no es que los modelos se hubieran vuelto más inteligentes de repente y otros perdieran "neuronas" (permítanme la ironía) de repente. Lo único que sucedió fue que cambió el dispositivo de medida.

Además, no podemos obviar que evaluar bien un modelo de inteligencia artificial cuesta dinero, mucho dinero. La ARC Prize Foundation calculó que ejecutar o3 sobre 100 tareas de su evaluación semiprivada, en la configuración de inferencia más exigente, tuvo un coste estimado de 456.000 dólares. El modelo obtuvo un 87,5%, sí, pero tras generar 1.024 muestras por tarea y consumir 5.700 millones de tokens.

Si una prueba exhaustiva de seguridad, con miles de ejecuciones, auditoría independiente y escenarios cambiantes, no está al alcance de cualquiera, ¿quién puede financiarlas? Casualmente las mismas empresas que pueden distorsionar los resultados a su antojo, ya sea ofreciendo una imagen de confianza o de temor absoluto de cara al futuro.

Entonces, se estará preguntando el estimado lector, ¿es imposible medir la inteligencia artificial? ¿Debemos resignarnos a carecer de información sobre el rendimiento y potencial -positivo y negativo- de la IA? Nada más lejos de la realidad.

Medir la inteligencia artificial ha sido, es y será imprescindible, pero medirla mejor será urgente e imperativo. Pero debemos partir de la base de que aún no poseemos un metro capaz de convertir las capacidades heterogéneas, el coste, la fiabilidad, la autonomía, la robustez, el contexto de uso y los riesgos de un modelo en una única cifra con vocación de verdad.

Que no se entienda este análisis como una justificación del inmovilismo o de la despreocupación. Al contrario: lo que el sector, la empresa y la sociedad en su conjunto necesitan son evaluaciones independientes, dinámicas, adversariales y ajustadas al entorno real; publicación de metodologías, costes e intervalos de confianza; auditorías del propio evaluador; además de análisis de los sistemas en colaboración con personas y no sólo en aislamiento de laboratorio.

Y, sobre todo, apostar por una prudencia intelectual que parece escasear en nuestros días. El tsunami apocalíptico de estos últimos días debería dejarnos a los medios de comunicación, creadores de contenido y tertulianos varios el poso de hablar con seriedad y rigor del tema. A los reguladores, el mandato de tomar decisiones basadas en argumentos fiables y no en cifras adulteradas o insuficientes. Y, a las empresas protagonistas del ramo, el mensaje claro de que su espuma retórica no va a imponerse en el imaginario colectivo mientras haya personas dispuestas a seguir desentrañando sus telarañas.