Raquel Nebreda, responsable de Analítica Avanzada para el sector financiero de NTT Data.
Un cliente solicita un crédito. No hay otra persona frente a él, solo una web. Un sistema decide. En segundos, la respuesta aparece en su pantalla: denegado. El banco cumple la norma. El algoritmo funciona. Pero el cliente no entiende nada. Aquí empieza el verdadero debate sobre la inteligencia artificial en banca.
La IA es parte del negocio bancario en España desde hace más de dos décadas. Evalúa riesgos, detecta fraude, segmenta clientes y optimiza procesos. Funciona bien. A veces, muy bien. Modelos y algoritmos que son buenos para el propósito para el que fueron diseñados, aunque también presentan sesgos o no logran siempre explicar sus procesos. Se decide sobre personas, lo que obliga a redoblar esfuerzos y vigilancia.
En banca, el ejemplo paradigmático es el credit scoring en la concesión de préstamos. Potenciado con el uso de la IA, avala o evita decisiones que afectan a derechos, oportunidades y bienestar económico: pilares fundamentales de nuestra sociedad.
Europa ha reaccionado con regulación. La AI Act marca un antes y un después. Clasifica sistemas, fija obligaciones y pone el foco en los usos de alto riesgo.
La regulación es necesaria, pero cumplirla no garantiza decisiones justas ni genera confianza por sí sola. La IA responsable no es un ejercicio burocrático para cumplir con la regulación, sino que debe verse como un habilitador para crear oportunidades de negocio que dispongan de todas las garantías. Un vehículo para llevar la economía 'real' a las capas productivas y a los hogares de una manera ética y responsable.
La clasificación de alto riesgo de la AI Act es acertada. Obliga a elevar el nivel de exigencia. Gestión de datos, supervisión humana, trazabilidad, explicabilidad, monitorización. No como formalidad, sino como disciplina diaria.
En el sector financiero sabemos gestionar riesgos. Llevamos décadas haciéndolo. Sin embargo, ahora nos encontramos ante una nueva revolución que nos obliga a repensar muchas de nuestras prácticas. La tentación más frecuente es tratar a la IA moderna como un simple algoritmo. Es un sistema que aprende, generaliza y, a veces, reproduce desigualdades: los sesgos.
El sesgo no nace del algoritmo. Nace de los datos, de los objetivos y de las decisiones humanas previas. Las variables utilizadas en la toma de decisiones son como un iceberg: puede haber causas subyacentes 'sumergidas' que no dan la cara y que pueden amplificar una desigualdad, una exclusión, etc. Algo que, bien identificado y tratado, no contamina ni sesga las decisiones futuras.
En banca, esto no es teoría. Un modelo puede penalizar a ciertos barrios, a trabajadores temporales o a perfiles con historiales no convencionales. Puede hacerlo sin intención, pero el impacto es real, al igual que la responsabilidad.
Ese camino estamos transitando. El estado del arte actual de la gestión, la presencia de un supervisor, la vasta normativa (de buen gobierno, guía de modelos del ECB, etc.) y la cultura del riesgo posicionan a la banca como un sector con mucho camino recorrido en la adopción de los nuevos estándares.
Un banco responsable debería, como mínimo, hacer cinco cosas. Primero, asegurar datos representativos y bien gobernados. Segundo, medir sesgos por colectivos, no solo promedios. Tercero, explicar decisiones de forma comprensible para clientes y empleados. Cuarto, garantizar supervisión humana. Quinto, vigilar el modelo en producción y corregir rápido cuando algo falla. Es gestión del riesgo, algo en lo que nos especializamos hace siglos, aplicada al gobierno de la IA.
Al mismo tiempo que los bancos utilizan IA, los propios supervisores también aplican tecnología para supervisar mejor. SupTech, la tecnología de supervisión, no es simplemente una moda, sino una necesidad ante entidades complejas que inundan los centros de datos de sus supervisores.
Aquí se produce una paradoja interesante. Los bancos usan IA para decidir. Los supervisores usan IA para entender esas decisiones, supervisar y vigilar riesgos micro y macro prudenciales. Ambos necesitan confianza mutua, criterios comunes y capacidad técnica.
Bajo este nuevo ecosistema de vigilancia, surge el verdadero desafío de fondo. La pregunta clave no es si la banca puede usar IA. Puede y debe. La pregunta es si puede hacerlo sin perder legitimidad social y asegurando la confianza de sus clientes. Y eso solo se logra si la IA no se percibe como una caja negra que excluye, sino como una herramienta que decide mejor y de forma más justa.
La AI Act marca el suelo. Las guías de la Agencia Española de Supervisión de Inteligencia Artificial ofrecen indicaciones. Pero el camino lo recorren las entidades y supervisores, día a día. La IA responsable no se demuestra cuando todo funciona. Se demuestra cuando el modelo falla y el banco responde. Detrás de cada decisión, ahora automática, hay una persona esperando una explicación. Una vez más, la confianza sigue siendo el activo más valioso.
*** Raquel Nebreda es responsable de Analítica Avanzada para el sector financiero de NTT Data.