'Shadow AI': las empresas están poniendo datos sensibles en peligro con la inteligencia artificial sin siquiera saberlo

Las organizaciones llevaban años intentando delimitar dónde terminaba su información corporativa y hasta dónde debían proteger su antaño perímetro de confianza. Muchos términos se aglutinan en torno a estos aspectos: infraestructura, red interna, nube corporativa, accesos remotos... Cada generación tecnológica ampliaba esas fronteras, incluso diluyéndolas, pero con la inteligencia artificial el propio dato se está convirtiendo en el activo de riesgo, no por mérito de los ciberatacantes, sino por dejadez e inconsciencia de los propios trabajadores.

No se trata de fugas tradicionales, ni de copiar fuera del perímetro las bases de datos, ni siquiera de descargas masivas de información confidencial. Ahora estos documentos sensibles se mueven ahora en forma de conversaciones naturales con chatbots: un correo se pega en un asistente generativo para reescribirlo, un documento se resume en una herramienta externa, un fragmento de código se consulta fuera para entenderlo mejor.

En todos los casos la acción se percibe como productiva, incluso como parte intrínseca y orgánica del trabajo diario, pero introduce un intermediario que no pertenece al entorno corporativo y cuyo tratamiento de los datos es cuanto menos discutible.

¿Estamos construyendo un nuevo 'shadow IT' alrededor de la inteligencia artificial? Los datos demuestran que sí

“Existe el concepto hoy en día del 'shadow AI'. Yo tengo aquí mi suscripción gratuita de ChatGPT y voy a recoger este mail que tengo con datos de cliente y me lo voy a poner bonito. ¿Dónde van esos datos? ¿Quién está utilizando esa información? Estamos permitiendo que interactúen con terceros con datos propios de la compañía”, reflexiona José de la Cruz, director técnico para España y Portugal de la recién renombrada TrendAI.

No es una preocupación baladí. Según un reciente estudio de Netskope, el número de usuarios de aplicaciones de IA generativa en entornos empresariales se ha triplicado en el último año, mientras que el volumen de interacciones con estos servicios, medido en prompts enviados, se ha multiplicado por seis. Pero el 47% de los usuarios reconoce acceder a estas herramientas a través de cuentas personales o aplicaciones no gestionadas por la organización, lo que reduce de forma directa la visibilidad sobre qué datos se comparten y en qué condiciones.

La consecuencia es que la visibilidad se convierte en el primer problema antes incluso que la protección. No siempre se trata de que la organización utilice IA de forma deliberada, sino de que sus empleados la utilizan en su día a día sin ningún tipo de control o medida de seguridad (o, tan siquiera, un mínimo sentido común). “Hay dos tipos de empresa, los que usan la IA y lo saben y las que usan la IA y no lo saben, pero todos la usan”, sentencian desde TrendAI.

Y es que, mientras tanto, la adopción dentro de las empresas avanza sin una planificación homogénea. Los proyectos formales conviven con usos espontáneos, herramientas embebidas en aplicaciones y experimentación individual. En una revisión interna, en TrendAI llegaron a detectar “44 iniciativas en la organización que no habían identificado”, resultado de necesidades concretas resueltas directamente por usuarios o departamentos sin coordinación centralizada.

El riesgo también está en la respuesta

Ese desplazamiento cambia también el tipo de riesgo, porque los problemas no se limitan únicamente a la extracción involuntaria de datos fuera de la empresa. Hasta ahora la seguridad se centraba en evitar esos accesos o fugas de información, pero la interacción con modelos de inteligencia artificial introduce otra dimensión: la respuesta. Lo relevante deja de ser solo qué información se mueve y en qué direcciones, sino qué devuelve el sistema y cómo puede condicionar decisiones de la empresa o sus trabajadores.

“Ya no solamente lo que yo le pregunto y qué información le doy al sistema para ello, sino lo que me está devolviendo la IA. Si yo soy capaz de generar un prompt lo suficientemente ingenioso para que pase a los controles, ¿qué me va a devolver? ¿Puede permitirme robar datos de mi compañía?”, se preguntan los expertos de la firma de ciberseguridad.

Eso en lo que apela a usuarios internos, pero también los externos pueden manipular fácilmente esas respuestas. Y podríamos pensar que los entornos cerrados quedan al margen, pero el problema no depende únicamente del acceso sino de la integridad del conocimiento que alimenta al sistema. “Alguien podría llegar a envenenar esos datos y alterar la respuesta. Imaginamos un hospital donde confiamos en la guía para dosificar medicamentos y alguien modifica la información”.

Menos barreras para la ciberdelincuencia

El otro lado del ecosistema, el de los buenos, tampoco permanece estático ante estos cambios de tornas donde la disponibilidad de herramientas y datos ha rebajado la barrera técnica para el delito digital: “Hoy en día vas a comunidades de ciberdelincuentes y preguntas quién tiene un malware. Con un presupuesto limitado puedes formar un ataque serio y utilizar una botnet para colocarlo”.

La mejora de calidad en los engaños alimentados por inteligencia artificial se percibe especialmente en campañas conocidas. “El nivel de calidad de los phishing ha sido exponencial. Antes estaba mal escrito, ahora viene perfecto con el formato y lenguaje gracias a la IA y el impacto es mucho mayor”, añaden desde TrendAI.

En paralelo, la conversación dentro de las compañías empieza a trasladarse del ámbito técnico al económico. Los responsables necesitan explicar riesgos en términos comprensibles para la dirección: “Si no abordas esto te va a costar entre uno y cinco millones”, señalaban desde la enseña al describir intentos de cuantificar el impacto potencial.