Gran Empresa ENTREVISTA

Richard Marko, CEO de Eset: "Todos los componentes para crear agentes capaces de planificar ataques ya existen"

En entrevista con DISRUPTORES, el directivo defiende que Europa necesita capacidades propias para afrontar esta nueva etapa de la ciberseguridad.

Más información: La OTAN y Europol alertan de una nueva escalada de guerra híbrida en Europa

Berlín (Alemania)
Publicada
Actualizada
Las claves

Las claves

Richard Marko, CEO de Eset, afirma que ya existen los componentes necesarios para crear agentes de IA capaces de planificar ataques autónomos.

Eset anuncia una inversión de 40 millones de euros para desarrollar tecnologías de ciberseguridad basadas en inteligencia artificial y lograr mayor independencia tecnológica.

Marko destaca que, aunque los atacantes aún no realizan ataques complejos con agentes de IA, la capacidad de automatizar tareas maliciosas crece rápidamente.

El CEO de Eset subraya la importancia de desarrollar modelos de IA especializados en ciberseguridad para garantizar fiabilidad y protección en el nuevo panorama digital.

Richard Marko lleva casi tres décadas vinculado a Eset. Entró en esta compañía eslovaca en 1996 como desarrollador de software y participó directamente en la creación de las primeras tecnologías de detección de malware.

En 2011 asumió el cargo de consejero delegado, una posición desde la que ha liderado la transformación de Eset de una empresa de antivirus a un proveedor de ciberseguridad, ahora con presencia en más de 180 países y que cuenta entre sus clientes a grandes firmas de todo el mundo.

Esta trayectoria le ha permitido ser testigo en primera línea de la evolución de las amenazas digitales en las últimas décadas. Desde los primeros virus informáticos a la profesionalización del cibercrimen, el auge del ransomware o cómo los Estados han convertido estas capacidades como parte de sus estrategias de presión geopolítica.

Ahora, en su opinión, el sector afronta una transformación todavía más profunda con la irrupción de la inteligencia artificial. Una tecnología que "marcará el mayor cambio vivido por la ciberseguridad en décadas", asegura durante la entrevista que mantiene con DIRUPTORES - EL ESPAÑOL en Berlín (Alemania).

La conversación tiene lugar durante el encuentro internacional organizado por la compañía y que reunió a representantes de la OTAN, Europol y la Agencia de la Unión Europea para la Ciberseguridad (ENISA) para analizar cómo la inteligencia artificial, la guerra híbrida y la soberanía digital están cambiando el panorama de la seguridad digital.

Fue también el lugar elegido para anunciar una inversión de 40 millones de euros para reforzar el desarrollo de tecnologías de ciberseguridad basadas en inteligencia artificial y avanzar, así, hacia una mayor independencia tecnológica.

Un objetivo que, según Marko, “será clave en un momento en el que la IA no sólo está transformando las herramientas de defensa, sino que empieza a convertirse también en una nueva superficie de ataque”.

De los antivirus a los agentes autónomos

Tras décadas analizando malware, ransomware y campañas de espionaje digital, Marko explica que el desafío ahora no es únicamente defenderse de los ataques, también consiste en gestionar los riesgos que introducen las propias herramientas de inteligencia artificial que las empresas están adoptando.

DISRUPTORES: ¿Qué está cambiando exactamente en el panorama de la ciberseguridad cuando la IA pasa a convertirse también en un vector de riesgo?

RICHARD MARKO: Estamos viviendo un momento en el que prácticamente todas las aplicaciones, empresas y flujos de trabajo incorporan inteligencia artificial de una forma u otra. Eso implica que las organizaciones tienen que empezar a plantearse cómo comparten su conocimiento y su información con estos sistemas.

Por ejemplo, cuando una persona utiliza un asistente de IA para realizar una tarea cotidiana, puede estar compartiendo información que en realidad es confidencial para la empresa. Hay que entender con qué sistemas se está interactuando y qué información se está proporcionando, ese es uno de los nuevos desafíos que aparecen.

"Estamos entrando en una nueva era y necesitamos nuevas formas de supervisar, controlar y proteger"

Pero quizá el cambio más importante es que las herramientas actuales ya permiten operar de forma autónoma. Hoy podemos tener agentes a los que se les asigna un objetivo y que son capaces de buscar por sí mismos la manera de alcanzarlo. A medida que esos agentes adquieren más autonomía, resulta cada vez más difícil comprender qué está ocurriendo exactamente en segundo plano.

Esto abre una superficie de ataque completamente nueva y obliga a desarrollar mecanismos de protección distintos a los que hemos utilizado hasta ahora. Estamos entrando en una nueva era de la ciberseguridad y necesitamos nuevas formas de supervisar, controlar y proteger estos sistemas.

D.: Si antes abrir un correo malicioso era una de las principales puertas de entrada para un ataque, ¿qué sería hoy el equivalente en un mundo lleno de agentes de IA?

R.M.: Uno de los conceptos que ha ganado popularidad recientemente son las AI Skills. Imaginemos un agente al que se le asigna una tarea: encontrar información, responder automáticamente a determinados mensajes o completar un objetivo concreto. Para hacerlo, el agente necesita instrucciones que le indiquen cómo actuar. Esas instrucciones son las skills.

Las skills pueden ser extremadamente útiles y aportar mucho valor, pero, como ocurre con cualquier tecnología potente, también pueden utilizarse con fines maliciosos.

El CEO de Eset durante su intervención en Berlín.

El CEO de Eset durante su intervención en Berlín.

Nuestra investigación muestra que estamos asistiendo a una explosión de este ecosistema. Hace apenas unos meses observábamos decenas de miles de skills públicas. Hoy vemos cientos de miles y el crecimiento es exponencial.

Lo relevante es que crear una skill resulta mucho más sencillo que desarrollar software tradicional. Basta con describir el comportamiento deseado en lenguaje natural. Los modelos actuales son capaces de transformar esas instrucciones en capacidades operativas muy potentes.

Por eso creemos que las AI Skills representan un nuevo elemento al que debemos prestar mucha atención desde el punto de vista de la seguridad.

Ventaja temporal

Frente a quienes ven en la inteligencia artificial una ventaja inmediata para los ciberdelincuentes, Marko sostiene que los defensores están aprovechando mejor las capacidades actuales de estos sistemas. Al menos por ahora, porque la evolución de los agentes autónomos apenas acaba de empezar.

D.: En esta nueva etapa de la ciberseguridad, ¿quién cree que está avanzando más rápido: los atacantes o los defensores?

R.M.: No creo que exista una razón para alarmarse excesivamente. De hecho, diría que los avances más recientes están ayudando más a los defensores que a los atacantes.

Los grandes modelos de lenguaje son herramientas extraordinariamente potentes. Permiten generar código, analizar información, automatizar tareas y aumentar enormemente la productividad de los equipos de seguridad.

"De momento, los avances más recientes están ayudando más a los defensores que a los atacantes"

Sin embargo, siguen teniendo limitaciones importantes. Son capaces de producir resultados muy convincentes, pero eso no significa necesariamente que siempre sean correctos o fiables. Y en ciberseguridad la fiabilidad es fundamental.

Por eso, aunque estas tecnologías aportan capacidades muy valiosas, todavía requieren supervisión humana. Los modelos son muy potentes, pero no son realmente inteligentes en el sentido en que entendemos la inteligencia humana.

Desde nuestra perspectiva, los beneficios actuales para los defensores son probablemente mayores que para los atacantes.

Además, en Eset estamos acostumbrados a trabajar a gran escala. Analizamos cientos de miles de nuevas muestras de malware cada día. Gestionar cientos de miles de AI Skills es un desafío importante, pero entra dentro del tipo de problemas que sabemos abordar.

D.: ¿Cuáles son los ataques más preocupantes que están viendo relacionados con agentes e inteligencia artificial?

R.M.: Todavía estamos en una fase muy temprana. Por ahora, vemos principalmente automatización de tareas relativamente sencillas. Los agentes todavía no están diseñados para ejecutar ataques extremadamente complejos de forma autónoma. Sin embargo, esto es una cuestión de tiempo.

Lo que observamos actualmente es una creciente capacidad para automatizar actividades que antes requerían intervención humana. La sofisticación todavía es limitada, pero el ritmo de evolución es muy rápido.

Debemos recordar que todo esto ha surgido hace apenas unos meses. Estamos ante un fenómeno extremadamente reciente.

D.: ¿Cuál es el error más frecuente que están cometiendo las empresas al implantar copilotos y agentes de IA?

R.M.: La cuestión principal es cómo se utilizan los modelos. Nosotros creemos que los modelos especializados en ciberseguridad, entrenados específicamente con datos de ciberseguridad, son una aproximación más eficaz que simplemente añadir capas de seguridad sobre modelos generalistas.

Los agentes basados en modelos generalistas heredan muchas de las limitaciones de esos sistemas. Son muy útiles para determinadas aplicaciones, pero no constituyen una solución completa.

Por eso apostamos por desarrollar modelos específicamente diseñados para ciberseguridad. Creemos que esa especialización será cada vez más importante.

D.: ¿Hay algún escenario relacionado con agentes de IA y ciberseguridad que hoy parezca exagerado o propio de la ciencia ficción, pero que usted considere plausible en el futuro?

R.M.: Cuando hablamos de agentes capaces de planificar objetivos de forma autónoma, es perfectamente imaginable que en el futuro puedan diseñar estrategias complejas para alcanzar esos objetivos.

Por ejemplo, un agente podría llegar a la conclusión de que comprometer varios sistemas le permitiría alcanzar una meta determinada de forma más eficaz. Podría evaluar diferentes caminos, identificar obstáculos y decidir cómo superarlos.

No hemos visto todavía algo así en el mundo real, pero todos los componentes técnicos necesarios para construir sistemas de ese tipo ya existen.

Por eso no lo considero ciencia ficción. Me parece una evolución natural de las capacidades que estamos viendo aparecer. Y precisamente por eso debemos prepararnos.

Ciberseguridad en la era de la IA

A medida que los agentes ganan autonomía y los modelos fundacionales adquieren nuevas capacidades, el sector afronta una transformación que, según Marko, recuerda a la que vivió con la llegada del cloud o la movilidad, aunque con implicaciones mucho mayores. En un escenario en el que parte de la protección podría integrarse directamente en los propios sistemas de inteligencia artificial, la pregunta es inevitable.

D.: ¿Qué papel seguirán desempeñando las empresas de ciberseguridad?

R.M.: La ciberseguridad seguirá siendo necesaria, lo que cambiará serán las herramientas y los enfoques. Nuestra visión es que los modelos fundacionales especializados en ciberseguridad deben proporcionar algo esencial: fiabilidad.

No buscamos únicamente generar respuestas plausibles, necesitamos sistemas que produzcan resultados consistentes y verificables.

"La ciberseguridad seguirá siendo necesaria, lo que cambiará serán las herramientas y los enfoques"

Además, estamos explorando nuevas aproximaciones, como los llamados world models, que intentan comprender relaciones de causa y efecto dentro de los sistemas digitales y no se basan únicamente en correlaciones estadísticas. Este tipo de avances permitirá construir defensas mucho más eficaces en el futuro.

D.: Han anunciado una inversión de 40 millones de euros. ¿Cómo se distribuirá?

R.M.: Se trata de un plan a tres años. La inversión se destinará principalmente a tres áreas: la ampliación de nuestros equipos de investigación, el desarrollo de nuevos modelos especializados en ciberseguridad y la construcción de la infraestructura necesaria para operar estos sistemas de forma independiente.

La independencia tecnológica es una parte importante de nuestra estrategia. Queremos disponer de capacidad propia para desarrollar y ejecutar estos modelos sin depender completamente de terceros.

Por eso una parte relevante de la inversión se dirigirá tanto al talento como a la infraestructura tecnológica necesaria para sostener esa visión a largo plazo.