Cora Vinagre Sendino, de FSAS Technologies, y José Delgado, CEO de Qaroní, charlan en la mesa redonda del Foro Empresa Resiliente
La advertencia de los expertos sobre la IA en las empresas: “Si no la regulas tú, la usarán tus empleados”
Expertos del Foro Empresa Resiliente advierten de que muchas empresas ya usan inteligencia artificial sin saberlo: trabajadores que copian datos internos en herramientas públicas, decisiones automatizadas sin supervisión y ausencia de normas internas
Cobertura completa: Foro Empresa Resiliente de Quincemil
La inteligencia artificial ya está entrando en las empresas gallegas, pero muchas veces lo hace sin normas internas, sin supervisión y sin que las propias compañías sean plenamente conscientes del riesgo que asumen. Esa fue una de las principales advertencias lanzadas durante la mesa sobre riesgos legales, datos e inteligencia artificial celebrada en el Foro Empresa Resiliente.
“Si tú te niegas a formalizar el uso de la inteligencia artificial dentro de tu organización, se va a utilizar sin tu consentimiento”, alertó José Delgado, CEO de Qaroni, durante el encuentro. El experto explicó que muchos trabajadores ya recurren a herramientas como ChatGPT, Gemini o Copilot para agilizar tareas diarias, incluso aunque la empresa no haya establecido todavía ninguna política sobre su uso.
El problema, según los participantes, no es únicamente tecnológico. “El principal reto que afrontan las empresas es cultural”, defendió Delgado. Las compañías manejan grandes cantidades de información, pero muchas veces desconocen qué datos se están utilizando en sistemas de IA, cuál es su calidad o incluso quién tiene acceso a ellos.
“La IA no es una herramienta más”
Cora Vinagre, responsable de innovación en Fsas Technologies —la antigua Fujitsu—, insistió en que muchas empresas están tratando la inteligencia artificial como si fuese simplemente “el nuevo Excel” o “el nuevo PowerPoint”, cuando en realidad afecta directamente a procesos internos, permisos de acceso y gestión de información sensible.
“La gente piensa que basta con decirle a la IA: ‘No mires los archivos confidenciales’, pero entra igual”, explicó durante el debate.
La experta puso como ejemplo el reciente despliegue interno de Copilot dentro de Microsoft 365 en grandes corporaciones tecnológicas. Según indicó, incluso en compañías especializadas en tecnología todavía se están descubriendo los riesgos reales derivados del uso de estas herramientas.
Por eso, ambos coincidieron en que el primer paso no es comprar tecnología, sino establecer normas claras dentro de la empresa: qué herramientas pueden utilizarse, para qué tareas y qué datos está permitido introducir.
Foro Empresa Resiliente: Los riesgos legales y la responsabilidad de los datos y la IA
El riesgo de copiar datos internos en herramientas públicas
Uno de los escenarios que más preocupa a los expertos es el uso de herramientas públicas de IA con información corporativa o datos confidenciales.
“Hay trabajadores que creen que porque pagan una versión premium ya existe privacidad absoluta, y no siempre es así”, advirtió Delgado. Según explicó, algunos empleados pueden acabar copiando documentos internos, datos financieros o información de clientes en plataformas externas sin conocer realmente dónde terminan almacenados esos datos.
La situación preocupa especialmente en sectores como banca, seguros, recursos humanos o salud, donde la inteligencia artificial puede intervenir en decisiones sensibles.
Los expertos recordaron que el riesgo no está solo en la fuga de información, sino también en posibles sesgos o errores automatizados. Pusieron como ejemplo herramientas de selección de personal capaces de discriminar candidatos de forma indirecta mediante patrones ocultos, como el código postal o determinados perfiles estadísticos.
“La responsabilidad sigue siendo de la empresa”
Otro de los mensajes más repetidos durante la mesa fue que la responsabilidad legal no desaparece aunque la herramienta sea externa.
“La implantación se puede externalizar, pero la responsabilidad no”, resumió Delgado.
Es decir, aunque una compañía utilice soluciones desarrolladas por terceros, será igualmente responsable si la IA provoca un perjuicio, filtra información o toma decisiones discriminatorias.
Por eso, los participantes insistieron en la necesidad de implantar procesos internos de gobernanza de datos y supervisión humana. Entre las medidas básicas recomendaron clasificar las herramientas según su nivel de riesgo, limitar su uso en áreas sensibles y establecer validaciones humanas antes de aceptar cualquier respuesta generada por IA.
Formación y “sentidiño”
La mesa concluyó con una idea compartida por todos los participantes: la inteligencia artificial ya forma parte del día a día empresarial y prohibirla no es una solución realista.
“La gente la va a usar igualmente”, señalaron.
Por ello, defendieron que las empresas deben pasar de un uso “informal” a un uso “gobernado”, acompañado de formación específica para empleados y directivos.
“Hay que usar la tecnología con sentidiño”, concluyeron.
El Foro Empresa Resiliente de Quincemil tuvo lugar en Santiago de Compostela el pasado 29 de abril, con el apoyo de SABSEG, E.Nova Enerxía, AEGA (Asociación Empresarial Gallega de Ascensores) y Grupo Dimolk.
