La Innovation Manager, International Quantum Center de Fsas Technologies, Cora Vinagre Sendino, y el CEO de Qaroni, José Delgado, charlan con el Abogado TIC / Socio de Sistemius José Manuel Sendín.
La IA y sus riesgos legales para las empresas gallegas: "No es una herramienta tecnológica más"
Así de tajantes se mostraron ayer la Innovation Manager, International Quantum Center de Fsas Technologies, Cora Vinagre Sendino, y el CEO de Qaroni, José Delgado, en el Foro Empresa Resiliente celebrado en Santiago
Te puede interesar: José González, sobre el absentismo laboral en Galicia: "Tenemos que buscar soluciones entre todos"
Los riesgos legales y la responsabilidad de los datos y la IA es un debate candente a todos los niveles que ayer protagonizó una de las charlas del Foro Empresa Resiliente organizado por Quincemil en Santiago. La aplicación de nuevas herramientas obliga, cada vez más, a las empresas a adaptarse y esto pasa por establecer una gobernanza clara de qué aplicaciones usar, así de cuándo o cómo.
Estas fueron las principales conclusiones de la charla que mantuvieron ayer la Innovation Manager, International Quantum Center de Fsas Technologies, Cora Vinagre Sendino, y el CEO de Qaroni, José Delgado, con el Abogado TIC y socio de Sistemius, José Manuel Sendín, que señaló: "La tecnología no es buena ni mala, depende del uso que le demos".
"El reto principal que enfrentan las empresas es cultural. Hace tiempo que nos dimos cuenta de que tener datos es muy importante, pero importa también como los tienes, como los gobiernas", señaló Delgado, que indicó que es fundamental que las empresas sepan de dónde proceden los datos con los que trabajan para evitar problemas a la hora de usarlos para tomar decisiones.
Cora Vinagre Sendino, por su parte, señaló que "la inteligencia artificial no es una herramienta tecnológica más": "La gente la asume como un Excel pero va mucho más allá. No se puede emplear para cualquier cosa sin establecer un gobierno". Así, es fundamental acompañar la integración de la IA en la empresa con un proceso formativo y de regulación interna.
"La tecnología va tan rápido que no hay forma de crear un marco normativo que vaya a la velocidad a la que está evolucionando. La forma en la que se está haciendo frena la evolución y, por tanto, genera fugas de talento y de startup"
José Delgado, CEO de Qaroni
Pero, ¿supone la regulación un freno para la innovación? Delgado se confesó "bastante crítico" con cómo se está regulando la IA, un marco en el que lidera Europa: "Para hacer normas hay que tener autoridad. Se está intentando legislar algo que no se termina de entender, que está en constante evolución".
Así, el CEO de Qaroni señaló que más que establecer normas sobre tecnología, es fundamental que estas se centren en el impacto que pueden tener en el usuario final. "La tecnología va tan rápido que no hay forma de crear un marco normativo que vaya a la velocidad a la que está evolucionando. La forma en la que se está haciendo frena la evolución y, por tanto, genera fugas de talento y de startup", indicó Delgado.
El CEO de Qaroni, además, denunció que el marco normativo establecido por la Unión Europea afecta a las empresas asentadas en estos países, pero no a los productos usados en ellos y creados en China o Estados Unidos, lo que genera una "desventaja competitiva". Así, Delgado apeló no a dejar de crear normas, sino a hacerlas desde el punto de vista de qué se hace con las tecnologías y no de su creación.
Frente a la defensa de José Delgado de que se legisle sobre el uso de la tecnología más que sobre su desarrollo, Cora Vinagre Sendino señaló que es necesario ordenar las innovaciones para evitar que lleven a resultados negativos o malas praxis: "Si no lo usamos para lo que se concibió originalmente, habría problemas".
La Innovation Manager, International Quantum Center de Fsas Technologies, Cora Vinagre Sendino, y el CEO de Qaroni, José Delgado, en el Foro Empresa Resiliente celebrado en Santiago.
La Innovation Manager, International Quantum Center de Fsas Technologies ejemplificó esto haciendo referencia a un paper que leyó recientemente, según el cual unos científicos que habían desarrollado un algoritmo de IA para nuevos fármacos fueron invitados a dar una conferencia sobre mala praxis.
De cara a explicar este tipo de situaciones, cambiaron el algoritmo y en vez de pedirle que buscase moléculas para nuevos fármacos le pidieron que localizase moléculas tóxicas. Al día siguiente, descubrieron que había encontrado más de 1.000 formulaciones tóxicas para el ser humano, por lo que borraron su búsqueda. "Cuando puedes hacer eso de forma tan simple, ahí está el problema. Sin regulación, es peligroso y estaríamos en la ley de la selva", indicó Vinagre.
Foro Empresa Resiliente: Los riesgos legales y la responsabilidad de los datos y la IA
"¿Quién paga los platos rotos?"
José Manuel Sendín preguntó a los ponentes "quién paga los platos rotos" cuando los datos no se tratan de forma adecuada y surgen problemas. "Hoy en día, si algo sale mal, la responsabilidad es de la empresa", respondió Delgado, que añadió que las compañías deben plantearse siempre si están preparadas para implantar la IA.
Y es que es la empresa la encargada de introducir los datos con los que trabaja la herramienta, ya que el desarrollador no sabe cómo se va a usar. "La normativa tendrá que involucrar a otros agentes dentro de esa responsabilidad", considera Delgado, que señaló que las compañías deben determinar siempre no solo las herramientas a usar, sino también la finalidad.
Cora Vinagre, por su parte, explicó que en su caso disponen de un GPT privado fuera de la nube que permite a los clientes interactuar y usar datos sin conectarse a internet. Esto permite a la empresa saber de dónde proceden todos los datos y trabajar con ellos, algo que podría evitar problemas como los generados por los filtros ocultos.
"La información que dé la IA tiene que estar validada por personas, sobre todo en procesos sensibles como médicos. El uso de la IA para un diagnóstico, por ejemplo, debe estar validado por un facultativo antes de dar el definitivo"
Cora Vinagre Sendino, Innovation Manager, International Quantum Center de Fsas Technologies
Las soluciones auditadas o desconectadas podrían ser útiles en sectores como el jurídico, siempre y cuando se vuelquen los procesos judiciales en los que se está trabajando. Esto podría permitir, por ejemplo, hacer frente a los retrasos que hay para algunos asuntos judiciales de hasta dos años, ya que agilizaría los trámites. En todo caso, es siempre necesario que lo supervise y revise un profesional.
Y es que según ejemplificó la Innovation Manager, International Quantum Center de Fsas Technologies, hubo un juez que usó la IA para elaborar una sentencia y que fue descubierto porque no eliminó la interacción. Una abogada, por su parte, usó las respuestas inventadas por la inteligencia artificial, ya que no tenía datos actualizados. Ambos fueron sancionados.
Estos casos demuestran que la validación es fundamental, y para ello hay que establecer un proceso de gobernanza del uso de la IA en las empresas. "La información que dé la IA tiene que estar validada por personas, sobre todo en procesos sensibles como médicos. El uso de la IA para un diagnóstico, por ejemplo, debe estar validado por un facultativo antes de dar el definitivo", defendió Vinagre.
Delgado, por su parte, señaló que la posibilidad de auditar es "controvertida" porque los "software normalmente son determinísticos. Así, añadió que más que auditar se debe monitorizar, sin olvidarse de la importancia de la gobernanza desde el punto de vista de la información: "Qué datos estás introduciendo, también desde el punto de vista de la trazabilidad y de quién los ha manipulado. Eso al final se traduce en tener un dato confiable".
"Hay que determinar los roles y los responsables dentro de una organización respecto a los datos. Hay organizaciones que necesitan una gobernanza más centralizada, otras una federada, otras 100% descentralizada..."
José Delgado, CEO de Qaroni
Todo ello pasa, además, por tener una estructura empresarial adecuada. "Hay que determinar los roles y los responsables dentro de una organización respecto a los datos. Hay organizaciones que necesitan una gobernanza más centralizada, otras una federada, otras 100% descentralizada...", señaló el CEO de Qaroni.
En todo caso, es también importante actualizar los datos introducidos en las herramientas de inteligencia artificial para que puedan dar respuestas lo más adecuadas posibles. Esto teniendo en cuenta la rápida evolución de la tecnología, que hace que sea imposible saber cuál va a ser el algoritmo que lidere dentro de unas semanas o meses, y ante lo que se deben adaptar las empresas.
¿Cómo evitar riesgos?
Preguntados sobre qué les recomendarían a las empresas para evitar riesgos, José Delgado señaló que aquellas que empiecen de cero deben en todo caso considerar la IA: "Si no lo hacen ellas, lo van a hacer sus trabajadores". En este caso, explicó que los empleados pueden usar herramientas para agilizar su trabajo, algo que si no está regularizado por las compañías puede dar lugar a problemas debido al uso inadecuado de los datos.
Otro aspecto a tener en cuenta es la importancia de detectar el área en la que se van a usar esas herramientas y poner procesos que las gobiernen, haciendo que estén siempre actualizadas y que se adapten a las necesidades de las empresas. Así, las compañías deben revisar cómo trabajan en su día a día y dar pequeños pasos: qué herramientas, en qué departamentos y si deben contar con supervisión o no, todo ello acompañado por la formación de los trabajadores.
"Hay que pasar de un uso informal a uno formal de la IA"
Cora Vinagre Sendino, Innovation Manager, International Quantum Center de Fsas Technologies
"Hay que pasar de un uso informal a uno formal de la IA", señaló por su parte Cora Vinagre, que añadió que durante los últimos tres años aproximadamente se han ido probando muchas herramientas pero ya es momento de hacerlo más formal. Ella, además, apuesta por modelos que puedan ser utilizados offline.
La gobernanza, añadió la Innovation Manager, International Quantum Center de Fsas Technologies, es fundamental también para cualquier firma, que debe tener en cuenta dentro de este ámbito la formación de sus trabajadores. Así, deberían añadirse las responsabilidades del uso de la IA en las formaciones empresariales, para que todos los trabajadores estén formados sobre las consecuencias del uso de determinada información.
