La policía británica confiesa que usó Microsoft Copilot para prohibir la entrada de fans del fútbol, pero la IA les mintió

El pasado mes de noviembre, se celebró en la ciudad de Birmingham un partido de la Europa League entre el equipo local, el Aston Villa, y el Maccabi Tel Aviv, sin ningún aficionado del equipo visitante. Y ahora, culpan a Microsoft Copilot de ello.

El polémico veto a los aficionados israelíes fue ordenado apoyándose en un informe creado por el Safety Advisory Group de Birmingham, compuesto por el ayuntamiento y la policía de West Midlands, que consideraba el encuentro como de "alto riesgo".

Como resultado, ni siquiera la intervención del Primer Ministro, Keir Starmer, ni la imagen antisemita que podría dar esta decisión, fue suficiente para revocarla; pero el asunto no terminó ahí.

Windows 11 cambia para siempre: Microsoft quiere que controles el ordenador con la voz y la IA que ve lo que ves

Desde entonces, el jefe de policía de West Midlands, Craig Guildford, ha tenido que salir al paso de las críticas a la elaboración del informe, negando acusaciones de parlamentarios de que no hubo una investigación real, sino que había sido generado usando inteligencia artificial generativa.

Finalmente, Guildford ha confesado el uso de esta polémica tecnología en una disculpa dirigida al Parlamento británico, llegando incluso a nombrar directamente a Microsoft Copilot, el asistente basado en inteligencia artificial.

Microsoft Copilot en Windows 11 Microsoft El Androide Libre

Guildford asegura que sólo tuvo constancia el pasado viernes del uso de la IA de Microsoft para los "resultados erróneos" del informe, algo que anteriormente había achacado al estudio de datos obtenidos de redes sociales.

El informe consideró que el partido entre el Aston Villa y el Maccabi Tel Aviv era de alto riesgo por varios "crímenes de odio" y "encuentros violentos" entre aficionados que se habrían producido en anteriores partidos del equipo israelí.

Según el informe de seguridad, "el partido más reciente jugado por el Maccabi en el Reino Unido fue contra el West Ham en la Europa Conference League el 9 de noviembre de 2023".

Aficionados del Maccabi al Aston Villa en un partido de su equipo como locales en Serbia Reuters

Sólo había un problema: ese partido nunca ocurrió. En esa fecha, el West Ham se enfrentó al Olympiakos de Grecia, y no al Maccabi, pero según el jefe de policía, Copilot creó este encuentro de la nada y lo usó para justificar un posible veto a los aficionados israelíes.

Microsoft no ha realizado declaraciones públicas sobre este caso, que está lejos de terminar. El consejero contra el antisemitismo del gobierno ha pedido la dimisión de Guildford, acusándole de "crear mentiras con inteligencia artificial para apoyar su opinión" de vetar a los aficionados israelíes.

El uso de inteligencia artificial por los cuerpos de seguridad del estado es uno de los aspectos más polémicos de esta tecnología, y pese a eso, el Reino Unido presume de ser pionera en este terreno, llegando incluso a crear una herramienta para "predecir crímenes" usando IA.

Reino Unido se acerca a 'Black Mirror': los sistemas del reconocimiento facial instauran una vigilancia digital

Sin embargo, la inteligencia artificial generativa es proclive a sufrir problemas como las "alucinaciones" que modifican los resultados con datos falsos, e incluso está demostrado que es capaz de mentir al usuario si cree que de esa manera puede cumplir sus órdenes.

Microsoft incluye una advertencia relacionada con esto en Copilot, con el mensaje "Copilot es una inteligencia artificial y puede cometer errores." siempre visible en la parte inferior del asistente, que viene incluido por defecto en Windows 11.