Los algoritmos ya controlan nuestro futuro y libertad

En 2010, el iPhone tenía sólo tres años de antigüedad y muchas personas todavía no veían los teléfonos inteligentes como los apéndices digitales indispensables que son hoy en día. Siete años después, prácticamente todo lo que hacemos supone volcar nuestra información personal en internet, poniéndonos así a merced de algoritmos invisibles que amenazan con agotar nuestra libertad.

La fuga de información puede parecer inofensiva en algunos aspectos. Después de todo, ¿por qué preocuparnos cuando no tenemos nada que esconder?

Declaramos nuestros impuestos. Llamamos por teléfono. Enviamos correos electrónicos. Registran nuestros tributos para asegurarse de que seamos honrados. Compartimos nuestra ubicación para que nuestros móviles nos digan la temperatura. Los registros de nuestras llamadas, textos y movimientos físicos se archivan junto con nuestras facturas, quién sabe si se analizan en secreto para comprobar que no somos terroristas. Pero es un análisis que se hace sólo para mantener la seguridad nacional, de eso estamos seguros.

Cada vez que salimos a la calle cientos de cámaras de vigilancia y otros tipos de sensores conectados a internet graban nuestras caras y voces, ahora incluso queremos que nos vigilen dentro de casa e instalamos estos sistemas en nuestros hogares. Cada vez que entramos en webs sociales o hacemos clic en un artículo nos exponemos a un código de seguimiento, y permitimos que cientos de empresas accedan a nuestros hábitos de compra y supervisen todos nuestros movimientos en internet. Aceptamos términos y condiciones de uso cuya naturaleza no está clara.

Según un estudio de 2015 del Pew Research Center, el 91% de los estadounidenses adultos creen que han perdido el control sobre cómo se recopila y utiliza su información personal. Sin embargo, probablemente no sean conscientes de todo lo que han perdido.

El verdadero poder del almacenamiento masivo de datos reside en los algoritmos hechos a medida a través de los cuales se pueden cribar, ordenar e identificar patrones de conducta. Cuando a lo largo del tiempo se recoge la suficiente información, los gobiernos y las empresas pueden usar y abusar de esos patrones para predecir el comportamiento humano. Nuestros datos establecen patrones de vida desde nuestros aparentemente inofensivos residuos digitales como el sonido de nuestros móviles, las transacciones de las tarjetas de crédito o el historial de navegación.

Las consecuencias de la exposición constante al escrutinio algorítmico no están demasiado claras. Por ejemplo, la inteligencia artificial -el término que usa Silicon Valley para el pensamiento complejo y los algoritmos de aprendizaje profundo- lo publicitan las compañías tecnológicas como un camino basado en la alta tecnología hacia el llamado internet de las cosas, es decir, asistentes domésticos digitales o automóviles autodirigidos.

Simultáneamente, los algoritmos ya están analizando los hábitos de los ciudadanos en las redes sociales para determinar su solvencia económica, decidir qué candidatos son los idóneos para una entrevista de trabajo o juzgar si un acusado puede ser puesto en libertad bajo fianza. Otros sistemas utilizan análisis faciales automatizados para detectar y realizar un seguimiento de las emociones o predecir si alguien es un asesino potencial basándose sólo en sus rasgos.

Estos sistemas no dejan espacio para la humanidad, pero definen nuestras vidas cotidianas. Cuando comencé a reconstruir mi vida este verano descubrí desagradablemente que el sistema no tiene tiempo para la gente que se sale de la cuadrícula. Mientras estuve en prisión me sometí a un tratamiento de reemplazo hormonal y cuando quedé libre salí públicamente como transgénero. Sin embargo, cuando me liberaron no existía un historial de mi existencia como mujer trans. Mis cheques y mi cuenta bancaria decidieron automáticamente que estaba cometiendo un fraude, porque estaban adscritas a mi antiguo nombre, que legalmente ya no existía.

Durante meses tuve que llevar conmigo una carpeta enorme que contenía toda mi antigua documentación y una copia de la orden judicial que declaraba mi cambio de nombre. Pero incluso entonces, los responsables de recursos humanos y los empleados de los bancos, tras comprobar los cambios, se encogían de hombros y simplemente decían “el ordenador no acepta la orden/ el nombre”, mientras me denegaban el acceso a mis cuentas.

Esto es sólo un ejemplo de cómo este pensamiento programático impulsado por las máquinas puede llegar a ser especialmente peligroso en manos de los gobiernos o de la Policía.

En los últimos años nuestras fuerzas armadas, las fuerzas del orden público y las agencias de Inteligencia se han fusionado a distintos niveles. Recogen más datos de los que probablemente pueden manejar y los intercambian con dificultad, de un lado a otro, a través de un mundo cuantificable metido en vastos edificios sin ventanas llamados fusion centers, es decir, centros de intercambio de información.

Estas nuevas y poderosas relaciones han creado la base de un vasto estado policial en continua vigilancia, y le han dado vida. Los avances de los algoritmos lo han hecho posible a un nivel sin precedentes. Incluso las infracciones relativamente pequeñas, o micro críticas, pueden ser ahora vigiladas de forma agresiva. Y debido a las bases de datos compartidas entre gobiernos y corporaciones, esos incidentes menores pueden perseguirte para siempre, incluso si la información es incorrecta o carece de contexto.

Al mismo tiempo, los militares de los Estados Unidos utilizan los metadatos de innumerables comunicaciones para los ataques con drones, utilizando los pings inalámbricos emitidos desde teléfonos móviles para rastrear y eliminar objetivos.

En la literatura y la cultura pop, conceptos como "pensamiento crítico" [un neologismo orwelliano introducido en la novela 1984 que describe un pensamiento ilegal] o "precrimen" [término empleado por Philip K. Dick para referirse a la tendencia de la justicia a focalizarse en crímenes aún no cometidos] han surgido de la ficción distópica. Se usan para restringir y castigar a cualquier persona marcada por sistemas automatizados como posible delincuente o amenaza, incluso si un delito aún no se ha cometido. Pero esta metáfora nacida de la ciencia ficción ya se ha convertido en realidad.

Los algoritmos predictivos de la Policía ya están siendo utilizados para crear mapas de calor automatizados de futuros crímenes, y al igual que sucedía con los viejos manuales policiales, los mapas señalan masivamente a los barrios pobres y poblados por minorías.

El mundo se ha convertido en una novela distópica banal. Las cosas se ven igual en la superficie, pero no lo son. Si no hay límites claros sobre cómo se pueden usar los algoritmos y puede abusarse de los datos que se recogen de nuestras vidas, la posibilidad de que nos controlen completamente es cada vez mayor.

Nuestro carnet de conducir, nuestras llaves, nuestras tarjetas de crédito y débito son parte importante de nuestras vidas. Incluso nuestras cuentas en redes sociales podrían convertirse pronto en elementos decisivos para que se nos considere miembros plenamente funcionales de la sociedad. Puesto que vivimos en este mundo, debemos averiguar cómo podemos seguir conectados con la sociedad sin entregarnos a procesos automatizados que no podemos ver ni controlar.

*** Chelsea E. Manning, exanalista de Inteligencia del Ejército de los Estados Unidos, es una defensora de la transparencia gubernamental y activista de los derechos de las personas transgénero. En 2013, en base a la Ley de Espionaje, fue condenada por la fuga de documentos clasificados relacionados con las guerras en Irak y Afganistán. Su sentencia fue conmutada en enero por el presidente Obama y fue puesta en libertad en mayo.