Para los que hacemos El Cultural, la historia viene de lejos. Adela Cortina (Valencia, 1947) y José Antonio Marina (Toledo, 1939) estuvieron durante dos años escribiendo en estas páginas sobre la Creación Ética, allá por los noventa. La idea inicial fue sumar a la “cultura cinco estrellas”, término que acuñó Marina referido a las letras, las artes, la música..., otras muchas manifestaciones de la inteligencia humana que se cuecen día a día, tanto en los grandes laboratorios como en los garitos de Lavapiés, y que nos van cambiando la vida. El Cultural ya había incorporado a sus páginas el debate científico, y consideramos que, yendo un poco más allá, podíamos acercar a los lectores una visión ética de lo que ocurría en el mundo de la mano de estos dos filósofos, acostumbrados a pensar y a explicar con claridad las cosas. Lo hicieron con gran respeto mutuo y un riguroso sentido crítico. Y después de la Cultura, ¿qué?, les preguntamos entonces, un tanto enigmáticamente. “No podía tomarse en sentido literal, porque el sapiens es un ser cultural y más allá de la cultura solo hay otra cultura”, recuerda hoy José Antonio Marina. Y sí, de alguna manera, esta charla de hoy comienza donde la dejamos entonces.

JOSÉ ANTONIO MARINA. A mí me preocupaba -y me preocupa- lo que podríamos llamar el “escándalo de la cultura cinco estrellas”. Cuando se habla de “cultura” en la Constitución, en el ministerio de ese nombre, o en los suplementos culturales, nos referimos a la “cultura exquisita”, al arte, la literatura, el pensamiento. Para muchos fue una sorpresa que El Cultural incluyera la ciencia. El “escándalo de la cultura cinco estrellas” es, como acertadamente vio George Steiner, que no hace mejores a las personas. Lo bello y lo bueno no van de la mano, y eso es un problema. Por eso, me parecía importante defender que la creatividad de la inteligencia humana culmina en la ética, su obra más rara, más inventiva y más necesaria. ¿Por qué? Porque la ética no es un sistema normativo. Es el proyecto de la inteligencia para sacarnos de la selva, para definirnos como especie, para pasar de ser animales dignos a ser animales espirituales.

ADELA CORTINA. Yo creo que como el ser humano es biocultural, no puede desprenderse de la cultura, como no puede deshacerse de la biología. La cultura es el cultivo de la vida, que se hace desde las Humanidades, tan relegadas por los artífices de planes de estudios y los financiadores de proyectos, y, sin embargo, tan fecundas como imprescindibles; y se hace desde las “Naturalidades”, como les llamaba Ortega, cuyo progreso abre nuevos mundos, desde las Ciencias Sociales, que andan a caballo entre la predicción y la incertidumbre, y desde las Artes, que imaginan lo impensable. Y también, claro está, desde la ética que apunta a lo que debería ser, aunque no haya hechos para refrendarlo.

P. Han cambiado tanto tantas cosas en estos veinte años en el mundo de la cultura, entendida la cultura como un territorio amplio que nos cambia las vidas, que me gustaría saber cuáles han sido para ustedes las más importantes. Qué problemas han surgido, qué aspectos fundamentales han variado...

"La política se ha convertido en el reino de la agresión moralista, no de la construcción del bien común", Adela Cortina

A.C. Lo más importante, a mi juicio, es el aumento increíble de la aporofobia que estamos viviendo, del rechazo a los pobres, que es un atentado palmario contra la dignidad humana en personas vulnerables. Y está llegando al punto de producir una escisión en la Unión Europea y en la humanidad, marcada por la actitud hacia los inmigrantes y los refugiados. La línea divisoria no es ya izquierda/derecha, sino acogida/rechazo, hospitalidad/hostilidad.

»Un segundo cambio profundo es también el riesgo de que internet nos esté haciendo estúpidos, como dice Nicholas Carr en su libro Qué está haciendo internet con nuestras mentes. Antes leíamos libros profundos y extensos, que nos llevaban a reflexionar con serenidad y tiempo. Ahora nos marca el paso la aceleración y vamos picando de un lugar a otro sin tiempo para digerir lo leído. Y ya que pensamos como leemos, estamos perdiendo peso reflexivo y dialógico, nos hacemos superficiales y manipulables. Es un cambio cultural muy importante, y va ligado a un tercer tema que me asusta mucho: el abandono de la intimidad, la dificultad de encontrar un lugar donde formar la conciencia moral por el triunfo de la extimidad frente al cultivo de la intimidad, la exhibición, el espectáculo, que nos pone en manos de la aprobación ajena, nos lleva a vivir pendientes de la reputación, del qué dirán los otros. No hay lugar para formar la conciencia, y como decía Nietzsche, “nos las arreglamos mejor con nuestra mala conciencia que con nuestra mala reputación”.

J.A.M. Hace veinte años vivíamos en un ambiente postmoderno que era una reacción contra una época de certezas que no había traído nada bueno. Lo que estaba de moda era el “pensamiento débil”. Un grafitti de la época decía: “Dios ha muerto, el sujeto ha muerto, y yo no me encuentro nada bien”. Posiblemente soy injusto, pero me preocupa no ver grandes novedades en el campo del arte, la literatura o el pensamiento. Todos se han debilitado. Veo en cambio gigantescas novedades en el campo de la ciencia, sobre todo en la biología, y en la tecnología. La tecnología está dirigiendo el cambio social y eso me resulta preocupante.
»Me preocupa también la pérdida de sentido crítico, la dificultad de seguir argumentos largos, la glorificación del “me gusta” y de las opiniones no justificadas, que ha dado lugar al fenómeno de la posverdad, de las fake news, o de las “realidades alternativas”.
»Y me inquieta el ocaso de las “democracias liberales”. La creencia de Fukuyama de que constituían la culminación de la historia parece haberse disuelto, lo que supone un olvido y desdén de nuestra generalogía que me preocupa tanto que es lo que me ha llevado a escribir Biografía de la humanidad.

P. ¿Y les preocupa la situación moral de nuestro país?

J.A.M. No creo que ningún tiempo pasado fuera mejor. Decir que en este momento la situación política es más corrupta que durante el régimen de Franco, plantearía un serio problema. Un régimen democrático es una situación corrupta de base que puede sin embargo imponer unos modos decentes de comportamiento. En este momento, sobre todo por influencia de China, mucha gente empieza a pensar que la libertad no es tan buena, y que un régimen dictatorial puede ser más eficaz para resolver los problemas de los ciudadanos.

A.C. Sí y no. Sí, porque se respira un ambiente de desmoralización generalizada, porque la política se ha convertido en el reino de la agresión moralista, no de la construcción del bien común. Se rebusca en la vida de los opositores para encontrar faltas o errores que permitan ponerlos en la picota. Cuando la crispación, la polarización de las posturas, el afán de ridiculizar al contrario y los discursos del odio son la contrapartida de lo que Aristóteles llamaba la amistad cívica, indispensable para lograr una buena convivencia. No, porque, afortunadamente, abunda la gente admirable, cuya vida es digna de ser vivida. Botón de muestra son los pescadores que perdieron dinero por invertir su tiempo en salvar vidas, los investigadores que se esfuerzan por descubrir lo que mejora las vidas personales.

P. La ética, decían antes, apunta a lo que “debería ser”. ¿Pero, será verdad que el poder corrompe?

A.C. Yo no creo que sea verdad. Hay gentes con poder profesional, político, económico que lo emplean para mejorar la vida común y otras que desvirtúan esos mundos buscando sólo su beneficio particular, sin reparar en daños colaterales. Pero también es verdad que en los centros de poder se forman tramas de las que es muy difícil desprenderse para evitar la contaminación. Por eso es necesario crear instituciones y organizaciones éticas, de modo que no sea necesario ser héroe para vivir honestamente. Pero sobre todo hay que recordar que no sólo corrompe el poder mal ejercido, sino también corrompen la cobardía, el gregarismo, la incompetencia, la envidia, la intolerancia, el odio...

"Me preocupa la pérdida de sentido crítico, la dificultad de seguir argumentos largos, la glorificación del me gusta", José Antonio Marina

J.A.M. En Anatomía del poder señalé que la definición general de “poder” es “la capacidad de realizar algo, de convertir en realidad una posibilidad”. Es una capacidad personal de actuar, bien o mal, y de este poder no se puede decir que corrompe siempre. Otra cosa es el “poder social” que es la capacidad de imponer la propia voluntad dentro de una relación social. Hay poderes legítimos pero creo que si no está sometido a control externo tiende a excederse por su propia dinámica. No por maldad, sino porque el poder puede no tener una conciencia clara de su fuerza. Por eso, los romanos hacían acompañar al general victorioso de un vocero que le decía: “Recuerda que eres mortal”. Además, el poder no se da aislado. El acceso al poder suele tener su servidumbre, el ejercicio del poder confunde, y la lucha por conservar el poder fomenta conductas peligrosas. Cuando hablo de corrupción no pienso solo en que alguien saque un provecho ilícito del poder. Se puede corromper el propio uso del poder, con independencia de sus con secuencias. Por ejemplo, en las tiranías.

P. Adela Cortina ha hablado estos días de la necesidad de diseñar una ética digital. ¿Cuál sería la estructura sobre la que armar ese diseño? ¿Cómo y quién la hace?

A.C. Sí, hay muchos organismos en la Unión Europea que están diseñando una ética clarísima y además están poniendo los principios a que debería atenerse, que son los principios de la bioética. Primera cuestión: no dañar a los seres humanos. Segunda, sí beneficiar, porque una técnica se pone en marcha cuando puede beneficiar a mucha gente; la tercera sería el principio de la justicia, porque hay que intentar que los bienes se distribuyan equitativamente entre todos los seres humanos; luego vendría un principio de responsabilidad, y añadían ahora un principio muy interesante y novedoso, el principio de la explicabilidad, es decir, intentar explicar a la gente en qué consiste la tecnología. Porque es un mundo que nos está afectando enormemente y no sabemos en qué consiste. Estamos en manos de una especie de gran hermano que está actuando y no sabemos cómo. Y hay que explicar, por ejemplo, qué es un algoritmo, y todos los sesgos que tiene. Me parece muy esperanzador que, frente a toda esa gente que tiene miedo a perder el trabajo, haya grandes organismos preocupados en estudiar cómo van a afectar los avances tecnológicos en las vidas de la gente, cómo articular éticamente el funcionamiento de la técnica y la ciencia para que beneficie y no dañe.

J.A.M. Hace diez, veinte años, el gran problema era el acceso a las nuevas tecnologías. El dilema era estar fuera o dentro de la red. Ahora las cosas han cambiado, fundamentalmente por los móviles.

A.C. No tanto, la brecha digital sigue siendo enorme.

J.A.M. Yo creo que las nuevas tecnologías nos están obligando a reformular el modo de interpretar la inteligencia humana. Durante muchos años hemos tenido una idea “cognitiva” de la inteligencia. Conocer era su gran función. Después la completamos introduciendo las emociones. Posteriormente, pensamos que la función principal era dirigir la conducta, y que la toma de decisiones cerraba la teoría de la inteligencia. Para dirigir bien el conocimiento necesitamos determinación, gestión emocional, e información. Es cierto que la información es una pieza esencial para tomar decisiones y es aquí donde vamos a ver un gran cambio, porque el conocimiento va a estar contenido en poderosos sistemas de información, y la “nueva inteligencia” tendrá que reorganizarse para ver cómo es capaz de mantener la capacidad de decisión teniendo una parte de su inteligencia “externalizada”. Hablamos de “realidad expandida”. Para poderla controlar necesitamos una “inteligencia expandida”. Los expertos dicen que la mitad de las cosas que puede hacer un abogado las puede hacer una máquina. ¿Qué pasará cuando todos los niños tengan su memoria en formato digital? ¿Quién va a tomar las decisiones?

"No hay que hablar de 'fake news' sino de bulos, que siempre son interesados y viejos como el mundo. Lo que ha cambiado es la potencia del transmisor", Adela Cortina

A.C. ¿Que quién? Pues está clarísimo, nosotros. Desde todos estos organismos están diciendo que nunca hay que poner las decisiones que afectan al ser humano en manos de la IA. ¿Por qué? Porque tú estás hablando del transhumanismo y todo eso que tiene mucho efecto, y a la gente le encanta, pero ahora estamos en algo que todavía no está resuelto. Mira, decía Kant, y estaba muy bien dicho, que el invento del puñal fue anterior al invento del deber de no matar. Cuando la gente cogió el puñal y se preguntó qué hacemos con esto, nació la idea moral del “no matarás”.

»En este momento, estamos teniendo IA a todos los niveles y efectivamente la gente está asustada porque puede quitarle el trabajo, es así de cotidiano y de vulgar. Es verdad que las máquinas están sustituyendo a la gente. Y hay expertos que dicen, y creo que tienen razón, que hay que intentar elevar las competencias
digitales de las personas. Crear una ciudadanía digital, ¿tú sabes la de puestos de trabajo que se están perdiendo porque la gente no tiene competencias digitales? Eso es un tema flagrante de ética. ¿Qué hacemos con un coche autónomo?, ¿cómo lo programamos? Lo que estos organismos tienen claro es que no podemos poner en manos de máquinas inteligentes decisiones que afectan a las personas. Cuando vas a contratar a alguien en una empresa, ¿lo vas a poner en manos de un algoritmo? La respuesta que están dando es que siempre tiene que estar al final una persona. Yo es que tengo mucha manía de transmitir serenidad y esperanza, y quiero decirles a las gentes preocupadas que hay personas muy inteligentes que están trabajando en esto para que ellas no se asusten.

P. ¿Qué no cambiará nunca, aunque nunca es mucho decir, la inteligencia artificial y la robótica en el ser humano?

J.A.M. Pues fundamentalmente el aspecto corporal del ser humano. La experiencia de placer y dolor, por ejemplo, y el mundo emocional y ético construido a partir de esas experiencias básicas.

A.C. El hecho de que el ser humano tiene inteligencia general -no solo particular, como las máquinas-, tiene libertad, entendida como la capacidad de tomar conciencia de sí mismo y decidir desde sí mismo, y dignidad. Además tiene cuerpo, es capaz de relacionarse con los demás en un entorno físico y social, compartir esa inteligencia natural que nos hace dominar muchos más aspectos. Sí, lo importante de una persona es el cuerpo. Más que el cerebro. Pero sobre todo debe poner a su servicio los sistemas inteligentes para lograr un mayor progreso, pero nunca someterse a ellos. Somos nosotros, que entendemos de valores y tenemos sensibilidad los que les debemos marcar el camino para ser una sociedad cosmopolita. Los ordenadores no manejan valores, no tienen sensibilidad, no tienen compasión, ni ternura.

P. ¿Qué armas tiene el ciudadano, la gente corriente, para combatir las llamadas fake news, tan abundantes especialmente en las redes sociales?

A.C. La primera, llamarles “bulos”, que es lo que son, y percatarse de que siempre son interesados y tan viejos como la humanidad. Desde el comienzo de la historia determinados grupos han difundido rumores falsos para desacreditar a otros estigmatizándolos en provecho propio, sea para sacar dinero, votos, fama. Los bulos están en la raíz de las fobias sociales, al convertir a colectivos enteros en chivos expiatorios, y han sido la causa de masacres. Lo que ha cambiado hoy en día es la potencia del canal transmisor, que no es sólo el cotilleo vecinal o los mensajeros que se envían de unos reinos a otros, sino las redes sociales. Pero la mentira intencionada para desacreditar a los rivales es tan antigua como la humanidad.

J.A.M. Sí, es fundamental el pensamiento crítico, lo que supone, en primer lugar, el conocimiento de lo vulnerables que somos a los “sesgos cognitivos”, a los prejuicios, a pensar que estamos viendo cuando en realidad estamos interpretando. El arma más potente es muy sencilla. Consiste en formular a quien nos da una opinión -o a nosotros mismos cuando la damos- una pregunta simple y mortal: ¿Y tú cómo lo sabes? Y mientras no se responda convincentemente a esa pregunta, no creer a nadie (ni siquiera a uno mismo).

P. ¿Por cierto, nos estamos pasando, o no, con la corrección política?

A.C. Rotundamente: sí. Las nuevas inquisiciones, las cazas de brujas, obligan a una autocensura constante, incompatible con la auténtica libertad de expresión. Y, como siempre sucede con las inquisiciones, son sectarias: sólo a los grupos que han conseguido hacerse poderosos se les permite arrojar a otros a la hoguera.

J.A.M. Los excesos provocan contraexcesos. De hecho, hay un exceso de corrección política y un exceso de incorrección política. Basta ver las peleas parlamentarias.

P. Algunos filósofos y sociólogos, convertidos en verdaderos gurús del pensamiento contemporáneo se emplean a fondo últimamente en proclamar en sus libros y conferencias las razones para el optimismo de la sociedad actual. ¿Qué opinan ustedes de ellos? ¿Hay suficientes razones?

"No creo que tengamos en este momento la energía suficiente para limitar la fuerza de la tecnología, de la economía y de ambas unidas", José Antonio Marina

J.A.M. Sí, los defensores del “Nuevo optimismo”, Steven Pinker, Matt Riley, Max Roser, Johan Norberg y todos los profetas del “transhumanismo”, los han resumido muy bien. Son “optimistas racionales” porque se basan en hechos. La pobreza, la desnutrición, la mortalidad infantil han disminuido, ha mejorado la longevidad, la educación, la protección a la infancia, la atención sanitaria, la libertad, el número de naciones democráticas, el acceso al agua potable. Los datos del Plan de Naciones Unidas para el Desarrollo confirman esta mejoría generalizada de bienestar social. Yo mismo he defendido una “Ley del progreso ético de la humanidad”. Lo que me hace ser cauteloso es que ese progreso se ha dado sufriendo colapsos terribles, que hasta ahora hemos superado, pero que nada nos asegura que podamos hacerlo siempre.

A.C. Yo prefiero darte razones para la esperanza. El optimismo es un estado de ánimo pasajero, la esperanza es una virtud estable y creativa y lo que hay que cultivar son las virtudes. Y, sí, hay razones para esperar: la humanidad en conjunto ha progresado, aunque el progreso no haya sido lineal; existe una conciencia moral social impregnada por la creencia en los derechos y por la superioridad de valores humanos, como la libertad, la igualdad y la solidaridad; cada vez disponemos de más medios técnicos para extender el bienestar, y sigue habiendo un buen número de gentes empeñadas en dar razones para la esperanza con su vida diaria.

P. Hablemos de la Universidad, que conocen bien. Parece que hay consenso en considerar que no cumple hoy con su labor fundamental, como si andara desde hace años desententida de su papel orientador y educadora de la sociedad...

J.A.M. La Universidad no existe hoy como agente intelectual. Sólo hay Facultades, Escuelas especiales, Departamentos. Como Institución no tiene presencia social. Creo que debería repensar su misión.

A.C. La “Edad Dorada” de la Universidad no ha existido nunca, al menos en España. La buena Universidad está en ese futuro que hay que tejer con los mimbres con los que contamos. Y hay profesores jóvenes muy bien preparados, situados en un nivel internacional, a los que se debe respaldar en todo caso para que sean excelentes. La principal tara de la universidad es la burocratización inmisericorde, que el profesorado sufre impacientemente.

P. La investigación científica nos plantea cada vez con más frecuencia importantes desafíos morales. ¿Qué opinan de lo que ha ocurrido recientemente en China con el médico que ha editado genes para evitar enfermedades?

A.C. Ojalá la investigación científica avanzara mucho más en biotecnologías, en neurociencias o en tecnologías digitales. El beneficio que han proporcionado y pueden proporcionar a la humanidad es inmenso. Pero el principio de “sí beneficiar” ha de venir equilibrado con el de “no dañar”, y el médico chino He Jiankui no sólo ha eludido en este caso los trámites legales con su investigación, sino las normas morales, porque modificó embriones sanos, con una técnica que puede causar problemas genéticos serios ya que no está suficientemente acreditada. Creo que moralmente no es aceptable. Pero también sé que en China eso no les importa tanto como a nosotros en Europa, y por lo tanto serán pioneros, y los europeos nos iremos quedando atrás con nuestros remilgos morales y nuestras cautelas. Lo tengo clarísimo. Aquí todos sabemos que no todo lo que se puede, se debe. Y en ese terreno nos tenemos que mover, creo yo.

J.A.M. A mí me asusta que no tengamos la capacidad de generar el talento suficiente para enfrentarnos con esos y otros problemas. No creo que tengamos en este momento energía intelectual suficiente para limitar la fuerza de la tecnología, de la economía o de ambas cosas unidas. Saint-Exupéry decía: No podemos dar soluciones para el futuro, lo único que podemos hacer es formar a las personas que sean capaces de hacerlo. La educación es la clave.

P. Hawking dejó escrito que la IA puede ser lo mejor y lo peor que le puede pasar a la humanidad. ¿Están de acuerdo?

J.A.M. Sí. Por eso necesitamos construir una “nueva inteligencia humana”, que sepa aprovechar bien las grandes posibilidades de la inteligencia artificial. Recuerdo que hace ya más de veinte años, en “Creación ética” estábamos interesados en un “proyecto para una inteligencia”. La necesidad es ahora más apremiante. La pregunta decisiva es: ¿Quién va a tomar las decisiones, la inteligencia humana o la inteligencia artificial?

A.C. Yo no estoy de acuerdo. Creo que lo mejor que le puede pasar a la humanidad de tejas para abajo es construir una sociedad cosmopolita en que todos los seres humanos sean tratados como ciudadanos de pleno derecho, teniendo por motores la justicia y la compasión.