Conciencia o colapso
«Vivimos en una sociedad absolutamente dependiente de la ciencia y la tecnología y, sin embargo, hemos organizado hábilmente las cosas para que casi nadie entienda la ciencia y la tecnología.
Esa es una clara receta para el desastre.»
(Carl Sagan)
Este mes dedicamos estas páginas al último libro de la trilogía escrita por Jordi Pigem, amigo y buen conocedor de Integral (coordinó la revista en 1989-1992). Es una alegría poder compartir algunos fragmentos de Conciencia o colapso: Pigem nos ofrece en él ideas brillantes y argumentos con solidos ejemplos, que ponen en evidencia la actual situación. Con la ventaja de que esta vez, al final, su mirada crítica nos hace abrir los ojos hacia briznas de esperanza, poco antes de las documentadísimas notas que contiene.
Jordi Pigem trabaja cada vez mejor su propio estilo, entrelazando pensamientos de filósofos y pensadores con lo más relevante a nivel global. No es casual que se le haya relacionado con Byung-Chul Han, con la ventaja de ofrecernos su lúcida visión con un estilo claro, preciso y cercano.
El primero de los tres libros, Pandemia y posverdad (ver Integral 507) era una obra imprescindible para poner en su sitio las falsedades del virus (con las primeras referencias a las distopías clásicas Un Mundo Feliz y 1984).
En el siguiente libro, Técnica y totalitarismo (ver Integral 521) Pigem nos mostraba los efectos de la confluencia entre conocimiento científico (psicología, neurociencia, sociología de las nuevas tecnologías, historia de la ciencia) y humanístico, con el universo literario de Tolkien de fondo. Y ya en esa segunda entrega aparecen la deshumanización y la digitalización. «La tecnología es como el fuego. Usada como herramienta, con contención, puede ser muy útil. Sin contención, en cambio, su efecto puede ser devastador.»
Ahora la maduración se ha producido. En Conciencia o colapso Pigem describe los temas actuales más decisivos de manera rotunda, necesaria, irrebatible.
Os dejamos con una pequeñísima muestra del libro, recién publicado. Es el texto 6:
IA: Invasión Algorítmica y capacidad de atención
En la mitología griega, Circe es un ser con un extraordinario poder de seducción y de engaño. Hoy, hechizados y enredados por los datos e imágenes que circulan por las pantallas, nos hallamos ante las seducciones de Circe 2.0.
LAS SEDUCCIONES DE CIRCE 2.0 incluyen las promesas de la digitalización, la robotización, el metaverso y el transhumanismo. Incluyen el hecho de dar más valor a los likes y los retuits que a las relaciones genuinas. Incluyen el modo en que alegremente permitimos que los algoritmos capturen nuestros datos, rastreen nuestros movimientos, asedien nuestras profesiones e invadan nuestras relaciones y nuestro espacio, interior y exterior, con la denominada «IA».
La «IA» se hace llamar «inteligencia artificial», pero no es inteligencia (que siempre requiere entender), sino cálculo mecánico. Vertiginoso, pero sin experiencia o conciencia. No es inteligencia, pero puede llegar a imitarla a base de algoritmos. Por eso sería más exacto leer el acrónimo IA como «Imitación Algorítmica». O «Invasión Algorítmica», si tenemos en cuenta sus repercusiones.
Las seducciones de Circe 2.0 también comportan que se multipliquen las adicciones y se degrade la atención con el uso compulsivo de pantallas.
En Stolen focus (El valor de la atención, 2022), Johann Hari explica que intentó hacer una desintoxicación digital durante tres meses en uno de los lugares más remotos de Massachusetts (Provincetown, en el extremo del cabo Cod), sin móvil y sin conexión a internet, y después, durante tres años, entrevistó a docenas de expertos preguntándoles por qué estamos perdiendo (o cómo nos están robando) nuestra capacidad de atención. (…)
¿Qué está ocurriendo con nuestra capacidad de atención? En la gran mayoría de personas, va a peor. Este deterioro de la atención, ¿no tiene que ver con la adicción a los entretenimientos digitales? James Williams, autor de Stand out of our light («No nos tapéis la luz», 2018), dejó el cargo de estratega de Google para estudiar filosofía en Oxford, convencido de que «parece que algo profundo y potencialmente irreversible está afectando a la atención humana en la era de la información».
Dos encontronazos digitales
El 9 de marzo del 2023, dos personas que habían trabajado para las grandes empresas tecnológicas, Tristan Harris (en su día «el filósofo de Google») y Aza Raskin (inventor del scroll infinito), medio arrepentidos de sus contribuciones a la revolución digital (para combatir sus efectos adversos, han fundado el Center for Humane Technology), impartieron una conferencia sobre «El dilema de la IA». Según ellos, en 2023 se produjo el segundo encuentro, enfrentamiento o encontronazo (encounter) entre la IA y la humanidad, tras el «primer encontronazo», que fue la aparición de las «redes sociales». En aquel primer encontronazo, las redes sociales se abrieron camino con eslóganes como «¡Conecta con tus amistades!», «¡Únete a comunidades con ideas afines!», «¡Hacemos que las pequeñas y medianas empresas lleguen a sus clientes!». Pero el poder prometido a las personas y a las pequeñas empresas poco vale ante el poder, incomparablemente mayor, que la digitalización brinda a las grandes empresas, sobre todo a las grandes empresas tecnológicas (las librerías hacen dignos esfuerzos por tener servicios de venta online, pero difícilmente pueden competir con Amazon).
Si hoy contemplamos las consecuencias de aquel primer encontronazo entre la IA y la humanidad resulta que, en palabras de Harris y Raskin, we lost, perdimos. Lo argumentan señalando una docena de consecuencias lamentables que han tenido y tienen las redes sociales. Por ejemplo, han generado adicciones (¿quién no ha visto alrededor suyo casos de adicción a las «redes sociales»?), disminución de la capacidad de atención, sobredosis de información y búsqueda incesante de noticias morbosas (doomscrolling).
Otros efectos derivados del uso de las redes digitales («sociales») son la sexualización de la infancia (vídeos para TikTok y presencia creciente de la pornografía en los contenidos a que acceden los menores), el incremento de la polarización ideológica (tendemos a crear una burbuja a medida, en la que solo entran las informaciones que confirman nuestras ideas y quedan fuera otros puntos de vista que antes hubiésemos escuchado en el ágora); las fake news, los deepfakes (con los que se hizo una estafa por valor de 25 millones de euros a principios del 2024 en Hong Kong), los bots que manipulan debates digitales y la degradación (más todavía) de la democracia (por ejemplo, altos cargos de Cambridge Analytica declararon a Channel 4 News que habían manipulado la intención de voto en más de doscientas elecciones).
El «segundo encontronazo» de la IA con la humanidad se produjo en el 2023, con la popularización de ChatGPT y otros large language models (modelos que utilizan una enorme cantidad de «lenguaje»). Tales modelos informáticos incrementan enormemente la capacidad del cálculo algorítmico (y disparan su consumo energético, pero de eso no se habla) y pueden generar instantáneamente textos que tienen sentido para una persona (no para los algoritmos, que simplemente combinan unidades de lenguaje siguiendo reglas mecánicas). Ahora bien, en lo que respecta a la existencia humana, este segundo asalto de la IA exacerba los problemas generados por el primer encontronazo. Harris y Raskin consideran que este segundo asalto nos conduce al «colapso de la realidad» (reality collapse). ¿Puede haber algo más grave que el colapso de la realidad?
Hacia dónde vamos
También nos conduce, señalan, al colapso de la confianza, a armas cibernéticas automatizadas y a falsas religiones automatizadas, así como a un incremento exponencial de los chantajes y de las estafas. Por ejemplo, explican Harris y Raskin, tecnologías recientemente desarrolladas permiten falsificar la voz de una persona a partir de una muestra de tan solo tres segundos de su voz (que puede obtenerse fácilmente con una llamada en la que el estafador pretenda haberse equivocado de número). Por si fuera poco, los nuevos modelos de lenguaje informático ponen contra las cuerdas a la mayoría de profesiones y dan la razón a quienes años atrás ya argumentaban que la transformación digital incrementaría el paro y las desigualdades. (…). ¿Qué hay detrás de todo ello? Según Harris, el problema de fondo es un modelo de negocio orientado a colonizar nuestra mente, guiado por el «incentivo perverso» de poseer y manipular la atención humana.
Y así volvemos a Circe 2.0, la Circe cibernética que seductoramente
intenta capturar nuestra atención y nuestra cordura.
La Circe clásica, que ya aparece en uno de los relatos fundacionales de Occidente, la Odisea, destacaba por su capacidad de seducción y por sus hechizos. Homero la describe como polyphármakos, que literalmente significa «de múltiples productos que surten efecto». La Circe 2.0, con sus múltiples productos, es todavía más polyphármakos.
Con sus hechizos, Circe deshumaniza a los compañeros de Ulises: en apariencia externa, los transforma en cerdos. Pero, cuenta Homero, su conciencia o espíritu (nous) «se mantenía como siempre». Los hechizos de la Circe 2.0 parecen tener el efecto inverso: no alteran esencialmente nuestra apariencia externa, pero en cambio degradan nuestra atención y nuestra conciencia. Y ahí está la cuestión. Porque cuando, noventa versos más tarde, Circe da su phármakon a Ulises, que ha venido para liberar a sus compañeros, y el phármakon no le hace ningún efecto, la gran hechicera exclama, estupefacta: «Hay una conciencia en tu interior que no se doblega ante ningún hechizo.»
El relato homérico ya nos enseña que nuestra fuerza interior, la conciencia o espíritu (nous), es lo que nos permite resistir a los hechizos.
Por eso, porque la batalla clave transcurre en la arena de la conciencia, los principales hechizos de la Circe 2.0 no son tecnológicos, sino ideológicos. Su principal hechizo es una ideología que arrastra el mundo hacia el colapso y la deshumanización. No se trata de izquierdas, ni de derechas, ni de derechos. Es una ideología camuflada tras la mayor parte de lo que hoy pretende ser progreso.
Si miramos a nuestro alrededor, nos daremos cuenta de su propósito: sustituir todo lo humano, vivo y espontáneo por lo programable, mecánico y controlable.
¿Por qué ha de fracasar la sociedad industrial? [ … ] Está degradando las cualidades morales e intelectuales del ser humano, mientras va imponiendo una forma de vida tan complicada que exige unas cualidades morales e intelectuales cada vez mayores.
Ernst F. Schumacher (El buen trabajo, 1979)
Hemisferios cerebrales: mente algorítmica y mente holística
Pigem dedica un amplio espacio en esta obra a explicar los dos hemisferios cerebrales y su relación con la mente algorítmica y la mente holística:
La empatía está vinculada a la actividad del hemisferio derecho. La capacidad de entender qué piensa y siente otra persona (empatía cognitiva) disminuye en las personas con lesiones en el hemisferio derecho, pero no en las que tienen lesiones en el hemisferio izquierdo. Y la investigación neurocientífica indica que hay una correlación entre la psicopatía y el predominio de la actividad del hemisferio izquierdo sobre el hemisferio derecho.
Las emociones que identificamos como positivas están vinculadas al hemisferio derecho. En cambio, hay una emoción que se manifiesta mucho más a través del hemisferio izquierdo: la ira (anger), como se ha constatado de diversas maneras (la más simple es el análisis de fotografías de rostros humanos, teniendo en cuenta que la mitad derecha del rostro expresa el hemisferio izquierdo y viceversa).
Ahora bien, vincular directamente la actividad mental a los hemisferios del cerebro comporta varios problemas. Para empezar, las características atribuidas al «hemisferio derecho» y el «hemisferio izquierdo» no corresponden a la arquitectura cerebral de una parte significativa de la población: cerca de un 10% de las personas (cientos de millones en todo el mundo) tienen los hemisferios intercambiados (lo que describimos como hemisferio izquierdo se halla, en su caso, en el lado derecho del cerebro) o en combinaciones específicas, porque cada cerebro está organizado de una manera única y compleja.
Por otro lado, parecería natural suponer que lo óptimo es un equilibrio igualitario entre «derecho» e «izquierdo», pero el tipo de cualidades que hemos visto que corresponden al hemisferio derecho (como la empatía) y al izquierdo (como la psicopatía y la ira) debería hacernos reflexionar. Cuanto más sabemos, más nos damos cuenta de que «el hemisferio derecho» y el «hemisferio izquierdo» son en realidad un hemisferio primario y un hemisferio secundario: el hemisferio derecho, que tiene la visión de conjunto, debería tener siempre la última palabra. Por eso, el primer volumen publicado por McGilchrist sobre la dinámica de los hemisferios se titula The master and his emissary, «El señor [«el hemisferio derecho»] y su emisario [«el hemisferio izquierdo»]».
Hay, finalmente, un hecho fácil de olvidar cuando nos adentramos en la bibliografía neurocientífica: la mente es más que el cerebro, los hemisferios por sí mismos no «piensan», ni «exploran» ni «quieren» nada.
Así pues, ¿dónde está la mente? (podemos verlo en el texto 14 del libro).
Personas o cosas
UN PROCESO GENERAL DE COSIFICACIÓN ha ido extendiéndose por todo el mundo. La mirada algorítmica lo transforma todo en simples «cosas»: objetos sin valor intrínseco, listos para ser manipulados, digitalizados, anunciados y comercializados. Y, como señalaba Adorno, también las personas se acaban percibiendo a sí mismas como cosas.
Si permitimos que nuestra vida y nuestras aspiraciones giren en torno a las cosas, nos degradamos a su nivel, acabamos siendo una cosa más. (…)
La cosificación conduce directamente a la alienación: cuanto más se cosifica el mundo, cuanto más queda reducido a lo material y cuantificable, más difícil nos resulta hallar sentido en él. (…)
La mirada algorítmica, en el mismo acto de reducirlo todo a parámetros cuantificables, establece un corte radical entre el yo y el mundo. La existencia deja de ser una red orgánica de interrelaciones y nace la escisión, el abismo, entre el sujeto y el objeto. Ese abismo es el núcleo de la condición moderna: el sujeto, aislado y desarraigado, se descubre rodeado de objetos en un mundo sin sentido. (…) Así el mundo se convierte en una suma de objetos desencantados, sin sentido ni propósito, mientras el sujeto acaba convertido en una especie de fantasma incorpóreo, sin contacto vital con la realidad.
Ese abismo, esa distancia creciente entre el sujeto alienado y el mundo cosificado, explica el sentimiento de irrealidad que caracteriza la vida contemporánea, ya identificado por Minkowski y otros psiquiatras y agudamente expresado por la alta literatura de hace un siglo (…)
De la mente algorítmica surgen dinámicas orientadas al control y al poder, incapaces de sentir empatía, apreciar matices, entender relaciones y comprender el contexto. Son dinámicas que solo atienden a lo que se puede reducir a datos y códigos, y que sustituyen el mundo real y concreto por una representación abstracta. Pero la representación con la que la mente algorítmica pretende reemplazar al mundo es ilusoria: es como una simple imagen en una pantalla, un constructo sin base en la realidad. Al estar desvinculada de la realidad, la representación algorítmica es fácilmente manipulable. (…)
En este mundo de objetos, de cosificación y alienación, la única forma que tiene el sujeto de buscar arraigo y seguridad es a través del control. Pero la actitud de control cosifica todavía más el mundo y genera todavía más alienación y más sed de control. (…)
Es urgente dejar atrás la rigidez algorítmica y dar vida y fluidez al conocimiento.
