La delegación algorítmica que se está llevando a cabo en la toma de decisiones, que pasa de hallarse en manos humanas a las manos maquínicas, las cuales de cierta forma gestionan nuestras incomodidades (también morales), podría estar favoreciendo un bucle odioso. Sobre él escribe Remedios Zafra en El bucle invisible (Nobel, 2022): la reproducción social asume que el pobre será pobre; el rico, rico; el ladrón, siempre ladrón; el enfermo, un enfermo más profundo; etc. A su vez, aquellos que acumulan poder consiguen salirse de estos compartimentos estancos, de la datificación y la vigilancia tecnológica: «en sus conflictos es altamente probable que sean atendidos por supervisores empáticos y no por máquinas» (p. 16). Será fundamental en la aproximación de Zafra la tesis de Simone Weil, según la cual una sociedad puede ser buena si lima las desigualdades, mala si las agrava, pero, sobre todo, odiosa si provoca un loop, una repetición continua que nos hace caer en el cliché y no permite que hagamos algo distinto a lo que de antemano se esperaba.
Compara, a través de sus recuerdos de infancia, el modus operandi de los algoritmos con el de los ratoncitos de campo: están ocultos, viven en un submundo que no percibimos, no reparamos en ellos mientras hacen sus diabluras, y hasta que no los pillas, el entramado no sale a la luz. Y mientras eso no pasa, van condicionando nuestra vida. El bucle se halla inscrito en el corazón de nuestro día a día, en los formularios que cumplimentamos cada poco tiempo y en las bases de datos que los sostienen; de hecho, todos ellos están basados en las respuestas previas que, en un proceso de retroalimentación, alimentan el formulario o programación presente. De igual manera, la IA opera con una lógica afín, lo que a Zafra la lleva a cuestionarse si esto no rompe nuestra capacidad agencial, la posibilidad de realizar algo inesperado o traer al mundo una genuina novedad. Los algoritmos predictivos son ciegos ante los eventos nuevos, que discurren ante la visión algorítmica como espíritus imperceptibles, así, una vez producida la datificación de la vida, «la respuesta estadísticamente más predecible se estima más objetiva y fiable» (p. 28). El bucle continúa porque sigue el proceso de delegación maquínica de nuestras capacidades cognitivas; estamos ante la emergencia de una aletheia algorítmica denunciada por Éric Sadin.
La repetición tiene mucho que ver con el ritual; es ella la que asienta el bucle. Retomando de nuevo la obra de Weil, señala cómo en ella «la repetición está unida al agotamiento y a la dificultad de pensar», conduciendo al trabajador hacia un «‘maquinismo’ que desgarraba la condición humana» (p. 51). En esta repetición uno repite loops que no controla y, por tanto, su capacidad agencial se encuentra minada, plegada sobre sí sufriendo en la cadena de montaje un «presente interminable» en el que nuestra voluntad se doblega y reestructura en torno a una conducta estandarizada, que pasa por alto cualquier elemento que circule por fuera del cauce: el Leviatán algorítmico ha hecho de la realidad un espacio que responde a sus indicaciones. Como el príncipe renacentista, sabe lo que nos conviene. En definitiva, al pobre se le vende un modelo de digitalización que debería agilizar, facilitar, afinar y automatizar las diferentes parcelas de la vida y el trabajo, evitando el error humano y aumentando la productividad; sin embargo, en muchas ocasiones los caprichos algorítmicos terminan por expulsar a la gente del sistema laboral o negándole la oportunidad que tendría alguien rico que, en lugar de ser escuchado por una máquina, recibiría la atención de una persona física.
Vivimos una prioridad algorítmica y una postergación humana, de ahí la importancia social de la presuposición, a saber, esa operación propia de nuestra cultura digital de, ante la falta de tiempo, no atender a lo que percibimos, sino tomarlo ya masticado por un algo otro. Zafra pone el ejemplo de la adquisición de un bien material (un móvil, ropa…), en ese momento presuponemos que ha pasado unos estándares y tiene una suerte de garantía moral por la que podemos comprarlo despreocupadamente. ¿Seguro? La dificultad de enfrentarse al dictum, al menos para parte de la población, de «lo ha dicho la máquina» resulta evidente. Si queremos lograr una genuina manifestación expresiva, la capacidad de comunicar qué nos ocurre, y trabajar maximizando la comunicación y la empatía, requerimos de romper el bucle, de salirnos de él, «en tanto todo trabajo convertido en bucle implica ejecutar series sin tener la oportunidad de intervenir o coordinar las operaciones» (p. 163). Y es que, como recuerda Zafra en una aproximación weiliana, la división en clases sociales no depende del vector trabajo (quién trabaja para quién), sino en primer lugar del vector maquínico (quiénes controlan la máquina y quiénes son controlados por ella).
Si (
No(
