La nueva exposición del Espacio Fundación Telefónica tiene como protagonistas el código y el algoritmo. La muestra, que podrá verse de manera gratuita hasta abril de 2023, aborda el impacto de los algoritmos en nuestras vidas, cómo pueden complementarse la inteligencia humana y la inteligencia artificial, cuáles son los próximos avances en la materia, qué implica el sesgo algorítmico, cómo proteger la privacidad de los datos que se obtienen a través de ellos o cuál es el impacto ambiental que generan.
Esta sección introductoria nos adentra en los conceptos de código y algoritmo, recorriendo la historia de la computación mediante vídeos, ilustraciones y documentos, organizados en tres grandes paneles informativos.
En el primero de ellos, se explican el código y sus elementos, destacando la reproducción de un artículo del filósofo alemán Gottfried Leibniz sobre el funcionamiento de una proto-computadora aplicada hace más de trescientos años. A continuación, el panel central queda dedicado a las máquinas y su cronología, resumida en diez hitos clave como el ábaco neperiano (1617), la figura de Ada Lovelace, considerada la primera programadora de la historia o la actual supercomputadora (2022). El tercer y último panel recoge ejemplos de tres de los algoritmos más usados en la actualidad: ordenación, búsqueda y juego.
Asimismo, se presentan dos piezas que nos introducen en el mundo algorítmico. Por un lado, Código XML-SVG de Karin Sander, donde la artista traduce el espacio físico de la sala expositiva en su equivalente código fuente; y, por otro, Not Allowed for Algoritmic Audiences de Kyriaki Goni, en la que un asistente personal inteligente con rasgos humanos y creado mediante algoritmos reflexiona sobre su propia naturaleza y la de los humanos.
En las últimas décadas, se ha logrado que, además de realizar cálculos, los algoritmos puedan predecir fenómenos futuros: qué tiempo va a hacer, qué probabilidad tenemos de padecer una enfermedad o quién va a ganar las elecciones. Para ello, dispositivos conectados a la red, con una enorme capacidad de computación y almacenamiento, analizan, etiquetan y comparten un volumen de información sin precedentes en base a la cual pronostican resultados.
Dado que los algoritmos, poseen gran impacto en la vida de millones de personas, es fundamental entender cómo se diseñan, de qué datos aprenden y en qué decisiones se aplican para que sus decisiones sean éticas y justas. En esta sección se aborda la importancia de asegurar que esa clasificación sea transparente, abierta, trazable y auditable, con el fin de evitar sesgos históricos, de raza, género o edad.
En la obra Machine Biography, los artistas Clara Boj y Diego Díaz entrenaron una inteligencia artificial con la recopilación de toda su actividad digital a lo largo de 2017 para predecir su vida en el futuro. El resultado se compiló en 365 libros, con los que cuestionan la capacidad predictiva de los algoritmos y la veracidad misma de la información.
Por su parte, Mushon Zer-Aviv presenta Normalizing.ng, una instalación interactiva fruto de una investigación experimental sobre los sesgos algorítmicos. Basada en el reconocimiento de rasgos faciales según metodologías históricas, hace patente cómo el aprendizaje automático mecaniza y amplifica nuestros prejuicios y de qué manera puede anularse el significado de lo “normal” con una máquina aparentemente objetiva.
La empleabilidad es sin duda uno de los ámbitos en los que más han impactado los algoritmos. En algunos casos, el uso de sistemas inteligentes ha reemplazado el trabajo humano e incluso nos ha abocado a la precarización. Por el contrario, también ha generado nuevos campos de negocio y ha impulsado el auge o aparición de otros empleos.
Con su obra PHC (Painfully Human Chatbot, 2021), la artista Iosune Sarasate recrea un chatbot que muestra actitudes humanas como el cansancio o la pereza. Esto le permite visibilizar temas como la gestión del tiempo, la reciente exigencia de estar disponibles en todo momento y cómo el creciente uso de la tecnología ha propiciado nuevos valores que en el pasado se aplicaban solo a las máquinas. Por otro lado, las tecnologías de visión artificial como el reconocimiento automático de objetos, rostros o emociones se utilizan cada vez más para convertir imágenes en información. Pero a pesar de sus notables avances, muchos de estos procesos todavía requieren de intervención humana; tareas tediosas y repetitivas, a menudo realizadas en condiciones muy desfavorables, que provocan que la cuestión de quién o qué trabaja ya no resulte tan evidente.
Los algoritmos son capaces de identificar patrones compartidos. Este reconocimiento implica clasificar objetos por categorías o clases; un proceso esencial sin el cual no sabríamos cómo decirle a la máquina qué está viendo. Pero convertir la información en conocimiento con sentido es un proceso complejo que requiere conectar una gran variedad de datos dispersos para llegar a una conclusión razonable. ¿Corremos el riesgo de reducir la riqueza, complejidad y matices de nuestro mundo a un conjunto de etiquetas que pueden comprender las máquinas?
La obra Cloud Face de Shinseungback Kimyonghun indaga en el concepto de error e imaginación en tecnologías y humanos. La pieza presenta una colección de imágenes de nubes que la inteligencia artificial identifica como rostros humanos. También nosotros podemos percibirlas, sabiendo realmente que solo son nubes. ¿Cómo puede determinar eso una máquina?
La instalación audiovisual interactiva Faces of ImageNet de Trevor Paglen parte de un enorme banco de imágenes extraídas de Internet y etiquetadas manualmente según criterios arbitrarios, muchos de ellos racistas, misóginos u homófobos. Esto sirvió para entrenar sistemas artificiales que fueron después implementados en procesos laborales todo el mundo.
Otra de las cuestiones trascendentales sobre los datos que recaban las inteligencias artificiales a través de distintas interfaces es la ciberseguridad y la soberanía digital. La instalación audiovisual WannaScry! de Danja Vasiliev ilustra la reciente vulnerabilidad en un servicio de videotelefonía y demuestra hasta qué punto, de manera intencionada o no, los datos biométricos personales pueden ser interceptados y extraídos.