El Algoritmo Brujo
Read in EnglishEl ojo celeste mide dos metros. Está a la altura exacta de la cara de alguien que espera un tren. Abajo dice Dejá que el Algoritmo decida por vos.
— Celeste corporativo. El celeste de las cosas que cuestan plata.
— ¿Y por qué lo mirás?
— Porque mide dos metros. Es imposible no mirarlo.
— Mirá alrededor. Nadie lo mira.
Los parlantes anuncian el próximo tren, vía tres, pero informan que el servicio opera con demora. Aclaran, sin embargo, que el sistema no necesita brujo central1. Que la captura funciona sola, sin hilos, sin titiritero. Una red de prácticas y de miedos que se sostiene como se sostiene el horario de trenes: porque nadie se acuerda de cuándo empezó.
Subo. Cada cual con su teléfono, esquivando al de adelante sin levantar la vista.
— Nadie levanta la cabeza.
— Vos tampoco.
— Yo estoy observando.
— Eso dicen todos los que miran el teléfono.
Desde los parlantes, una voz recuerda a los señores pasajeros que un loro repite patrones de una selva de datos tan inmensa que su eco parece una conciencia2. Se ruega no confundir el eco con el pájaro3.
Camino por el vagón. Una señora con tres bolsas ocupa dos asientos; nadie le dice nada. Me siento donde hay sol.
Saco el teléfono. El pulgar va a Twitter.
— Pará.
— ¿Por qué?
— Porque si tocás ya sabés lo que pasa. Veinte minutos y después no te acordás de nada.
— Eso ya lo sé. Lo sé cada vez. Pero esta vez no. Esta vez bajo el teléfono y me dedico a mirar las caras de los que no miran la pantalla. Son tres: una señora mayor con un libro, un nene que dibuja en un cuaderno y un tipo con uniforme que mira el vacío.
— Un pequeño acto de desobediencia.
— ¿Sirve de algo?
— Sirve para recordar que el pulgar no tiene voluntad propia.
— En un libro elegís el ritmo. Esto es un tren. El ritmo te elige a vos.
— ¿Cuál es la diferencia?
La de enfrente, una chica que no debe tener más de veinte, mira el teléfono con esos auriculares blancos, de cable, que son casi un uniforme. En la pantalla, el mismo video de un tipo que corta jabones de colores en cubitos que vi anoche. Un ASMR visual. La chica no sonríe, solo mira, con la misma concentración con la que alguien leería el resultado de una biopsia.
— Es coincidencia.
— No existen las coincidencias con un sistema de recomendación.
— ¿Entonces qué es?
— Un patrón. Alguien como vos mira lo mismo que alguien como ella.
— “Alguien como vos”. ¿Qué sabe de mí?
— Todo lo que le diste. Que es casi todo.
— No le di nada.
— Le diste cada segundo que el pulgar se quedó de más en una imagen. Cada búsqueda a las tres de la mañana. Cada link en el que dudaste y no tocaste.
— Eso no es dar. Eso es que te miren4. Se vuelve una fuerza abstracta, como el destino o la gravedad.
— Mi abuela, de hecho, dice “el Algoritmo” con la misma cara con la que dice “la inflación”. Algo que viene de arriba.
— Mi abuela no sabe qué es.
— Nadie sabe. No es que no lo entendamos todavía: es que no se deja entender5.
De repente, la chica de la biopsia se ríe. Una risa corta, para adentro. La mandíbula vuelve a tensarse al instante.
— Lo peor no es que te miren. Es que te ponen un video y te reís.
Pasa un tipo con una bolsa de consorcio llena de auriculares. El guion es siempre el mismo, cantado con el cansancio de mil viajes: ‘Auriculares, suenan bien, cargador para el celu…’. Nadie levanta la vista. Él tampoco mira a nadie; le habla a un vagón de nucas. Un algoritmo humano, repitiendo su patrón. La repetición me recuerda a otra.
— Esta mañana le pedí a una máquina que me corrigiera un texto.
— ¿Y?
— Le metí ideas crudas y salió un embutido de prosa. La Choricera Artificial.
— Pero lo usaste.
— Había frases mejores que las mías. Las usé.
— O sea que funciona.
— Y ahora no sé si lo que quedó es mío o es una versión corregida de mí6.
— ¿Cuál es la diferencia?
— Primero fue el corrector ortográfico. Después el traductor. Después “mejorá la redacción”.
— No hay un día en que dijiste “hoy dejo que piense por mí”. Es más lento que eso.
— Lo peor no es la duda.
— ¿Qué es lo peor?
— Lo rápido que dejé de preguntarme qué parte era mía.
Sube alguien con un buzo gris que delata una conferencia de desarrolladores; un logo críptico sobre el pecho. Se sienta, saca el teléfono, como todos.
— Ese sabe cómo funciona.
— Sabe su parte. Nadie sabe el resto.
— ¿Qué es el resto?
— En algún lugar alguien mira fotos de lo peor que hacemos, una por una, para que la máquina aprenda a no mostrártelas7.
— La Nube no es una nube.
— Es una mina a cielo abierto8. Pero cuando te responde no ves esas manos. Ves algo que piensa. Algo que te aconseja, te escribe poemas de amor y cartas de despido9.
— Yo a la máquina le digo gracias.
— ¿Y a los que clasifican las imágenes?
Un chirrido agudo de metal contra metal y el vagón se estremece hasta detenerse. Afuera: el andén mojado, las baldosas flojas, un perro atado a una columna. Mira el vagón quieto con la paciencia de…
— No. Esa frase no es tuya.
— ¿Qué cosa?
— “La paciencia de algo que ya no espera nada.” Eso lo escribiría la Choricera.
— Lo pensé yo.
— ¿Seguro? Porque suena bien y no dice nada.
— ¿Y si pienso como la Choricera?
— Esa es la pregunta.
— El perro está mojado. Está atado. Alguien le tira un pedazo de medialuna.
— Eso alcanza.
— Sin la frase es solo un perro.
— Un perro es suficiente.
— Pero no puedo pensar sin la frase10.
El tren arranca. El pulgar sigue ahí.
— ¿Esto lo pensé o me lo sugeriste?
— ¿Importa?
— Si no importa, ya ganaron. Si empieza a importar, el juego sigue.
Afuera la ciudad sigue andando con la eficiencia de algo que no necesita que nadie lo entienda.
Addendum: Ecos
—¿Brujería? ¿En serio?
—No es una metáfora. Es un diagnóstico. Stengers no habla de velas negras, habla de parálisis. De captura.
—¿Captura?
—Una heladera que se enchufa a sí misma. El sistema te da dos puertas y las dos llevan al mismo pasillo. Usá la máquina o sos irrelevante. Cedé los datos o no existís. Es una trampa que funciona sola. Sin brujo. Por eso es buena.
—Pero alguien la hizo. Alguien sabe cómo funciona.
—Saben ponerla en marcha. Como quien sabe la fórmula para que el compost fermente. Pero no entienden el resultado final. Uno de sus propios ingenieros lo llamó alquimia. Otros, loros estocásticos.
—Un loro que funciona.
—Funciona, sí. Como funciona una mina a cielo abierto. Extrae valor de todo lo que le diste. Tus conversaciones, tus miedos, las fotos de tus hijos. Y para que parezca limpio, para que no veas la mugre, hay gente del otro lado del mundo mirando lo peor de nosotros por dos dólares la hora. Fetichismo con interfaz de chat.
—Pero la denuncia no alcanza. Saberlo no cambia nada.
—Saberlo es una condición necesaria pero no suficiente. La denuncia es un género literario que tranquiliza al que denuncia y deja intacto el sistema.11 Stengers y Pignarre proponen otra cosa. Trazar un círculo. Como hacían las brujas de verdad.
—¿Para qué?
—Para protegerse. Para admitir que estás afectado. Para crear un espacio donde se pueda pensar distinto. Para prestar atención. En una economía que vive de tu distracción, prestar atención es un acto político.
—Suena a poco.
—Es que no hay un botón rojo para apagarlo todo. Es más lento. Es empezar a contar otra historia. Una donde la tecnología no sea una lanza para conquistar el futuro, sino una bolsa para llevar cosas. Y preguntarse, siempre, quién se beneficia de la aceleración.
—Mi hermana dice que me quedo afuera.
—Tu hermana tiene miedo. El miedo es el motor. Pero la resistencia no es una batalla, es un acto de imaginación. Es inventar futuros que no están en los datos.12 Es, simplemente, empezar a caminar en lugar de esperar el próximo tren.
Fuentes y madrigueras
Lecturas que rodearon este texto. No todas están citadas arriba; algunas simplemente estuvieron abiertas en pestañas que nunca cerré.
- Philippe Pignarre e Isabelle Stengers, La sorcellerie capitaliste: Pratiques de désenvoûtement, Éditions La Découverte, 2005. Traducción al inglés: Capitalist Sorcery: Breaking the Spell, Palgrave Macmillan, 2011.
- Ali Rahimi, “Machine Learning has become Alchemy”, NIPS 2017 Test-of-Time Award.
- Yanis Varoufakis, Technofeudalism: What Killed Capitalism, Bodley Head, 2023.
- Mary L. Gray y Siddharth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass, Houghton Mifflin Harcourt, 2019.
- Nick Srnicek, Platform Capitalism, Polity Press, 2017.
- Luciano Floridi, sobre la opacidad ontológica de la IA. Ver: “Escaping AI’s Magic Black Box”, American Scientist.
- Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism, NYU Press, 2018.
- Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code, Polity Press, 2019.
- Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, PublicAffairs, 2019.
- Emily Bender, Timnit Gebru et al., “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, FAccT, 2021.
- Kate Crawford, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021.
- Matteo Pasquinelli, The Eye of the Master: A Social History of Artificial Intelligence, Verso, 2023.
- Antoinette Rouvroy y Thomas Berns, “Gouvernementalité algorithmique et perspectives d’émancipation”, Réseaux, 2013.
- Yuk Hui, “The Incomputable and Instrumental Possibility”, e-flux Journal #77.