Lucas Vilalta es brasileño, filósofo, graduado en la Universidad de San Pablo. El foco de su trabajo es el algoritmo, las tecnologías digitales y la IA. Salir del pensamiento apocalíptico y pensar la gobernanza algorítmica. O de un modo más general, pensar con el algoritmo metido en cada intersticio de nuestras vidas.
*Lucas, el nombre que más suena resuena en este momento, cuando se habla de tecnocapitalismo, de gobernanzas algorítmicas, de condicionamientos a las democracias, pareciera ser Peter Thiel y su proyecto Palantir, que poquito a poquito va convenciendo a gobiernos, servicios de seguridad, servicios de inteligencia, en un entramado que como mínimo podríamos calificar de peligroso. ¿Cómo ves este tema de Palantir desde tus estudios?
Emmanuel Levinas en 1934, antes de que Hitler llegara al poder, escribió Algunas reflexiones sobre la filosofía del hitlerismo, un libro que está publicado por Fondo de Cultura Económica, y es un texto muy interesante, porque Levinas va a decir que Hitler tiene una filosofía crítica, y a contrapelo de lo que la gente imaginaría, él va a analizar la filosofía de Hitler, diciendo que está basada en una crítica del liberalismo.
A mí parece que Peter Thiel, el CEO de Palantir, y Alex Karp, son algo que necesitamos estudiar así como Levinas lo hizo en aquel momento, porque Peter Thiel y Alex Karp tienen una crítica fuerte al liberalismo tecnológico que vivimos hoy. Estoy leyendo La república tecnológica de Alex Karp, un libro crucial porque es el manifiesto del tecnofascismo, pero que trae justamente una crítica del liberalismo tecnológico de Estados Unidos, y plantea una cuestión de diagnóstico que me parece muy acertada, que es: la tecnología en nuestro tiempo es una cuestión de gestión de la vida y de decisión geopolítica de quién va a tener poder, o quien no va a tener poder.
Lo que dice Alex Karp -y Peter Thiel también, en otros textos- es que por mucho tiempo la gente del Silicon Valley decía que la tecnología era un “servicio”, o sea, que se cambiaba un servicio por plata que venía de la publicidad; y pusieron sus esfuerzos en hacer aplicaciones y dispositivos que servían como servicios, bastante cercano a una lógica neoliberal, que básicamente va a vender un modo de vida para burgueses.
Y lo que Alex Karp remarca con todas las letras es que la tecnología no es eso, sino que está en el centro de lo que está decidiendo las guerras y la geopolítica hoy, y Trump lo percibió, y China y Xi Jinping, lo percibió hace tiempo, y algunos en nuestros países lo percibieron. Entonces lo primero que diría sobre Thiel es que tenemos que tomar en serio el tecnofascismo que quieren llevar adelante, el proyecto político con la tecnología. Nosotros no podemos ponernos en la posición liberal de pensar que sólo una regulación desde los Estados va a enfrentar a ese proyecto. Basta recuperar el encuentro de Hitler con Chamberlain en 1938, antes de la invasión de los Sudetes, en Checoslovaquia. Los europeos estaban en una posición muy parecida a esta que hay hoy, con todos los que dicen “vamos a hacer una legislación para regular las plataformas, para regular la Inteligencia Artificial, para negociar”. ¡Como si fuera un tema de intercambios, entre la Nación esclarecida, iluminada y ellos! “Vamos a llegar a un buen punto en esos intercambios” … Eso es los que Chamberlain le ofreció a Hitler, y lo que hizo Hitler fue invadir los Sudetes, incluso después de haber aceptado los términos en la negociación. Entonces lo que me parece es que cuando hablamos de Peter Thiel tenemos que tener claridad que no es una negociación, no vienen a intercambiar servicios, no vienen a ofrecer un servicio y lo que tendríamos que hacer es regularlo para que podamos no vendernos o no entregar demasiadas cosas a cambio de ese servicio.
Creo que tenemos que tomar en serio que en este Caballo de Troya hay un proyecto de dominación, pero no de dominación liberal, como tuvimos. Nadie tiene dudas de que Facebook y las plataformas controlan a los sujetos, pero lo que está en curso ahora es un control más directo y un proyecto de dominación en el que no va a haber un “sujeto esclarecido” liberal, que puede negociar. Ellos van a imponer sus términos, y me parece que es exactamente lo que está haciendo Peter Thiel en Argentina en este momento y en las conversaciones con Milei. Está avanzando en ese proyecto. No va a negociar, va a imponer.
Cuando hablamos de tecnologías, de algoritmos, entra en debate algo que forma parte del proyecto liberal: la soberanía, la independencia y hablar de los límites posibles a esa independencia, o los límites posibles de decisión de soberanía. ¿Qué márgenes quedarían para algún tipo de independencia con un proyecto tecnofascista de este tipo?
Yo creo que “soberanía” hay que entenderla como una construcción histórica. Hobbes -e incluso Rousseau-, decían que la soberanía no era una cuestión de individuos soberanos, sino una cuestión del poder, que podía permitir que los individuos se desarrollasen. A veces incluso, en el caso de Hobbes, y de Rousseau, “soberanía” no es igual a “libertad”, soberanía equivale a tener un deber, soberanía es igual a restricción, soberanía no es igual a liberalismo. Entonces, la soberanía me parece que puede estar en el debate de la educación, sin que eso sea un proyecto de soberanía, similar a los proyectos de soberanía liberal. Tomo lo de Ariel Pennisi sobre nuevas instituciones del común: una idea de soberanía de un común que está en función de todos, y que todos están en función de ese común. Significa que para que eso pueda operar los individuos tienen que delegar o entregar parte de sus libertades, de sus propiedades, parte de sus voluntades al Estado, o al que sea…no necesita ser el Estado. Y creo que es la gran dificultad que tenemos con el liberalismo. Yo soy un estudioso del filósofo Gilbert Simondon, que tiene un concepto: transindividual. Nosotros nos pensamos como un individuo, y olvidamos que ser “individuo” no deja de hacer que seamos parte, en nosotros mismos, de las cosas que son mayores que nosotros.
Incluso no por oposición, transindividual es algo en que uno participa y cuando empezamos a percibir que ser parte del común no es algo que uno necesita hacer por abdicación de algo, sino que ya nos constituye, empezamos a ver que es fácil un camino de la soberanía del común, es casi un camino inevitable que estaba bloqueado por el individualismo, por una creencia demasiado fuerte en los individuos.
Por ejemplo, el debate de si vamos a utilizar IA o no. Obviamente las inteligencias artificiales generativas son parte de un proyecto de apropiarse del conocimiento general colectivo para un interés privado, pero más allá de eso, la idea de tener tecnologías que sean expresión de la inteligencia colectiva y que sean algo del común, dan una posibilidad de comunidad y común del conocimiento que es más interesante de lo que teníamos antes. Sí, hoy hay sesgos y todo eso, pero tenemos que tener claro cuáles son los problemas y las dificultades, pero no tirar al bebé con el agua sucia de la bañera… Me parece que las tecnologías transindividuales, que son tecnologías del común que surgieron en los últimos años -la internet, las redes sociales, la inteligencia artificial-, no creo que sean un problema en sí, sino la dirección hacia los intereses privados y la apropiación que hacen de la inteligencia colectiva.
La apropiación de la inteligencia colectiva, el General Intellect, tiene un camino hacia el común, coincido. Pero desde el punto de vista de la tecnología pura y dura los dueños de los cables submarinos, los satélites y todos los Starlink y Amazon -que además son los dueños del acceso para dar el punto de conexión a ese común para producir conocimiento, intercambiarlo, y para las más diversas militancias-, y que tienen el tráfico de datos concentrado en ellos y el conocimiento que fluye a través de esos, ¿cómo crees que se puede producir un quiebre?
Correcto. Es fácil hablar de transindividual cuando hablamos de software, porque software es básicamente una tecnología de migración, es un código que puede ser modulado y que se modula de acuerdo con las personas. En ese sentido he tomado la parte más fácil -que no es fácil, ni sencilla ni simple-, pero sí es un buen punto. Toda la parte de infraestructura para las tecnologías digitales, el hardware -que en realidad no está separado del software porque son dos cosas conjuntas-es lo que llamamos la parte más material. Sí, está atrapada y los medios de producción digitales, por decirlo así, y los trabajadores digitales, si queremos hacer tecnologías para poder trabajar de manera soberana, en pro de un común, necesitamos tener los medios de producción, y eso pasa por los cables, los satélites y todos eso.
Me parece que hay tres posibilidades: en Brasil el gobierno de Lula está intentando avanzar de manera paradojal, porque al mismo tiempo que se abren muchos data centers extranjeros, con intereses muy complicados y contratos muy malos, se desarrollan tecnologías de infraestructuras digitales que empiezan a señalar un camino de soberanía nacional para Brasil. También está lo que hace China, que tiene otra manera de mirarlo, que es de “stack”. Pensemos que las tecnologías están fundadas en capas -una de infraestructura, una de software, una de conexión con la ciudad-; es Benjamin Bratton quien va a analizar el mapa de las interfaces, de todas las capas que componen la plataforma de stack. En Occidente hay una configuración de stack, del Silicon Valley, pero hay una configuración muy distinta en China. Y una tercera posibilidad de pensar eso, está conectada con la cuestión ambiental, en el sentido transindividual: nosotros somos agua, somos silencio, somos parte de las tecnologías, entonces cuando uno va a construir el data center, hay que pensar que el agua que fluye ahí, tiene que ser la misma agua que va a consumir alguien después, o sea, que el agua tiene que ser reutilizable. Y ahí ya no es solo un debate por los data centers sino concebir que vamos a compartir los elementos naturales que están en juego.
Entonces veo que hay un camino interesante, porque me parece que no podemos pensar en un común, que sea un común que solamente resuelve el problema geopolítico, y deje afuera toda la cuestión de si va a ser sostenible desde el punto del punto de vista ambiental y del punto de vista que también tenemos que pensar en la soberanía del común. Quiero decir: no existe separado el común del medio ambiente, de la naturaleza, de las materias que son necesarias para la infraestructura digital. Si hacemos infraestructura ignorando eso, me parece que en el proyecto de China hay una tensión en ese sentido, y que por eso están mirando el reciclaje de baterías para autos automáticos…
Me parece, resumiendo, que hay tres líneas de fuerza: una la de la soberanía nacional, otra la de la infraestructura tecnológica o de reinvención de infraestructura tecnológica que es lo que estamos viendo en China con esa megainversión para separar su stack de IA del stack del Silicon Valley, y otra que es una reinvención de nuestra relación con los medios materiales que sostienen el mundo digital.
La internet y la web nacieron como una herramienta militar, que luego pasó a la vida civil, aunque nunca dejó de ser militar. Después de décadas de uso masivo ciudadano, la nueva internet o la tecnología de la que estamos hablando, que invade la vida cotidiana, pues no hay modo de transitar, de viajar, de operar, de comprar, de asistir al médico, que no haya atravesado el algoritmo ¿hemos vuelto a una matriz de concepción militar geopolítica del algoritmo? porque la batalla está dada ahí en la información, el dato y el conocimiento, cruzado con los poderes políticos, de la inteligencia y de la vigilancia.
Si volvemos un poquito a la historia de la internet vamos a ver que hubo dos cosas en conjunción: la parte militar sí estaba porque los militares tenían esa preocupación, que en caso de una guerra nuclear, o alguna guerra, toda la acción militar no podía depender de un nudo de comunicación, y entonces la comunicación tenía que ser distribuida, descentralizada.
Alexander Galloway, en el libro Protocolo trabaja eso, pero muestra otra faz de la cosa: que esa tecnología o la infraestructura descentralizada, militar al comienzo, tenía una centralización del protocolo. Había distintos protocolos, de intercambio de paquetes de comunicación, pero lo que ellos percibieron era ¿quién iba a tener el poderío de controlar el protocolo? y eso tendría que ser centralizado, como la ONU, porque el control era necesario para mantener el protocolo operando, pero no podría ser un interés privado. Después se va a privatizar el control de ese protocolo, y eso es muy interesante, porque me parece que es el doble movimiento que hace parte de la historia de la internet. Es un doble movimiento que nos aclara mucho lo que está pasando ahora. Si miramos solamente la cuestión geopolítica, algo que no puede ignorarse porque basta observar con tenacidad lo que está pasando en estas últimas guerras tanto en Ucrania como en Palestina, es que la guerra está cambiando, y entonces ignorar eso no sirve. Pero también hay otros elementos, y China nos da una señal en ese sentido: sólo invertir en tecnología como en un origen no es sostenible en el largo plazo porque precisamente no crea las infraestructuras o la propia dispersión de la tecnología en la sociedad. Por eso, me parece, tiene la lectura acertada de la cosa, que sería “me voy a preparar para la guerra, no puedo no hacerlo, pero al mismo tiempo, toda la infraestructura que es construida, se vuelve también una infraestructura disponible para la producción y para los servicios”.
China tiene una estrategia muy interesante, más sencilla, más parecida a la estrategia que tenía Estados Unidos en la Segunda Guerra. Y eso señala caminos posibles para nuestro desarrollo tecnológico. Por ejemplo, Brasil está haciendo muchos acuerdos con China para desarrollar tecnologías que van a ser de servicio, y porque ahí no hay cómo tener mucha soberanía, me refiero a los cables y todo eso. Si un país como Brasil quiere producir las tecnologías para servicios y para producción, y para infraestructura, está perdido. De todas maneras, no podemos dejar de producir las tecnologías necesarias para la parte estratégica militar, porque Estados Unidos, en las elecciones, puede “invadir” el país. Hay que hacer las dos cosas…
¿Hay en el horizonte una internet y un algoritmo de los BRICS, de Brasil, Rusia, India, China, Sudáfrica y de los BRICS ampliados? Porque ¿de qué otro modo se podría imaginar una suerte de contrapoder a Meta, Musk, Palantir, entre otros?
Eso ya está siendo desarrollado. Xi Jinping habló de código abierto, y que la IA de código abierto va a ser buena para ese bloque de países. De distintos software de seguridad también. Querrían que esté en muchas aplicaciones para que la gente pueda tanto atacar como defender. Porque más gente pudiendo acceder al código abierto hace que la defensa cibernética la puedan hacer más personas y el sistema es más robusto que si queda solamente en manos de la empresa. Respecto a otra internet, hay algunas líneas alternativas, entre China y Rusia.
Volviendo a Hobbes. ¿El algoritmo y la gobernanza algorítmica son el nuevo Leviatán?
De alguna manera sí. Delegamos -en este caso en el algoritmo en tanto entidad tecnológica soberana- el poder de gobernar. Pero eso sería algo malo…A decir verdad, Hobbes y Rousseau no estaban tan lejos: ambos tenían la idea de que la libertad no puede estar en un individuo, si no, no es moral. Moral en el sentido simondoniano, que no constituye comunidad. No obstante, creo que tener funciones simbólicas y tecnológicas que nos conectan, que nos dirigen, que nos permiten comunicarnos, más allá de la decisión individual de cada uno, no es algo malo. En el Chile de Salvador Allende se concibió el sistema de gobernanza cibernética, el Proyecto Cybersyn, con las dos facetas: la de control centralizado de las decisiones de la producción y todo eso, y la posibilidad de puntos-nudo de la comunicación en los que tomaban parte los trabajadores.
Acompaño esa definición de Pablo Manolo Rodríguez que dice “el algoritmo somos nosotros”. Entonces cuando pensamos en la clásica imagen del Leviatán, no es más que nosotros mismos, congregados, unidos en algo, y ahí gana otras dimensiones y señala algo muy potente: no queremos un Leviatán con espada y religión, etc., pero tal vez podríamos querer un Leviatán que sea ese “común”, porque me parece que el individuo es nuestro principal problema. En el horizonte político hay que hacer algo que una a los individuos en algo más grande.
En términos de los autonomistas italianos, ¿es posible un “éxodo” del algoritmo?
Como simondoniano, yo sostengo que la tecnología es lo que nos hace humanos. Planteado así, construir un “afuera” sería de los que tuvieron la suerte de huir. Y el único éxodo que concibo posible es si es el éxodo de la humanidad toda. Al salir de algo uno va a tener que construir y al tener que construir va a tener que construir con tecnología. Los seres humanos somos lo que somos porque tenemos la técnica para mediar nuestra relación con el medio. No existe eso de irse y dejar todo atrás.
A decir verdad, el algoritmo quedó como sinónimo de algo únicamente computacional. Pero algoritmo significa patrones, instrucciones, una lógica de operación para hacer alguna cosa. Y eso los seres humanos lo tenemos hace muchos años. Eso de que los algoritmos son algo automático no es cierto, al menos no totalmente. Dependen de la parte viva de nuestras interacciones que ofrecen datos para que las cosas cambien, o duren. En síntesis, vayamos donde vayamos, vamos a llevar algoritmos.
Por otro lado, cuando los autonomistas hablan de un éxodo, de una salida del capitalismo, es interesante. No estamos en el fin del capitalismo, sino en su cumbre, porque la lógica de las equivalencias del digital es el camino que Marx vio, pero lo que cambió es que tenemos los modos de comunicación e información, llevando la lógica que Marx describió para el capital a todas las regiones de la vida. Y en ese sentido sí creo que hay un éxodo importante, que no es tanto tecnológico, sino que el capitalismo tiene como centro transformar las relaciones en código, en vínculos preestablecidos. De eso sí hay que irse porque no es posible gobernar algo si no transformamos las relaciones sociales y representaciones, pero la lógica del capitalismo es subsumir la relación en pro del vínculo, someter el trabajo a la producción de algo útil que pueda generar valor. Entonces en ese sentido estoy totalmente de acuerdo: hay que crear algo alternativo al digital-capitalismo, pero no veo muchas opciones posibles a lo digital.
Entrevista: Darío Bursztyn– www.purochamuyo.com / Cuadernos de Crisis
El material que publica la revista web www.purochamuyo.com / Cuadernos de Crisis pertenece al Colectivo Editorial Crisis Asociación Civil. Los contenidos pueden reproducirse, sin edición ni modificación, y citando la fecha de publicación y la fuente: www.purochamuyo.com
REGISTRO ISSN 2953-3945
purochamuyo.com es una publicación del Colectivo Editorial Crisis, una Asociación Civil argentina, cuyo objetivo es contribuir a la producción y divulgación del pensamiento plural, las artes y los acontecimientos sociales contemporáneos.
