EPISODIO 1

Lo que sostiene la inteligencia artificial (1): Una tecnología voraz

Con Paz Peña

El relato sobre la inteligencia artificial está lleno de promesas. Una de las más repetidas dice que será la herramienta definitiva para luchar contra el cambio climático. De momento, solo ha demostrado una enorme voracidad y ha disparado el consumo de recursos desde materias primas hasta electricidad o agua.

Lee y escucha

00:00:06:14 – 00:00:33:01
Carlos Bajo Erro
Un ente sin cuerpo vive, armónicamente, en una nube sutil y vaporosa, desde donde se encarga de que las vidas de los seres humanos sean más plenas. No sabemos bien si la inteligencia artificial es azul pureza o transparente etéreo. No sabemos a qué huele esa nube, ni cuánto pesa la magia de la IA, pero sí que sabemos que esa entidad va a hacer que nuestra vida sea mejor y que la infalibilidad de la máquina neutralizará la imperfección humana.

00:00:33:02 – 00:00:59:04
Natalia Pereira Martín
A algo así podría sonar el relato de la expansión de la inteligencia artificial. En realidad, no es nada nuevo. Hace más de 70 años que se acuñó el término “inteligencia artificial” para designar un conjunto de disciplinas que concentraban esfuerzos de grupos de investigación y centros académicos. Aunque la etiqueta también era, sobre todo, un reclamo para inversiones, es decir, una fórmula publicitaria que se ha sublimado en los últimos años.

00:00:59:06 – 00:01:26:01
Carlos Bajo Erro
No es casualidad que a la pesadísima y muy tangible infraestructura de la inteligencia artificial le llamen “la nube”; o que cuando un algoritmo funciona incorrectamente y no da los resultados deseados, digan que “alucina”; que si pedimos una operación a un chatbot, aseguren que nos “contesta” y. por tanto, que “hablamos” con esas herramientas. De la máquina dicen que “aprende” o, incluso algunos, que “razona”.

00:01:26:03 – 00:01:49:12
Carlos Bajo Erro
Una parte de la industria tecnológica ha construido la imagen de una arcadia futura en la que las máquinas harán los trabajos más tediosos y más pesados y los humanos se dedicarán a la contemplación. No habrá fallos, porque las decisiones las tomarán máquinas infalibles; y todos los recursos se aprovecharán al máximo. Porque la inteligencia artificial, sobre todo, mejora la eficiencia.

00:01:49:14 – 00:01:52:22
Carlos Bajo Erro
¿Pero es esto realmente así?

00:01:52:24 – 00:02:15:13
Natalia Pereira Martín
En torno a estas promesas se han construido las narrativas hegemónicas de la inteligencia artificial desde una parte de la industria tecnológica, diminuta en número de empresas, pero enorme en poder y también en impacto social y medioambiental. Una de las principales promesas es la que tiene que ver con el cambio climático. Y en ella nos vamos a centrar en este primer episodio de “Mucho hype y pocas nueces”.

00:02:15:15 – 00:02:38:14
Natalia Pereira Martín
Por ejemplo, el Foro Económico Mundial asegura que la inteligencia artificial es una potente aliada para combatir el cambio climático, ofreciendo herramientas para medir cómo se derriten los icebergs, mapear la deforestación, apoyar las comunidades vulnerables a que se planifiquen mejor, incluso, a limpiar el océano. Y esto es solo una parte de lo que llaman su potencial futuro.

00:02:38:16 – 00:03:29:11
Natalia Pereira Martín
Pero olvidan mencionar el coste medioambiental y ecosocial de su investigación, su preparación y su desarrollo. De momento, lo que hemos visto ha sido cómo se dispara la exigencia de recursos naturales para alimentar a la máquina. Pero de las herramientas que frenarán el cambio climático todavía no hemos visto gran cosa.

00:03:29:13 – 00:03:31:05
Carlos Bajo Erro
Soy Carlos Bajo Erro.

00:03:31:07 – 00:03:33:15
Natalia Pereira Martín
Y yo soy Natalia Pereira Martín.

00:03:33:17 – 00:03:44:14
Carlos Bajo Erro
Y este es el primer episodio de la serie de podcast “Mucho hype y pocas nueces”. Lo hemos titulado “Lo que sostiene la inteligencia artificial. Primera parte: Una tecnología voraz”.

00:03:44:16 – 00:04:07:14
Natalia Pereira Martín
Tenemos el privilegio de poder contar desde Santiago de Chile con Paz Peña, que no es solo una de las madrinas de nuestro proyecto de Justicia Digital Global, sino que además es una investigadora especializada, referente internacional en el impacto ecosocial de la tecnología y, específicamente, de la inteligencia artificial. Buenas tardes, Paz, bienvenida y muchas gracias por estar aquí. Buenos días,en tu caso.

00:04:07:16 – 00:04:18:00
Paz Peña
Hola Natalia. Hola Carlos. Un honor estar en el primer episodio de “Mucho hype y pocas nueces”. Excelente nombre by the way.

00:04:18:02 – 00:04:42:19
Carlos Bajo Erro
Gracias. Paz Peña es investigadora independiente, muy reconocida por su trabajo en el análisis del impacto social de la tecnología y autora del libro “Tecnologías para un planeta en llamas. Los peligros del tecno capitalismo y la necesidad de una transición digital justa en la era de la crisis climática y ecológica”. Paz, creemos que no estamos para adornar la situación, así que se sincera con nosotras.

00:04:42:21 – 00:05:01:19
Carlos Bajo Erro
Como apuntas en tu investigación con Mozilla Foundation y como ya avanzabas en tu libro “Tecnologías para un planeta en llamas” que, por cierto, recomendamos encarecidamente. ¿Hasta qué punto el actual modelo de desarrollo de la inteligencia artificial es ambientalmente insostenible?

00:05:01:21 – 00:05:32:14
Paz Peña
Bueno, yo creo que hasta hace muy poco tiempo la idea de que la inteligencia artificial y el mundo digital era un mundo desmaterializado y, por lo tanto, no tenía consecuencias medioambientales, dominaba, creo yo, el discurso público sobre todo. Esta idea de que, por ejemplo, cuando nosotros pasamos de la música en su formato físico, a la música en digital, se veía, no es cierto, con muy buenos ojos esta idea de que significarían menos impactos ambientales

00:05:32:14 – 00:06:03:15
Paz Peña
porque habría menos producción, digamos, de formatos materiales, etc. Pero yo creo que desde hace unos cinco años atrás, ya hay mucha más evidencia y mucho más entendimiento de que estamos ante un escenario donde la economía digital también tiene enormes costos o impactos socioambientales. ¿Cuáles son esos? Hay un montón. Depende, no cierto, de la cadena, de en qué eslabón de la cadena de producción global, de la digitalización examinemos.

00:06:03:15 – 00:06:36:19
Paz Peña
Por ejemplo, nosotros necesitamos los computadores, los celulares, los móviles, etc. Todos esos necesitan grandes cantidades de minerales y de metales, por ejemplo, son altamente intensivos en ese uso. De hecho, siempre se dice: se necesitan todos los elementos químicos de la tabla periódica para que nuestros celulares funcionen. Y, si bien son muy pocas cantidades, piénsenlo a nivel mundial en su producción enorme, a nivel global.

00:06:36:21 – 00:07:07:13
Paz Peña
Lo que se necesitan son ingentes cantidades de minerales y metales. Eso significa, obviamente, un aumento del extractivismo mineral. Y de las empresas mineras que, digámoslo claramente, no son unas de las empresas más… o menos, con menos impacto ambiental, digamos. Todo lo contrario, son altamente intensivas en uso de agua, en contaminación, etc. Eso es una cosa.

00:07:07:15 – 00:07:53:01
Paz Peña
Pero también, por ejemplo, hay mucha investigación últimamente en el uso de energía y en el uso de agua que se necesitan en los datacenters, que son estas infraestructuras, cada vez más gigantescas, que se necesitan justamente para que se haga los procesamientos de datos de los sistemas modernos hoy día de digitalización. Desde lo que usamos, en ¿qué sé yo?… en Instagram, en Facebook, en nuestras redes sociales, en nuestros documentos, etc. Todo ese procesamiento de datos no se hace a través de… no en nuestro computador necesariamente, sino en una infraestructura que llamamos “la nube”, que son básicamente unos edificios gigantes que están en nuestras ciudades, en nuestros países, en todo el globo,

00:07:53:01 – 00:08:28:09
Paz Peña
y que son altamente demandantes de agua fresca. El agua, básicamente, se usa para enfriar estos computadores que están adentro de estas infraestructuras y que funcionan 24/7; y energía, básicamente, que también necesita estar 24/7 funcionando. Y, hoy día, se habla de distintas, cantidades, pero un poco como para ponerlo en contexto y para que la gente un poco entienda de cuánta cantidad estamos hablando.

00:08:28:11 – 00:08:59:00
Paz Peña
Pensemos que, por ejemplo, en términos de energía, hoy día se estima que los datacenters van a crecer y van a necesitar del orden del 3% al 4% de la energía global en el año 2030. Piensa esto, en el contexto, además, de la crisis climática y ecológica, donde uno de los problemas que hoy día tenemos es que nuestras matrices energéticas están todavía basadas en combustibles fósiles.

00:08:59:00 – 00:09:30:23
Paz Peña
Por lo tanto, cuanta más energía demandemos, más emisiones de CO2 vamos a levantar y es totalmente lo contrario de lo que necesitamos hoy día en el desafío planetario que tenemos con la crisis climática y ecológica. Entonces, hoy día, la industria solamente de los datacenters presentan justamente el desafío de que, en vez de retrasar o de mitigar los impactos de la crisis climáticas; está, de hecho, abonando, no es cierto, a más emisiones a nivel planetario.

00:09:31:00 – 00:09:56:11
Paz Peña
Y en el asunto del agua dulce. Que les comentaba recién, después podemos, indagar más, que tiene que ver con la necesidad de enfriar, digamos, los computadores y estas infraestructuras y eso se hace a través del uso del agua. Se habla ya en el año 2018, imagínense, esto es casi diez años atrás, cuando la inteligencia artificial todavía no estaba tan en el hype.

00:09:56:13 – 00:10:19:13
Paz Peña
Ya, en el año 2018, en Estados Unidos, se decía que la industria solo de los datacenters estaba en el top ten de las industrias más demandantes de agua. Imagínense, en el 2018. Ahora, con la inteligencia artificial, donde se necesitan más computadores de más poder, con más energía y, por lo tanto, con más consumo de agua, esa cifra se eleva…

00:10:19:14 – 00:10:42:20
Paz Peña
y eso hace muy preocupante, el uso de agua, sobre todo, en contextos como en el de España, como en el de Latinoamérica, donde la sequía es una parte real, de las consecuencias de la crisis climática y ecológica y que tiene en peligro, incluso, el uso de agua para las poblaciones.

00:10:42:22 – 00:11:12:20
Natalia Pereira Martín
Maravilloso. Muchas gracias, porque, de hecho, queríamos detenernos justo en esta parte de los impactos reales y no tanto de las promesas o de las narrativas hegemónicas. Has hablado ya del consumo de energía, has hablado del consumo de agua, has hablado del extractivismo minero para todos nuestros dispositivos. Quería preguntarte, porque me parece y tú has hablado mucho antes de que hay un elemento común a todos estos impactos, que es el elemento colonial que es muy explícito…

00:11:13:00 – 00:11:25:20
Natalia Pereira Martín
Me gustaría preguntarte sobre ello, también relacionado al de la basura electrónica y, de estos impactos, ¿cuál crees tú que es el más importante o cuáles son los más importantes y estamos pasando por alto?

00:11:25:22 – 00:11:49:22
Paz Peña
Sí, yo nombro generalmente agua y energía porque son los que más, hoy día, la opinión pública tiene preocupación, básicamente. Porque son los grandes temas planetarios hoy día. Pero los impactos socioambientales de toda la cadena de producción de la inteligencia artificial o del mundo digital van a variar dependiendo, justamente, de los territorios en que se encuentran.

00:11:49:23 – 00:12:18:23
Paz Peña
Entonces, para algunos, justamente, el extractivismo de minerales va a ser mucho más fuerte, sobre todo si no está bien regulado… Donde, por ejemplo, las empresas ilegales mineras van a emerger, justamente, para tratar de tener una oferta para esta enorme demanda de minerales y metales que necesita la industria digital. De eso hay, por ejemplo, Natalia, muchos estudios, estudios de periodismo, de investigación muy importantes.

00:12:18:23 – 00:12:44:10
Paz Peña
Por ejemplo, en Brasil, donde vemos que en la Amazonía han aumentado los niveles de esta minería ilegal a propósito del oro que se necesita también para, estos elementos y dispositivos digitales. Y la minería ilegal, además de los impactos ambientales, tiene otros impactos como la violación de derechos humanos, que es, digamos, súper estudiada, etc…

00:12:44:11 – 00:13:08:02
Paz Peña
El desplazamiento indígena, etc… Entonces va a depender mucho de dónde miremos, para ver cuáles son justamente los impactos socioambientales. Otra cuestión que yo he estado viendo, por ejemplo, parte de mi estudio en Mozilla Foundation tiene que ver con los datacenters en América Latina, y cuáles son sus impactos ambientales. Porque hoy día estamos acostumbrados a hablar de energía, de agua, etc…

00:13:08:02 – 00:13:52:01
Paz Peña
Pero también hay otros impactos socioambientales en América Latina que son interesantes de mirar, como por ejemplo la apropiación, privatización o usurpación de tierras, para construir estos datacenters en nuestros países. Que es una zona muy gris, que significa, muchas veces, desplazamiento de personas y que no estamos acostumbrados, generalmente, a hablar de esos temas. Entonces, lo que quiero un poco hacer el punto es que, justamente, son muy, diversos los impactos socioambientales. Lo que tú decías también Natalia, el tema de los desechos electrónicos es un temazo, sobre todo, justamente porque hay estudios diversos

00:13:52:06 – 00:14:26:10
Paz Peña
que muestran cómo, justamente, los que más usan los dispositivos digitales son, justamente, el mundo, que podríamos llamar, el mundo desarrollado; alguna gente diría el Norte global… (hay gente a la que no le es muy cómoda esa división), pero hablemos, digamos, de los países industrializados, que tienen más posibilidades de usar y de, ¿cómo podríamos decir?, de gozar de los beneficios de la digitalización a través de sus últimos computadores, de los últimos celulares, móviles, etc…

00:14:26:12 – 00:14:57:10
Paz Peña
Y esos países, generalmente, lo que hacen y de eso, insisto, hay mucha evidencia, es que externalizan la basura electrónica y, básicamente, se la llevan, generalmente, a África… principalmente, a África y a Asia y a algunos países de América Latina. Países que, por lo demás, no necesariamente tienen totalmente regulado el tema de la basura electrónica que, por lo demás, es altamente contaminante.

00:14:57:11 – 00:15:26:09
Paz Peña
O sea, estamos hablando de elementos, que tienen minerales y metales que si no son realmente bien manejados, pueden terminar con contaminación de las napas de agua, etc. Entonces, generalmente, lo que está ocurriendo es que esos flujos de basura, se van al mundo en desarrollo y el mundo desarrollado ni siquiera tiene que mirar esas consecuencias.

00:15:26:09 – 00:15:58:22
Paz Peña
Lo que está ocurriendo, justamente, son… uno puede ver ahí lógicas coloniales, ¿no? En un mundo moderno, tecnológico estamos recurriendo a las clásicas lógicas coloniales donde la extracción de los minerales y el pago de las consecuencias socioambientales son externalizadas a las colonias, en las que básicamente no nos interesa tanto cuáles sean las consecuencias socioambientales.

00:15:58:24 – 00:16:26:15
Paz Peña
Pero también, uno podría darle una mirada como más neoliberal, en el sentido de su interpretación. Y uno podría decir que también lo que está ocurriendo hoy día es que la ganancia del mundo digital está súperprivatizado, ustedes lo decían al principio, en un puñado de empresas mundiales y los costos de esa digitalización están, básicamente, repartidos.

00:16:26:15 – 00:17:05:17
Paz Peña
Se socializan los costos y se privatizan los beneficios, digamos, mirándolo desde una mirada neoliberal. ¿Cuáles son…? -lo que tú me preguntabas, Natalia-. ¿Qué es lo más…? ¿Cuál es el costo o los costos más importantes? No me atrevería a decirlo, realmente. Porque depende, justamente, del territorio. No se me ocurriría, éticamente, decir “mira, saben que este costo es menor que otro”, porque justamente va a depender de muchas variables, pero lo importante es decir que, hoy día, parte importante de esos costos socioambientales, efectivamente, lo está pagando el mundo en desarrollo.

00:17:05:19 – 00:17:28:14
Paz Peña
Están teniendo mucho menos de los beneficios de la digitalización. Y eso no lo dice el anticapitalismo más acérrimo, sino que lo puedes encontrar, por ejemplo, en los últimos informes de la UNCTAD, que un organismo de la ONU, que efectivamente ha hecho un estudio sobre la economía digital y ha llegado a esta misma conclusión.

00:17:28:16 – 00:18:07:12
Carlos Bajo Erro
Aquí, Paz, en “Mucho hype y pocas nueces”, nos interesan mucho las narrativas, nos interesa mucho cómo se explican estas realidades que condicionan cómo acabamos viviéndolas y gestionándolas. Una de estas narrativas más importantes de la inteligencia artificial era precisamente que iba a ser la herramienta definitiva para luchar contra el cambio climático. De momento, en relación con el panorama que nos acabas de dibujar, parece que no se está cumpliendo esta promesa. ¿Cómo percibes tú, cómo digieres esta promesa, de momento, incumplida?

00:18:07:14 – 00:18:32:10
Paz Peña
Yo creo que las narrativas lo son todo. Y el mundo, hoy día, es un mundo de narrativas. Desde la idea de que las soluciones fáciles son, por ejemplo, con respecto a la crisis económica, que hoy día todos nuestros países están pasando, y entonces la solución fácil es terminar con la inmigración.

00:18:32:12 – 00:19:08:08
Paz Peña
Eso es una lucha de narrativa, no es una lucha sobre evidencia real, ¿cierto? Bueno, en el mundo digital, en el mundo del tecno capitalismo, es decir, en el mundo que hoy día domina parte importante de las narrativas del capitalismo, justamente, son los discursos los que son los más importantes. De hecho, hay muchos teóricos que hablan de que, en el fondo, todo el hype de la inteligencia artificial, es básicamente un hype para poder mover inversión.

00:19:08:10 – 00:19:34:23
Paz Peña
Para poder levantar una cierta expectativa del mercado y, por lo tanto, como estamos en un mundo, en el que justamente los mercados y el capital lo mueven todo, la economía, entonces, ante esa expectativa aumenta las acciones, etc., y se hacen rica la gente que no sabemos quiénes son, que son los dueños de estas compañías.

00:19:35:00 – 00:20:02:07
Paz Peña
Entonces, es súper importante lo que tú dices, Carlos, el tema de las narrativas lo son todo. Y, efectivamente, una de las narrativas más, yo diría, fuertes, pero también las más originales de la inteligencia artificial -estoy hablando hace diez años, cuando recién se estaba mirando este mundo- tenía que ver con todo el mundo de posibilidades que implicaba la inteligencia artificial para la crisis climática y ecológica.

00:20:02:07 – 00:20:27:18
Paz Peña
Y esto tiene mucho sentido, si uno lo piensa, porque hoy día parte importante de la discusión sobre la crisis climática y ecológica tiene que ver con la idea de la tecno solución. El problema de hoy día que tenemos, para mucha gente, es que no estamos todavía logrando la innovación, pero apenas logremos la innovación, la crisis climática y ecológica se va a mitigar automáticamente.

00:20:27:18 – 00:20:56:15
Paz Peña
Esta suerte de idea, que viene muy… es muy hermana de la idea de que los problemas del mercado se solucionan con más mercado. Es tan inteligente esta mano invisible que nos va a permitir solita autorregularse y poder sobrevivir. Esa misma lógica, esa misma narrativa, está presente en la inteligencia artificial.

00:20:56:17 – 00:21:28:05
Paz Peña
Va a ser justamente la innovación tecnológica, que además viene con lógicas del mercado, la que nos va a permitir justamente conseguir esa tecnología que nos va a poder salvar de una crisis planetaria, que es una crisis de extinción. No solamente porque vemos la extinción todos los días de las diversas especies no humanas, sino que, por primera vez, nos estamos dando cuenta de que podría significar la extinción humana, de las formas de vida humana que hasta el día de hoy se han desarrollado.

00:21:28:05 – 00:21:51:15
Paz Peña
Entonces, en ese conjunto, la inteligencia artificial juega un papel súperimportante. A mí no me cabe duda, que la inteligencia artificial va a aportar, que la tecnología aporta, evidentemente, al desarrollo humano. Y, por supuesto, a la crisis climática y ecológica, no me cabe duda que pueda ayudar.

00:21:51:17 – 00:22:19:23
Paz Peña
Pero, efectivamente, pueda ayudar, si transparentamos y hacemos públicos los posibles efectos adversos que tiene. A mí una cuestión que me parece un poco frustrante de este discurso de la inteligencia artificial, en general, tiene que ver con esta idea de que todo es bueno, esta idea de que es todo redondito, no tiene ningún problema.

00:22:20:00 – 00:22:42:06
Paz Peña
Y uno sabe, porque vive en el mundo, que nada es así. Todo tiene puntos de fuga; todo tienen cositas que hay que arreglar, etc. Pero está esta idea un poco totalitaria, de decir esto es bueno. Y los pequeños problemitas que tienen, con más innovación y con más tecnología se van a resolver.

00:22:42:06 – 00:23:17:18
Paz Peña
Yo creo que, en el punto de madurez en el que logremos entender que no hay ninguna solución mágica y que, justamente, para que las innovaciones funcionen necesitan ojos críticos. Creo que si llegamos a ese punto, la inteligencia artificial o cualquier otra tecnología van a ser, probablemente, los mejores aliados para encontrar ciertas mitigaciones a un problema que va mucho más allá, por cierto, de solamente el problema tecnológico, que es la crisis climática y ecológica.

00:23:17:20 – 00:23:52:03
Natalia Pereira Martín
Muchas gracias, Paz. Porque además hablas ya de conceptos en los que queríamos ahondar como “tecnocapitalismo”, “tecnosoluciónismo” o esto de la extinción humana en las distopías alrededor de esto, que vuelve a las narrativas. Pero me quiero detener un momento para hablar de feminismos. Porque yo cuando te leo y cuando te escucho he visto citas a Silvia Rivera Cusicanqui, a la Spivak, a Donna Haraway o a María Galindo, a grandes, para mí, referentes del ecofeminismo, de los feminismos comunitarios o de los feminismos decoloniales.

00:23:52:05 – 00:24:18:06
Natalia Pereira Martín
Y quería preguntarte, por un lado, ¿qué tiene que ver toda la tecnología con los feminismos y por qué los feminismos se interesan en mirar a este problema? Y, por otro lado, si es que hay un impacto específico de género o si es otra razón por la que los feminismos miran a la tecnología y a la inteligencia artificial, en este caso.

00:24:18:08 – 00:24:58:14
Paz Peña
Fíjate, Natalia, que a mí me interesa la teoría y la práctica feministas en la medida en la que son prácticas que, y miradas que, básicamente reflexionan sobre las nuevas formas de vida, de las nuevas construcciones de vida. Y, fíjate, que en el contexto de la crisis climática y ecológica, lo que necesitamos, justamente, es pensar nuevas formas de vida y de desarrollo humano y no humano que nos permitan, no solamente mitigar la crisis climática y ecológica, sino también pensar en formas más sostenibles de vida.

00:24:58:16 – 00:25:34:17
Paz Peña
Y creo que el feminismo, en este sentido, me sirve porque las autoras que tú has nombrado justamente reflexionan sobre eso: sobre la posibilidad de pensar otras formas de existencia, que superen las lógicas de…, por ejemplo, de la idea del tecnocapitalismo que nos están llevando a un extremo, a tal punto, que estamos pensando en una crisis de subsistencia, tanto humana como no humana, a nivel planetario, que es históricamente una cuestión que no conocíamos hasta el día de hoy.

00:25:34:19 – 00:26:00:21
Paz Peña
Entonces, por eso a mí me parece interesante la lógica feminista. Y, justamente, hoy día, es interesante mirarlas. Pueden ser feministas, pero pueden ser también de otras miradas críticas. Como puede ser la mirada indígena, como puede ser otras miradas decoloniales, etc. Yo ocupo el feminismo, pero digamos no estoy necesariamente casada ni militante de esa mirada.

00:26:00:23 – 00:26:31:21
Paz Peña
Pero es interesante porque es un contrapunto, además, a esta idea de que las nuevas formas de vida, el futuro, en cierto sentido, está colonizado por lo que nos dice el tecno capitalismo. Pensemos en, no sé, Jeff Bezos subiéndose a un cohete con su señora y con una cantante, etc., ¿no? Y, entonces, él determina qué es el futuro, cómo va a ser el futuro.

00:26:31:23 – 00:26:55:03
Paz Peña
O el mismo Elon Musk, que tiene toda esta idea de conquistar Marte. Creo que ambos, de hecho, han dicho públicamente que uno de sus sueños para el futuro del mundo tiene que ver con que llevemos las industrias más contaminantes de la Tierra, que las llevemos a Marte. Excelente solución y así este podemos seguir consumiendo…

00:26:55:08 – 00:27:25:12
Paz Peña
O conseguir, por ejemplo, que esto es real…, de hecho, creo que hay unas empresas japonesas que están haciendo esto: que es conseguir minerales de la Luna. Porque entonces ya está. Es tan problemático el tema de la minería en la Tierra, entonces vamos a conseguirlos de la Luna, etc. Entonces esa forma de mirar el futuro, esa forma de plantearse otras formas de existencia hoy día, en cierto sentido, están cooptadas por ciertas lógicas tecnocapitalistas.

00:27:25:14 – 00:28:03:18
Paz Peña
Principalmente, tecnocapitalistas, porque tiene que ver mucho con la tecnología. Entonces esta lógica feministas te permiten hacer ese contrapunto de “bueno ¿es eso lo que es necesariamente queremos?”. Y, particularmente, “¿son esas, necesariamente, las lógicas tecnológicas que queremos?”. O, ¿pueden ser posibles otras lógicas tecnológicas? Más allá de las lógicas del capitalismo. Y creo que eso es superinteresante y te permite también, no solamente pensar nuevas formas de mundo, sino que nuevas formas de tecnología.

00:28:03:20 – 00:28:50:09
Paz Peña
En ese punto, Natalia, a propósito de la de lo que me preguntabas, respecto un poco a lo mismo, ¿cuáles son las consecuencias específicas o los impactos de género de la inteligencia artificial? Yo te diría que una de las cosas que a mí me parece superinteresante de las plataformas feministas mirando la inteligencia artificial, es que yo creo, sinceramente, si uno ve la evidencia, han sido una de las primeras que pusieron, en el fondo, las alertas sobre los impactos diferenciados de género y de otras interseccionalidades del uso de la inteligencia artificial en términos de discriminación y en términos de efectos socioambientales, etc.

00:28:50:10 – 00:29:28:01
Paz Peña
Y es interesante porque si tú lo piensas y empiezas a mirar cómo el feminismo ha mirado las tecnologías, en general, y particularmente la inteligencia artificial, cuando empieza, por ejemplo, Internet a ser un poco más masivo, en los años 90, particularmente en Estados Unidos, es justamente la teoría feminista la que mira la digitalización con unos ojos bien interesados, en esta idea de que la desmaterialización del cuerpo.

00:29:28:01 – 00:30:21:19
Paz Peña
Esta idea de que tú puedes ser cualquier persona en Internet. Te permitía justamente terminar con esas barreras binarias del género. Y podías tú, efectivamente, tener cierta expansión, que el mundo material, “real”, entre comillas, no te permitía. Entonces, es interesante ver cómo el feminismo empieza a mirar eso. Pero también, obviamente, mirando cómo evolucionó, después de 20, 25, 30 años después, es el mismo feminismo, el que mira y dice “bueno, ahora hay que traer el cuerpo a esta idea de desmaterialización”. Y ahora vemos que, efectivamente, esta lógica capitalista ha cooptado el mundo digital y eso tiene unas consecuencias sobre los cuerpos. Y hay cuerpos que en el mundo digital importan más que otros.

00:30:21:21 – 00:30:43:17
Paz Peña
Y ahí lo vemos, justament,e con los impactos, no solamente en términos de discriminación, o de violencia de género, donde efectivamente que haya violencia de género en contra de, por ejemplo, mujeres indígenas o mujeres afro americanas, pareciera que importa mucho menos que, si hay violencia, por ejemplo, contra los hombres blancos.

00:30:43:17 – 00:31:10:14
Paz Peña
Esta es una discusión que está ocurriendo en Estados Unidos muy fuerte y que ha marcado el clivaje político. Pero también en términos de impactos socioambientales, que es lo que también hemos hablado. Que, justamente, traen de nuevo el cuerpo y decir “bueno, ¿qué cuerpos, son cruzados, por las consecuencias ambientales y cuáles realmente importan y no para el capitalismo?”.

00:31:10:14 – 00:31:32:16
Paz Peña
Entonces volvemos a la discusión, por ejemplo, de los desechos de la basura electrónica. No nos importa que los niños de… el sur de África, tengan que lidiar con toda esta contaminación, porque sus cuerpos importan mucho menos que los de niños blancos de la Europa Central. Estoy inventando, por poner un ejemplo.

00:31:32:17 – 00:31:45:22
Paz Peña
Entonces creo que es interesante el feminismo y, por eso, a mí me sirve, porque siento que te hace ese contrapunto muy importante y muy necesario hoy día, sobre todo, para pensar en el futuro.

00:31:45:24 – 00:32:04:21
Carlos Bajo Erro
Nos hablas, Paz, en muchas ocasiones, de esa idea del tecnocapitalismo y creo que eso pone muy en el centro, precisamente, a las corporaciones; muy en el centro de este modelo concreto de desarrollo de la inteligencia artificial, que era algo de lo que hablabas antes también.

00:32:04:21 – 00:32:34:22
Carlos Bajo Erro
No se cuestiona la inteligencia artificial como tal, sino un modelo concreto en el que las empresas, las grandes corporaciones, están en el centro. ¿Cómo puede ser que, teniendo en cuenta esa importancia de las grandes corporaciones en este modelo concreto, con estos impactos que tú nos has detallado, no se les reclame, no tengamos herramientas suficientes, para reclamar mucha más transparencia de la que tú también has hablado antes? Mucha más transparencia sobre esos impactos y sobre qué están haciendo realmente.

00:32:34:22 – 00:32:46:19
Carlos Bajo Erro
Mucho más allá del hype y de la publicidad, que están haciendo para solventar, digamos la parte sucia de ese desarrollo de la inteligencia artificial.

00:32:46:21 – 00:33:25:11
Paz Peña
Yo creo que hay que examinar, ese supuesto. Yo creo que, efectivamente, por ejemplo, pensando la evidencia de los impactos socioambientales de los datacenters en el mundo, creo que, efectivamente hoy día estamos hablando de este tema, no solamente en este podcast, sino a nivel mundial. Es un tema que cada día concita más interés, básicamente, porque son las comunidades, principalmente, las comunidades afectadas, las que salen públicamente a preguntarle a las corporaciones de qué se trata el problema.

00:33:25:11 – 00:33:57:14
Paz Peña
Las cuestionan públicamente. Yo creo que existe ese cuestionamiento. También desde otro tipo de sociedad civil o desde la academia, yo creo que existe un continuo cuestionamiento a las empresas. Yo creo que, efectivamente, no es que actúen sin darle cuenta a nadie, ya eso es una cosa que es importante decir.

00:33:57:16 – 00:34:18:15
Paz Peña
También para no sentirnos, en cierto sentido, desempoderados. Yo creo que, efectivamente, hoy día, parte importante de los cambios que están ocurriendo a nivel político, con respecto a la inteligencia artificial y a la tecnología digital, tienen que ver con eso, tienen que ver con que hay un empoderamiento también.

00:34:18:15 – 00:34:58:18
Paz Peña
No es que solamente nos llega el dominio y nos quedamos así, todos dormidos. Yo creo que es importante decir eso. Ahora, una cosa que a mí realmente me choca y me parece tremendamente preocupante, tiene que ver con cómo hoy día los gobiernos, las autoridades, están haciendo suyo el discurso tecnocapitalista sin cuestionamiento. Y ese es otro problema que me parece superimportante y que me parece que, en general, es bastante global y si uno pudiera pensar también en términos ideológicos, me parece que es transversal, desde la izquierda a la derecha.

00:34:58:23 – 00:35:23:24
Paz Peña
Pareciera que no hubiese cuestionamientos reales, más allá de los que te convienen políticamente, sobre las corporaciones y su poder. Yo creo que uno de los problemas que a mí, personalmente, más me obsesiona, me parece más preocupante de la inteligencia artificial, pero, en general, del tecnocapitalismo es esta concentración de poder que es única en el mundo, que es única en la historia del capitalismo.

00:35:23:24 – 00:36:11:14
Paz Peña
De hecho, hay varios libros y teóricos muy importantes que están mirando esto y que están diciendo, justamente, “¡¡ojo acá!!”. Incluso, por ejemplo, McKenzie Wark dice que acá incluso estamos viendo la transformación del capitalismo. Donde ya el poder de los antiguos capitalistas se está diluyendo y hay una nueva clase dominante, arriba de la antigua clase capitalista a la que llama la clase vectorialista y que es esta gente de las Big Tech, que en el fondo tienen hoy día tanto poder, que tienen incluso poder sobre los antiguos este dueños del capital.

00:36:11:15 – 00:36:46:23
Paz Peña
Porque, hoy día, pareciera que es imposible que el capitalismo esté fuera de las plataformas. Y, ¿quiénes son dueños de la plataforma? Cinco, diez, veinte, yo creo que, como máximo, 25 actores a nivel mundial. Entonces, esa concentración de poder, efectivamente, te da un nivel de impunidad político que a mí me parece muy, muy preocupante. Y me parece que, efectivamente, es una cuestión que, hoy día, a nivel transversal en el mundo político, no está teniendo un contrapeso.

00:36:46:23 – 00:37:16:09
Paz Peña
Ni siquiera en los grandes bloques políticos como la Unión Europea. Uno podría decir, la Unión Europea tiene mucho más poder que nuestros países en el mundo desarrollado. No obstante, pareciera que es casi imposible que la Unión Europea se plantee con un proyecto distinto al del tecnocapitalismo. Y a mi, eso me parece muy preocupante.

00:37:16:11 – 00:37:25:24
Carlos Bajo Erro
Yo creo que además esto, esto nos lleva a cuáles son los riesgos reales, ¿no, Nat? Muchas veces hemos hecho comentarios en relación en relación con eso…

00:37:26:01 – 00:37:49:03
Natalia Pereira Martín
Sí, total. Y, de hecho, queríamos preguntarte, Paz, antes has mencionado el riesgo de la extinción humana y para pararnos ahí un momento, porque, además, tú eres una crítica conocida del concepto de distopía, tal y como lo conocemos. Esta cosa de que la inteligencia artificial nos superará en inteligencia y así será como se hará con el poder.

00:37:49:03 – 00:38:07:02
Natalia Pereira Martín
Y, entonces, los seres humanos seremos sometidos a la máquina. ¿Es el riesgo real de la inteligencia artificial o es, más bien, que acabemos con la Tierra los seres humanos, en nuestro afán de hacer más inteligencia artificial?

00:38:07:04 – 00:38:38:15
Paz Peña
Bueno, de nuevo, creo, Natalia, que acá, hay que ver quién habla y para quién habla. En esto que hablábamos con Carlos recién de las narrativas, yo creo que uno tiene que ver quién es el que está diciendo esto y, probablemente, quien está diciendo estos son los CEOs de, justamente, la inteligencia artificial, que cada cierto tiempo aparecen en la opinión pública diciendo:

00:38:38:15 – 00:38:59:15
Paz Peña
“Mira, estoy muy preocupado. Yo era un -este es un clásico línea argumentativa-, yo era un desarrollador de inteligencia artificial y me di cuenta que en mi éxito de este desarrollo esto puede traer consecuencias no sé qué, no se cuántos…” ¿A quién le está hablando? Y, ¿por qué está hablando sobre esto?

00:38:59:17 – 00:39:27:18
Paz Peña
Y, en este sentido, yo creo que hay mucho, uno, de especulación para los mercados; dos, también para posicionarse también como el anclaje de la solución. “Yo conozco el problema, por lo tanto, yo te puedo llevar a la solución de este dominio de la inteligencia artificial”. Eso es una cosa que me parece superimportante siempre mirar.

00:39:27:18 – 00:39:57:03
Paz Peña
Porque, como dicen las abuelas, nadie da puntada sin hilo. Yo creo que hay que ir y, justamente, perseguir de dónde viene ese hilo. Eso es una cosa. Lo otro que me parece superimportante tiene que ver con que, a mí, personalmente, no me preocupa la inteligencia artificial, sino que me preocupa -lo que comentábamos recién-, el poder detrás de la inteligencia artificial.

00:39:57:04 – 00:40:26:13
Paz Peña
¿Quiénes son los que están detrás? ¿Cuáles son sus intenciones? ¿Y qué nivel de transparencia y de rendición de cuentas tienen ante la sociedad? Eso me parece superpreocupante. Es decir, me preocupa lo de siempre, en el fondo: el poder. Eso es lo que me preocupa más. Y, en tercer lugar, yo diría, ya como una cuestión que habría que mirar mejor, tiene que ver, efectivamente, con lo que se dice en general.

00:40:26:14 – 00:40:57:20
Paz Peña
Que la inteligencia artificial no es ni inteligente, ni es artificial. Porque detrás de la inteligencia artificial hay humanos, etc… Que sí es que es un punto, es un punto real, hoy, pero no podría yo asegurar que efectivamente pueda tener un nivel de mejor tecnología en algunos años, que, efectivamente, podamos estar ante sistemas que puedan ser mucho mejores que el de hoy día.

00:40:57:22 – 00:41:22:21
Paz Peña
¿Y qué va a significar eso? Yo creo que hay que mirarlo con cuidado. No obstante, hoy día, creo que el peligro real, además del poder que está detrás de la inteligencia artificial, tiene que ver con que, tiene muchos errores la inteligencia artificial, pero estamos ante una narrativa que nos dice que todo lo que dice la inteligencia artificial es, necesariamente, real u objetivo, etc.

00:41:22:23 – 00:41:42:07
Paz Peña
Y hoy día hay millones de estudios, porque ya esta cuestión es una cuestión que a nivel planetario se está mirando, y es que efectivamente eso no es tan así. Pero tiene que ver con esta idea y esta narrativa de decir “bueno, lo que dice la inteligencia artificial es real”. Y eso es un peligro también social.

00:41:42:07 – 00:42:11:24
Paz Peña
O sea que esta esta parte de la inteligencia artificial, que no es tan inteligente, hoy día, efectivamente, es un peligro real y creo que también es un tema que hay que mirar. ¡Ahora!, ¿va a ser la inteligencia artificial algo que nos domine? ¡Jamás! En el sentido de que mientras exista una mirada crítica de cualquier persona, de cualquier comunidad, etc, va a haber poder y empoderamiento y va a haber una lucha.

00:42:11:24 – 00:42:39:09
Paz Peña
Nunca, ni un rey ha logrado tener todo el poder. Siempre hay una resistencia. Y yo creo que parte importante de la narrativa de decirte que esto va a ser como una suerte de poder omnipotente y todo, creo que tiene que ver también con ciertos sueños de algunas corporaciones de, efectivamente, poder tener todo el poder.

00:42:39:09 – 00:42:49:09
Paz Peña
Pero yo creo que, en la práctica, eso, mientras haya naturaleza humana crítica, va a ser imposible.

00:42:49:11 – 00:43:30:02
Carlos Bajo Erro
Ahora nos hablabas de resistencia, precisamente, Paz, y la verdad es que no queríamos acabar sin, por lo menos, detenernos un poquito en Chile, precisamente. En los últimos meses, de hecho, ha habido un movimiento poco comprensible del gobierno chileno que tiene que ver con el aligeramiento de las condiciones medioambientales que se ponía a los centros de datos, precisamente, en el momento en el que Chile y Santiago, específicamente, es uno de los de los grandes pasteles para las corporaciones de implantación de centro de datos.

00:43:30:02 – 00:43:49:03
Carlos Bajo Erro
¿Cómo tú, desde tan cerca y desde tanto compromiso, cómo interpretas y cómo lees ese giro? ¿Crees que es algo también en lo que nos tenemos que fijar el resto porque es una dinámica más amplia, tal vez?

00:43:49:05 – 00:44:12:13
Paz Peña
Sí. Fíjate que es bien interesante el caso chileno, pero también es parte, me parece, de una corriente que yo estoy viendo en América Latina, porque lo estoy estudiando en el trabajo que estoy haciendo con Mozilla Foundation, que es básicamente mirar los datacenters en América Latina, y los datacenters, en particular, para la inteligencia artificial.

00:44:12:15 – 00:44:47:04
Paz Peña
Yo me atrevería, quizás, a decir que también es parte de un movimiento mundial, podríamos discutir que está pasando en la Unión Europea, por ejemplo, que es esta idea de hacer más laxos los estudios de impacto ambiental de los datacenters. Yo diría que esta esta suerte como de impulso a la desregulación de los impactos ambientales de la industria, en general, pero en particular de los datacenters

00:44:47:04 – 00:45:26:03
Paz Peña
es algo que me parece que está ocurriendo en América Latina, claramente, que es absolutamente preocupante y que combina, yo diría, un par de cosas. Uno tiene que ver, con este impulso restauratorio conservador que hoy día existe en gran parte del mundo, donde efectivamente se ven a los estudios de impacto ambiental como una barrera al crecimiento, como una barrera al capitalismo, como una barrera al desarrollo y a la tecnología.

00:45:26:04 – 00:45:56:00
Paz Peña
Entonces, yo creo que hay, en general, una suerte de sentimiento restauratorio conservador que ve esto como una sospecha y que yo veo claramente que, en nuestros países, se empieza a hablar. En Chile, se habla de la “permisología”, esta idea de decir que hay demasiados permisos, prácticamente, casi todos, permisos ambientales que en el fondo son una barrera al desarrollo económico.

00:45:56:00 – 00:46:17:16
Paz Peña
Pero este tipo de discurso yo creo, lo he visto en varios países en América Latina y me parece que también es un impulso general. Eso es una cosa. Lo segundo, que coincide también, tiene que ver con esta idea de carrera de la inteligencia artificial. Esta suerte de discurso, de nuevo, todo está en el discurso.

00:46:17:18 – 00:46:46:11
Paz Peña
El discurso que se ha puesto, de que estamos todos, el mundo en una carrera… yo no tenía idea, me enteré en estos años de que estamos en una carrera por estar en la inteligencia artificial. Y todos, en nuestros países, tenemos que estar viendo como entramos en esa carrera. Esto es bien interesante. Yo creo que Europa, además, a mí me interesa mucho también ese papel de Europa.

00:46:46:11 – 00:47:14:23
Paz Peña
Porque todo el mundo sabe, en rigor, que ha estudiado hoy día, cuál es
el dominio económico mundial del siglo XXI se lo está peleando Estados Unidos con China. Pero entonces la Unión Europea dice “no, no, no, no, esta carrera la tenemos que también tener nosotros”; aunque todo el mundo sabe que eso realmente es un poco mentira, ya Europa está totalmente desplazada de esa carrera. Bueno, esa carrera, que es un poco absurda para todo el mundo, también llegó a América Latina.

00:47:15:00 – 00:48:34:08
Paz Peña
Entonces, nuestras economías a nivel transversal están con la idea de que tenemos que ser parte de esa carrera de la inteligencia artificial. Pero como somos América Latina y, en estas lógicas coloniales que hablábamos al principio, nuestro papel es bastante secundario y muy claro en su desarrollo: no va a ser, justamente, pensar el próximo desarrollo tecnológico; sino que va a ser, básicamente, proveer de energía barata, de agua barata, de minerales baratos, etc. Entonces, nuestro papel en la inteligencia artificial, hoy día – esto lo está viendo Brasil, que es la economía más grande de América Latina, México, Chile, etc., Colombia también de forma muy importante -, es ser un espacio para los centros de datos. Nosotros les vamos a dar energía renovable barata, les vamos a dar agua barata, les vamos a dar en el caso, por ejemplo, brasileño muy fuerte, les vamos a dar exenciones de impuestos, el Estado brasileño les va, básicamente a pagar a las big tech, a las compañías más poderosa del mundo, para que se vengan gratis, prácticamente, a instalar.

00:48:34:10 – 00:49:18:00
Paz Peña
Entonces, en ese contexto también, se da esta idea de esta suerte de desregulación ambiental, creo yo. Y en el caso de Chile es así, bueno, en el caso de Brasil también. Son dos gobiernos que son más bien del espectro ideológico de la izquierda progresista y, no obstante, pueden tener, en este sentido, el mismo discurso que el centro o la derecha más neoliberal, que tiene que ver con facilitar de todas maneras, la instalación de centros de datos. Porque se ve también, a nivel discursivo, como que uno estamos entonces en la carrera de la inteligencia artificial.

00:49:18:00 – 00:50:07:24
Paz Peña
Pero también se ve como una suerte de política desarrollista tecnológica. Es “bueno, estamos atrayendo las inversiones tecnológicas y, por lo tanto, no nos vamos a quedar atrás en el desarrollo tecnológico”, que básicamente es lo que va a marcar el siglo XXI. Por supuesto, aquello tiene muchos bemoles. O sea, hoy día, por ejemplo, un datacenter de Microsoft en México, uno solo, uno de estos mega datacenters para la IA da 19 puestos de trabajo; lo dice el mismo Microsoft no es una cifra inventada, 19 puestos de trabajo. Comparado con todo el agua, con toda la energía, con toda la basura electrónica que produce los datacenters. ¿Cuál es el intercambio tecnológico que hay ahí?

00:50:07:25 – 00:50:38:20
Paz Peña
Entonces, de nuevo ahí también hay toda una cuestión de discurso que captan y cooptan a los propios gobiernos nacionales, donde efectivamente no hay ni siquiera evidencia real que haga decir, que te que te haga discutir, “sí, mira, sabes que con un datacenter yo puedo efectivamente dar un salto en el desarrollo humano de nuestra economía”.

00:50:38:20 – 00:51:31:15
Paz Peña
Eso hoy día tampoco existe. Entonces, es muy interesante ver justamente hoy día cómo esto se está desarrollando y cómo estamos viendo no, solamente, que están llegando los datacenters, sino que empiezan a ocurrir estas laxitudes de los estudios de impacto ambiental, que en el caso chileno es bastante, y con esto termino, es bastante dramático. Porque, fíjate, que el sistema de evaluación de impacto ambiental donde entraban los datacenters permitía a las comunidades saber que un datacenter se iba a instalar en su vecindario y podían, efectivamente, tener ciertos este procedimientos – discutibles, buenos o malos o no perceptible, etc.-, pero ciertos mecanismos de rendición de cuentas.

00:51:31:17 – 00:52:03:12
Paz Peña
Hoy día, lo que está ocurriendo es que porque no van a pasar los datacenters en estos sistemas de evaluación ambiental, no solamente eso significa que no vamos a saber cuáles van a ser las consecuencias socioambiental, etc.; sino que además les impide a las comunidades tener una información superimportante. Y que ahora solamente se pueden enterar a través de la prensa o a través de otro tipo de fuentes no oficiales.

00:52:03:12 – 00:52:32:11
Paz Peña
Entonces, las consecuencias van mucho más allá. Tienen que ver, incluso, con la participación, con la transparencia, etc. Y eso es un caso que estamos viendo en toda América Latina, en los polos más importantes de datacenters Chile, México, Brasil… y es una cuestión muy preocupante y que yo creo que es, justamente, una corriente que hoy día la vemos como que es mayoritaria y que lo vamos a ver en distintos países.

00:52:32:13 – 00:53:13:10
Natalia Pereira Martín
Bueno y superinteresante cómo el viraje de las políticas está directamente relacionado con las narrativas y, por eso, las narrativas también son tan importantes. Queríamos acabar la conversación con algunos ejemplos de resistencias y de, bueno, algunos toques positivos. Y, precisamente, en Santiago de Chile, en la periferia, si no nos equivocamos, hay de los primeros ejemplos bellos de grandes resistencias de comunidades sacando a las big tech o ganando la batalla por sus propios territorios, ¿no? No sé si quieres detenerte un poco en contarnos esta historia bonita, por fin una…

00:53:13:12 – 00:53:49:13
Paz Peña
Sí, realmente, estamos en un mundo muy difícil y, a veces, aunque las historias bonitas estén al frente de nosotros, incluso, las ignoramos. Estamos sumergidos en un momento muy oscuro, creo yo, en general. Fíjate que en el caso chileno, pero yo diría, en general, uno lo puede ver en otros casos de resistencia a los datacenters, desde Holanda, pasando por Irlanda, algunas comunidades en Estados Unidos, por supuesto en Chile, en Uruguay…

00:53:49:15 – 00:54:13:16
Paz Peña
donde hay casos, efectivamente, que es la comunidad, ya sea territorial o, muchas veces, la sociedad civil más amplia o, incluso, el mundo académico, el que pone en aprietos, no solamente a los datacenters, sino particularmente a lo que tú le puedes poner aprieto, que es a tu autoridad.¿Por qué tu autoridad no está haciendo las preguntas adecuadas?

00:54:13:16 – 00:54:57:37
Paz Peña
¿Por qué tu autoridad no está tomando los resguardos que debería tener con respecto al bienestar de las personas? Si, básicamente, son gente elegida para el bienestar y el desarrollo humano, no para que le digan sí a cualquier tipo de proyecto contaminante, etc… Yo creo que hay muchos casos positivos y a mí eso es algo que me llama mucho la atención respecto a los datacenters, y es que todas las innovaciones, por ejemplo, que hoy día se está obligando, ya sea a nivel autoregulatorio, como también a nivel regulatorio de “tienes que ser más eficiente en el uso de agua, tienes que ser más eficiente en el uso de energético, tienes que ser, tienes que mirar mejor qué vas a hacer con los desechos electrónicos, etc”.

00:54:57:37 – 00:55:33:23
Paz Peña
Todas esas pequeñas “ganancias” o todas esas obligaciones que los datacenters hoy día tienen que cumplir son, básicamente, gracias a la presión de las comunidades. Y aquí es superimportante, nuevamente, el papel de las comunidades. No fue que se les ocurrió, si uno hace como el estudio de los datacenters, para ellos siempre han sido supereficientes, pero cuando ya se les presiona dicen “vamos a poner esta nueva, esta nueva tecnología para ser más eficiente, etc, etc”.

00:55:34:00 – 00:56:16:19
Paz Peña
O, una vez que lo presiona una comunidad, el gobierno dice “ah, bueno, entonces parece que vamos a pedir más antecedentes, etc”. Entonces creo que es superimportante el papel que hoy día han tenido los distintos activismos, que son supertransversales. Es superimportante. No es que tengan una ideología en común, de hecho, muchos de ellos son muy amplios en su espectro ideológico, pero en el fondo, sobre todo, los más territoriales tienen un fin muy en común.

00:56:16:19 – 00:56:41:23
Paz Peña
Por ejemplo, en el caso chileno, en el caso de un datacenter de Google en el que pudieron bajar el proyecto y que se volviera a hacer, pero con mejores estándares ambientales, tiene que ver con un objetivo muy común, que tiene que ver con “cuánta agua van a usar y cómo esto nos va a afectar, mientras ustedes usan agua, yo tengo que estar usando, bidones este porque no está asegurado el uso de agua”.

00:56:42:00 – 00:57:12:21
Paz Peña
Son activismos que tienen un objetivo superclaro y que, más allá de las diferentes ideologías que puedan tener sus diferentes miembros, tienen una mirada y un objetivo tan claro que les permite justamente accionar. Yo creo que es muy importante mirar eso. Creo que son un caso de éxito, más allá de que hayan tenido… o que hayan parado o no un datacenter.

00:57:12:21 – 00:57:55:22
Paz Peña
Yo creo que en eso hay que ser también justos. No se le puede pedir a una comunidad que, generalmente, son comunidades que esto lo hacen voluntariamente, son gente que trabaja en el día a día, son gente que tiene sus propios trabajos… No les vas a pedir, sería injusto, que tengan una mirada en contra del tecnocapitalismo y no sé qué y que paren un datacenter; cuando, hoy día, justamente, el que está en frente de ellos es uno de los sectores corporativos más poderosos, no solamente del mundo actual, sino diríamos de un periodo histórico largo.

00:57:55:24 – 00:58:44:11
Paz Peña
Creo que en ese sentido hay que valorar justamente esos pequeños pasos en el gran valor que tienen. Y que es que es gente que se está parando sobre proyectos de corporaciones muy poderosas que han logrado hacer cambios. Podrían ser, y nos encantaría que fueran, muchos más, pero para la diferencia de poder son enormes. Y yo creo que eso hay que mirarlo con mucho cuidado y con mucha esperanza. Porque significa que todavía la acción comunitaria y colectiva puede producir cambios positivos.

00:58:44:13 – 00:59:21:17
Carlos Bajo Erro
Bueno, vamos a vamos a aferrarnos a estas pequeñas esperanzas de pequeñas victorias, pero muy, muy valorables. Pero, antes de terminar, queríamos hacerte una pregunta que nos gustaría plantearles a todas las invitadas. Tú abres el espacio, así que vas a inaugurar también esta pregunta. Pero nos gustaría que nos dieses tu opinión, tu mirada, tu visión sobre cómo debería ser la inteligencia artificial para que realmente sea beneficiosa para la humanidad y para el planeta.

00:59:21:19 – 00:59:48:47
Paz Peña
Yo creo que lo fundamental, es que tiene que ser dos cosas, yo diría. La inteligencia artificial tiene que ser transparente. En la medida más posible de la transparencia. Esa es una cuestión muy importante. Hoy día, parte importante del problema que tenemos, en todos los niveles, con la inteligencia artificial, pero también incluido los impactos socioambientales, es que no hay transparencia.

00:59:48:47 – 01:00:16:30
Paz Peña
Y es que está diseñado el sistema para que no sea transparente. Yo creo que eso es un problema. Es un problema tecnológico. Me parece que las tecnologías que están basadas en la oscuridad tienen un problema tecnológico. Porque la gracia justamente es que pueda ser transparente para que más cerebros humanos puedan mirar, le puedan mejorarla efectivamente.

01:00:16:30 – 01:01:59:19
Paz Peña
Creo que eso es una cosa muy importante. Y creo que hoy día lo que está ocurriendo es que, por diseño, están siendo diseñadas de forma no transparente, no solamente en términos de código, sino que también en términos de políticas. Hoy día, ustedes van a ver, por ejemplo, los estudios sobre el consumo de agua de los datacenters y todo son estimaciones. Porque no hay información real, no hay información fidedigna, información que pueda ser mirada por terceras partes. Entonces, eso es un problema real. Eso es una cosa. Y lo segundo, yo creo que tiene que ver con -y esto ya es un problema- creo, que tiene que ver con la democracia.

01:01:59:19 – 01:01:33:18
Paz Peña
Hoy día, la democracia moderna pareciera estar en un problema mundial en términos de sus desarrollos. Tiene que ser la inteligencia artificial, no solamente transparente, sino que tiene que facilitar procesos de participación. Y pareciera que, hoy día, los procesos de participación democráticos tanto en nuestras instituciones como en las tecnologías, parecieran que son cada vez más difíciles de hacer.

01:01:33:20 – 01:02:00:10
Paz Peña
Porque, justamente, en un proceso democrático, ¿qué se espera? Se espera el cuestionamiento, pero también se espera el tiempo, necesitas tiempo para mirar, para cuestionar, para arreglar las cosas. Y, hoy día, el motto, el lema de la tecnología es “muévete rápido, rompe cosas”. Es lo que decía Mark Zuckerberg y que es un lema común hoy día.

01:02:00:10 – 01:02:22:12
Paz Peña
De nuevo, insisto, uno de los problemas es que los gobernantes también lo están tomando. Y es: “Hay que moverse. Esto es una carrera”. La carrera de la inteligencia artificial por algo es una carrera: es que te pone en la idea de velocidad, de urgencia, de rapidez, después ya veremos las consecuencias. Hoy día hay que moverse rápido, hay que ganar esta cosa de la competencia.

01:02:22:13 – 01:02:58:03
Paz Peña
En cierto sentido, el valor de la participación y la transparencia son valores que tienen que ver con tiempo, con reflexión, con conocimiento, con tomar aire, con mirar las cosas con otro ritmo… Versus todo lo otro que es rápido, rompe, no te importa, competencia, etc. Creo que si logramos hacer, sistemas tecnológicos que puede ser la inteligencia artificial, pero mañana le vamos a encontrar otro nombre y va a ser otra cosa el hype.

01:02:58:03 – 01:03:22:02
Paz Peña
Y vamos a estar hablando en otro pódcast sobre el otro nuevo sistema tecnológico. Bueno, no importa cualquier sistema tecnológico. Me parece que estos son dos valores transversales que deberíamos mirar con cuidado, porque creo que esa es la única forma en que, justamente, los sistemas tecnológicos sean un aporte bueno al desarrollo humano y también a la crisis climática y ecológica.

01:03:22:02 – 01:03:27:11
Paz Peña
No hay otra forma de que así sea.

01:03:27:13 – 01:03:40:15
Natalia Pereira Martín
Paz, un millón de gracias. Es un placer soberano escucharte. No hay minuto en el que hables en el que no aprendamos infinitamente. Así que un auténtico placer tenerte aquí. Muchas gracias por tu tiempo y por tu sabiduría.

01:03:40:17 – 01:03:47:02
Paz Peña
Muchas gracias, Natalia, Carlos. Un placer para mí también estar en este pódcast.

01:03:47:04 – 01:03:48:00
Carlos Bajo Erro
Muchas gracias.