Informatio
27(1), 2022, pp. 360-370
ISSN: 2301-1378
DOI: 10.35643/Info.27.1.13
Reseña
1 Instituto de Investigaciones en Humanidades y Ciencias de la Educación-Facultad de Humanidades y Ciencias de la Educación-Universidad Nacional de La Plata-Consejo de Investigaciones Científicas (IdIHCS-FaHCE-UNLP-CIC). Correo electrónico: adiberardino@fahce.unlp.edu.ar.
Éric Sadin, en un texto sobre inteligencia artificial y antihumanismo radical se cuestiona sobre cierta conducta humana que viaja a contracorriente del principio de parsimonia o lo que es igual, que le escapa a la implacabilidad de la navaja de Okham:
Lo humano está animado por una pasión perturbadora: engendrar dobles artificiales de sí mismo. Desde la Antigüedad la historia está jalonada de episodios que nos permiten ver a ciertos individuos intentando concebir, bajo distintas formas, criaturas a las que se asigna nuestra misma conformación y que deberían estar dotadas, según el caso, de algunas de nuestras cualidades kinestésicas, sensoriomotrices, propioceptivas y más todavía, cognitivas. ¿De dónde proviene esta sed singular de generar una réplica de nosotros mismos? (2020: 61).
Esta tendencia que como los espejos y la cópula -para recuperar algunos horrores borgianos- anuncian duplicidades, es una que está a la base de lo que el autor ilumina como parte de la historia de la informática. Historia que, en esta narración particular, reconoce instancias donde se emula el génesis cada vez que se advierte un “…y lo creó a imagen y semejanza”. Si antes del hombre hubiera existido un dios que lo creó según su imagen, aquél sentiría la pulsión vital de imitar el soplo primordial en cualquier acontecimiento relevante de su transcurrir mundano.
Cuenta Sadin que poco tiempo después de acaecida la Segunda Guerra Mundial, asistimos a un recrudecimiento del proyecto mimético -por decirlo de alguna manera- en la medida en que propuestas como la cibernética de Norbert Wiener apuran la creación de mecanismos artificiales tales que, si estos pudiesen completar las funciones fisiológicas humanas, entonces, aquellos poseerían capacidades intelectuales idénticas a las humanas (2020: 65).
Sin embargo, y a pesar de que acto seguido la cibernética comenzara a ensombrecerse en los márgenes de las décadas, Sadin señala que el proyecto logró algo más allá de lo esperable. En sus términos:
Había hecho germinar en las conciencias la idea según la cual las máquinas de cálculo pueden contribuir a exigir un mejor orden general de los asuntos humanos superando entonces su vocación inicial de permitir la clasificación, la indexación y la manipulación más sencillas de la información (2020: 67).
Para el 2010, con la irrupción en escena de la Inteligencia Artificial (IA), los sueños cibernéticos adquirieron otro vuelo, asociando de manera cada vez más vertiginosa los sistemas digitales a las metáforas neuronales. El cerebro, convertido ahora en patrón-oro, representará -de aquí en más- el nuevo paradigma bajo el cual se comprenda el mundo digital.
Ahora bien, lejos de ser el modelo neuronal aplicable a circuitos y ordenadores, arremete inusitadamente sobre otros órdenes -sobre todos los órdenes-, transformando la metáfora en literalidad:
Nos damos cuenta entonces de que la metáfora del cerebro termina por desbordar el marco de la caja craneana o de los procesadores para dilatarse a escala del mundo entero (…) cuyo avance general debe estar regulado por un programa perfectamente integrado que proceda sin cesar al mejor ajuste entre todas sus neuronas a sus “mónadas humanas”, o incluso cada fragmento de lo real (2020: 69-70).
Este le permite decir a Sadin que el exceso metafórico devenido literalidad, esto es, vuelto forma de existencia general, hace de la inteligencia artificial no una tecnología sino una tecno-ideología. Esta tecno-ideología confunde las fronteras entre las tecnologías y la sociedad, entre las lógicas computacionales y las lógicas del mercado, abriéndose camino para constituirse en la administración más eficiente de los asuntos humanos.
De cualquier forma y más allá de la propuesta de Sadin, está claro que los bordes de lo digital se expanden, y lo que supo ser un mapa ahora es uno con el territorio. Como quiera que sea, la sociedad digital parece haber sido gestada (pero, ¿por quiénes?, ¿cómo?, ¿con el permiso de quiénes?) emulando un golem al que tal vez no puedan borrársele algunas letras para ser destruido eventualmente[1].
En este estado de cosas donde el expansionismo digital es una trama en la que estamos insertos, hay preguntas urgentes, respuestas ensayadas y problemas para los que todavía ni siquiera tenemos articulado un lenguaje que los explicite.
El libro referenciado para contextualizar nuestro comentario crítico insiste en las formas en que cierta lógica presupuesta en la gobernanza dinámica y “sin fallas” de los asuntos humanos permea las tecnologías digitales. O mejor, las tecno-ideologías que, como señala Sadin, solo tienen un parecido de familia con la estructura de la inteligencia humana. Las similitudes entre ambas tal vez solo sean lingüísticas, retóricas, después de todo, el cerebro humano no es un órgano solitario, sino que se inserta en un cuerpo y, en consecuencia, el proceso de la inteligencia «es indisociable de su tensión con una aprehensión multisensorial y no sistematizable del medio ambiente» (Sadin, 2020:35). Pero si acaso la corporalidad no bastase para mostrar los límites de cualquier similitud computacional/humana, debe agregarse que la inteligencia no puede nunca cerrarse sobre su propia lógica: necesita siempre de un medio que le permita modificaciones sucesivas a partir de nuevos acontecimientos. Esta suerte de aire libre de la inteligencia humana es lo que le hace reflexionar a Sadin sobre los riesgos que presupone el monopolio de la racionalidad que todo código binario fagocita en sus “circuitos neuronales”. Y lo que es peor aún, es que ese peligro pasa inadvertido, como si esta revolución cibernética hubiera adormecido nuestra capacidad para responder a cualquier conflicto de racionalidades que alterase, desafiase o incluso mejorase, nuestro/s sistema/s de valore/s:
¿Cómo llegamos a esa forma de narcosis y renuncia colectivos que contribuyen a dejar el campo libre a quienes obran encarnizadamente para instaurar una conducción automatizada de los asuntos humanos? “El peligro, para la especie, no es tanto ir donde está yendo sino ir con los ojos cerrados y las piernas incontrolables, con el cerebro en estado de ebriedad” (Sadin, 2020: 37).
La cita con la que cerrara el abordaje precedente, contiene una referencia al texto clásico de George Duhamel de los años treinta. Como vemos, la inquietud que atraviesa décadas y llega a nuestros días insiste en no abandonar si no la resistencia, al menos el pensamiento crítico sobre las múltiples formas en que las sociedades actuales se constituyen y nos constituyen.
La compilación elaborada por Jorge Rasner que motiva esta reseña es, sin lugar a dudas, un esfuerzo colectivo y multidisciplinar que aborda la cuestión candente de la digitalización de lo social (o, como se expresa en el texto, la sociedad digital), poniendo frenos en un escenario de velocidades inusitadas.
Que algo discurra mientras frena es, en este contexto raudo de cambios rocambolescos, tan meritorio como necesario. En buena medida porque este texto parece recorrer cierto trayecto stengeriano en lo que concierne a un hacer “lento” del pensamiento mismo. Así como la autora belga eleva una moción por una “Slow Science”, los autores y las autoras de este libro, desatan muchas de las incontables derivaciones de la sociedad digital y sus desafíos.
Cada uno de los siete capítulos representa un reto a los desafíos señalados y es por ello que todos terminan por ralentizar la discusión siempre que agregan una nueva forma de mirar los problemas, una perspectiva diferente de acercarse a la marea cambiante -aunque fascinante- de cuestiones de agenda perentoria.
¿Es posible combinar lo urgente con lo lento? No solo es posible: la ralentización de la discusión es una de las formas de la urgencia. No se puede, de otra forma, acercarnos siquiera a un tema como el que aborda Javier Echeverría en el capítulo titulado, “Tecnologías digitales: dominación y empoderamiento social” sin habitar el espacio que conjunta el tecno-poder con los derechos humanos. El entorno explotado por las redes es un universo caracterizado por lo que Echeverría denomina “tecnofeudalismo aristocrático”. Quienes navegan las redes suelen permanecer ajenos al hecho de que sus aguas no son genuinamente sus aguas, sino que sus ríos 2.0 son cauces ya previstos donde no hay otra regla que la que impone quien está detrás de una determinada red social. El vacío jurídico es tan solo un aspecto, una punta de iceberg donde se deja ver todo lo que falta por debatir a propósito de toda “ausencia”.
Un camino solidario con el trabajo de Echeverría es el que sigue Lola S. Almendros en “La politización de lo íntimo en la sociedad informatiza”. Me refiero a una solidaridad que logra hacer dialogar el tercer entorno del autor citado con el peculiar ecosistema que la autora recupera de Luciano Floridi: la infoesfera. Este ecosistema vital no es más que el modo de estar en el mundo en la era informacional. Mientras que Echeverría hace un esfuerzo propositivo que incursiona en la declaración de derechos de los habitantes del tercer entorno, Almendros hunde su reflexión en el tipo de subjetividad que encarnan los inforgs así como los efectos del peculiar ecosistema sobre el espacio íntimo.
Es interesante destacar en qué medida este ecosistema desantropologiza la subjetividad y al hacerlo, despolitiza al sujeto. O lo es igual, Almendros entiende que esta consecuencia ambiental sobre el sujeto implica el fracaso del ciborg harawayano como sujeto político.
Por lo demás, resultan inquietantes algunas observaciones de la autora que nos conducen a lo que podemos denominar una aporía política propia de la era digital: el tipo de subjetividad que se construye en este espacio deslocalizado es la de un sujeto alienado pero reconfortado en tanto que reconocido. Siguiendo a Sadin, podríamos hablar de que la consecuencia aquí es la negación de la política o la narcotización del presente.
Estas lecturas parecen sumergirnos en fuertes distopías que lejos de ubicar la trama en un futuro remoto, lo acercan a nuestro momento actual de existencia. ¿Será que estamos condenados a una vida sin derechos, despolitizada pero cuasi feliz, donde la distinción entre lo público y lo privado se adelgaza escandalosamente?
Jorge Rasner ensaya en su texto “Ned Ludd y el smartphone: ensayo sobre el desarrollo tecnológico, sus críticos y sus entusiastas”, una matización, un reconocimiento de los grises que podrían darse entre el optimismo y el malestar derrotista sobre cualquier forma de tecnología que nos haya sido impuesta. Esa imposición es tan válida para la época en que spinning Jenny horrorizaba a los artesanos ingleses como para nuestra contemporaneidad donde se nos hace impensable un mundo sin smartphones.
Los tecnooptimistas, cuyo representante más “sonado” -nos recuerda Rasner- es Jacques Ellul, parecen comprometerse con cierto determinismo tecnológico que hace de la tecnología una emergencia transformadora y progresiva allende lo humano. La cuestión no es tanto la percepción de que hay cierta inercia en la trayectoria comprometida con el desarrollo tecnológico sino en la ausencia de mirada crítica que recupere las instancias donde hay agencia humana (grupos, intereses, etc.).
Los tecnorresignados, por su parte, insisten en la observación de que aquel desarrollo pseudo-automático proclamado por los optimistas descuida el costo humano y social del que se alimenta la tecnología desbordada.
En cualquiera de los extremos parece oscilar siempre una balanza que no logra equilibrarse y a la que Rasner le encuentra lo que leo como un principio de estabilización posible: entre la euforia y la desazón, habrá que preguntarse, ¿desarrollo tecnológico para qué, para quiénes, de qué manera?
En una línea que podría oficiar de contrapunto para esta indagación que comenzara Rasner y que nos condujera a pensar sobre distopías y utopías con el trasfondo de los derroteros de occidente entre talleres que se automatizan, revueltas ludditas y La Gran Divergencia, nos encontramos con el texto de Leandro Giri. “Posiciones epistemológicas para un margen de maniobra en la universidad pública en la sociedad digital”, parece ser una caja de resonancia, en el ámbito periférico latinoamericano y rioplatense en particular, de las formas en que la esperanza o la derrota digital, se manifiestan.
Giri apuesta por una estrategia de maniobra restringida a las “constricciones que existen en este momento particular de nuestra historia” (2021: 54), para hacerle frente a una de las características más sobresalientes de la sociedad de conocimiento, a saber: la producción y circulación de mentefacturas.
¿Qué es la innovación? ¿Quiénes innovan? ¿Cuáles son sus templos fundamentales? ¿Acaso lo son nuestras universidades? Estas podrían ser preguntas pilares del derrotero argumental del trabajo de Giri: si acaso la sociedad digital lleva consigo la impronta de la innovación, ¿en qué sentido podemos decir que somos -los periféricos, países productores de mentefacturas?
No hay dudas de que este texto nos interpela de manera directa en la medida en que somos producto, muchos de nosotros, de universidades públicas que, como menciona el autor, compiten con monstruos tecnológicos como los que habitan Silicon Valley.
Nuestra producción de conocimiento tiene apenas correlación con las formas en que se manifiesta la investigación en los países centrales y cuando la tiene, parece ir solo tras los pasos de cada nueva tecnología surgida en dichos países, tales como las disruptivas.
Tal vez aquello que torne posible la diferencia en nuestros países sea la vuelta de tuerca propuesta por Giri: poner en duda que la innovación sea imperativa y apelar a que el conocimiento científico-tecnológico se sitúe al servicio de los problemas nacionales. Esta sí es una diferencia epistémica y política interesante puesto que, mientras el Big Data resulta un método científico entre otros, no es ni puede ser, el único método con el que trabajar. Entre otras cosas porque vuelve, y esto me permito hacerle decir al autor, al sueño paralizante y narcótico de pensar que los hechos son transparentes.
Porque pensar que los hechos hablan sin interpretación, sin recorte, que conforman el non plus ultra de nuestras investigaciones, representa un retorno a viejas ensoñaciones epistemológicas que creíamos haber dejado atrás. La potencia de Big Data es innegable, pero en ningún caso desarma los sesgos que se producen en la investigación científica y que están tan bien explorados en el texto de Fontans, Sosa, Aguirre-Ligüera, Romero, Gazzano y Achkar, “Sesgos en la producción de conocimiento científico. Algunas aproximaciones desde el sur: el caso del glifosato”.
No hay que transitar mucho por el capítulo aludido para comprender a cuánta distancia estamos de anudar los hilos que componen la trama de la generación de conocimientos en países periféricos donde incluso un tema de tratamiento impostergable como es el del glifosato y de los monocultivos, si no promueven al menos no desestabilizan la presencia de ciertos sesgos sean éstos geográficos, temáticos o de financiación.
Aquellos sesgos, por otra parte, se encarnizan en la medida en que no pueden ser explicitadas las consecuencias ambientales -por ejemplo- provocadas por el uso del glifosato. Y no pueden devenir visibles puesto que, dada la operatoria “nunca pura” de la investigación científica, se definen a priori como invisibles. En otros términos, quedan descuidadas, rezagadas, escondidas, tras aquello que queda comprendido bajo la denominación de «ciencia no hecha». Es decir, una ciencia con beneficio potencial para la sociedad, pero a la que se le asignan escasos o nulos recursos.
Que la inserción de la ciencia y la tecnología en la red total de una sociedad no pase desapercibida y más aún, que su visibilización sea un tema de agenda permanente es una premisa que nos lleva a explorar autores y corrientes no siempre bienvenidos en el seno de la epistemología de cuño ortodoxo. Pienso, a modo de ejemplo, en los textos más incendiarios de Paul Feyerabend o en las lecturas CTS más actuales.
En este trayecto antojadizo y no lineal que elegí para referirme a los capítulos del libro, dos son los textos que allanan el camino para reponer algunas cuestiones relacionadas a lo dicho anteriormente y que se solidarizan con caminos epistemológicos no canónicos.
El primero de ellos es el propuesto por Agustín Courtoisie quien, en “La apropiación en cuestión. Crítica y vindica de un programa fecundo”, remite a un planteo crítico en torno a la apropiación social del conocimiento y sus múltiples derivaciones. Buena parte de la argumentación sigue el pulso de algunas propuestas de Paul Feyerabend o de los estudios en los laboratorios tan caros a Bruno Latour (1995) por mencionar solo un autor.
Este recorrido ofrecido por Courtoisie tiene un objetivo claramente delimitado y es aquel que insiste en indagar ese aspecto de la ciencia y la tecnología por medio del cual se sustraen de todo control y legitiman su conocimiento endogámicamente. Este objetivo es el punto de partida para imaginar posibles salidas para este círculo no siempre virtuoso (¿o nunca virtuoso?). Una salida factible reivindica la comparecencia de actores certificados o no, poseedores de conocimiento tácito o munidos de un conocimiento codificado, a la hora de pensar soluciones a determinados problemas. Estos inconvenientes para cuya solución serían convocados distintos actores no son meros problemas formales, abstractos. Muy por el contrario, constituyen asuntos cuya tramitación entraña transformaciones existenciales, apuestas por otras maneras de estar en el mundo a partir de la intrusión de ciertos procederes de la ciencia y la tecnología.
Todo programa que avance sobre las «arenas transepistémicas», como nos trae a cuento Courtoisie, no está exento de problemas y objeciones, pero el texto asume cada desafío con la convicción de que un tema tan complejo no admite respuestas simplistas.
Por último, ninguna de estas participaciones ciudadanas, ningún reclamo sobre la necesidad de poseer mayor y mejor injerencia sobre las consecuencias sociales, ambientales, políticas de la ciencia y la tecnología podrían adquirir corporalidad si no atendemos a la forma en que se gesta una ciudadanía científica. El trabajo de Hernán Miguel y Gabriela Jiménez, “Criterios para el diseño curricular de ciencia y tecnología en sociedad (CTS)”, es una invitación a sumarnos a la discusión no menos enorme de cómo, para qué y por qué enseñar este cruce entre ciencia y sociedad en las aulas.
Para los autores, resulta fundamental, a la hora de recortar un diseño curricular CTS, recuperar tanto el enfoque que remite a las demandas que la sociedad misma le hace a las ciencias y a las tecnologías para encontrar soluciones a problemas urgentes como aquella perspectiva que piensa en las consecuencias negativas de prácticas y productos científicos. Ambas miradas contribuyen a fortalecer la imagen de que la ciencia es un aporte más en la solución de problemas de relevancia social. Y esta ubicación de la ciencia como parte de un esquema mayor donde las soluciones representan esfuerzos compartidos, se recupera de manera contundente en la forma de desplegar la sigla CTS: ya no se trata de un agregado de ciencia, tecnología y sociedad, sino de una inmersión de la ciencia y la tecnología en sociedad.
El ingreso de los y las estudiantes a las preocupaciones sociales desde la ciencia y la tecnología es un buen comienzo para delimitar los desafíos de una sociedad digital que desbocada, anula buena parte de nuestros reflejos para comprenderla, (re)vindicarla, o pensar en todas los márgenes de maniobras o torsiones posibles para habitar de manera más consciente este tiempo que nos es dado.
Todas estas discusiones precedentes suponen un andar con los ojos abiertos y con las piernas sin tambalear. Todas estas discusiones representan una invitación para evitar narcotizar nuestro presente y establecer diálogos transepistémicos allí donde las arenas nos dejen hacer pie.
Latour, B. y Woolgar, S. (1995). La vida en el laboratorio. La construcción de hechos científicos. Madrid: Alianza Editorial.
Rasner, J. (comp.). (2021). Desafíos de la sociedad digital en el mundo contemporáneo. Montevideo: Ediciones Universitarias, Universidad de la República, Biblioteca Plural, 2021.
Sadin, É. (2020). La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical. Buenos Aires: Caja Negra. Futuros Próximos. Traducción de Margarita Martínez.
Stengers, I. (2013). Une Autre Science est Possible! Manifeste pour un ralentissement des sciences. Paris: Éditions La Découverte.
[1] Asociar el golem a la sociedad digital es un recurso que, entiendo, es consecuente con lo que Sadin explica cuando menciona cierto carácter “replicante” en la condición humana, esto es, esa tendencia a recrear el génesis. El golem, como sabemos, es una figura hecha de barro que según ciertas tradiciones, puede ser destruido si se le quita una letra a la palabra inscripta en su frente. Así, mientras el golem tiene tatuado EMET (vida) en la frente, si acaso no cumpliese las órdenes de quien lo ha creado, este solo tiene que borrar la primera letra para destruirlo (MET=muerte).
El responsable por la publicación del presente manuscrito es el editor Prof. Mario Barité.
La presente reseña fue elaborada únicamente por su autora.