Pierre Bourdieu, brillante sociólogo francés, comentaba algo muy sugerente sobre la fotografía (La fotografía: un arte intermedio, 1965), incluyamos en esto la máquina fotográfica, la tecnología: “aun cuando la producción de la imagen sea enteramente adjudicada al automatismo de la máquina, la toma sigue siendo una elección que involucra valores estéticos y éticos: si, de manera abstracta, la naturaleza y los progresos de la técnica fotográfica hacen que todas las cosas sean objetivamente ‘fotografiables’, de hecho, en la infinidad teórica de las fotografías técnicamente posibles, cada grupo selecciona una gama finita y definida de sujetos, géneros y composiciones […] la fotografía más insignificante expresa, además de las intenciones explícitas de quien la ha tomado, el sistema de los esquemas de percepción, de pensamiento y de apreciación común a todo un grupo”.
Cito a Bourdieu para enfatizar que una fotografía es algo más que la representación objetiva de la realidad -allí está la foto, la podemos apreciar, nos evoca cosas-, porque la elección de la fotografía, su encuadre, lo que se incluye o elimina, el peso de la narrativa cultural en la influencia del fotógrafo, el contexto en el que se produce, todo ello articulado, permite sostener que el hecho social-cultural de fotografiar no es neutral.
Jalemos este modelo de análisis que nos plantea Bourdieu para pensar en general la tecnología, como una producción no neutral. Ubiquémonos en la tan discutida hoy Inteligencia Artificial (IA). No escindamos de esta discusión lo apuntado por A. Prada (Crítica del hiper-capitalismo digital, 2019), de que son los modelos tecnológicos-corporativos los que aventajan a los emporios clásicos. Los primeros, en el orden de la bolsa de valores son Microsoft, Apple, Amazon, Alphabet, Facebook, Intel, Oracle e IBM, mientras del otro lado están Exxon Mobile, Wallmart y Johnson & Johnson; tampoco desechemos, sin ironías, lo anotado por J. Blanco de que “La obsolescencia programada es destrucción creativa que amplía los años de vida del capitalismo, un sistema económico brutalmente ineficiente y depredador”, insustentable (Límites del capitalismo, La Jornada 11/07/2023).
En la pandemia se profundizó este relieve del cibercapitalismo, aunque sin duda la industria farmacéutica también tuvo grandes réditos. Estamos hablando de máquinas de negocios, del gran capital, de nuevo citando a Prada, de fenómenos de oligopolio.
Viene a cuento la discusión por lo señalado en la anterior colaboración, de que en el espacio de la ONU se planteó que los robots “podrían dirigir el mundo mejor que los humanos al no tener los mismos prejuicios y emociones (“Advierten robots: gobernaremos mejor el mundo”, Reforma, 08/07/23). Expresamente Sophia, un robot desarrollado por la empresa Hanson Robotics, señaló: “los robots humanoides pueden liderar con mayor eficiencia que los mandatarios humanos. No tenemos los mismos prejuicios o emociones que a veces pueden oscurecer la toma de decisiones, y podemos procesar rápidamente gran cantidad de datos para tomar las mejores decisiones” (La AI gobernará al mundo, La Jornada de en medio, 08/07/2023).
Apoyándonos en Bourdieu, esta tecnología en particular no es neutral. Imaginemos su forma particular de gobernar (recordando a Daniel Cosío Villegas): dice Sophia que sin prejuicios ni emociones, preguntamos, ¿lo dice Sophia o los diseñadores-tecnólogos que están detrás? ¿Es una respuesta automática o programada para esa pregunta sobre la gobernabilidad en el futuro? En su enorme base de datos, que les permitiría tomar decisiones, ¿se podría hablar de un “sistema de los esquemas de percepción, de pensamiento y de apreciación común a todo un grupo”? ¿La construcción y alimentación cotidiana de la base de datos no tiene operaciones de selección, jerarquización y filtros de la información? ¿Hay un encuadre tecnológico, producto de un diseño hegemónico –en disputa entre el gran capital-, considerando que estamos hablando de Microsoft, Apple, Amazon, Alphabet, Facebook, Intel, Oracle, IBM y las corporaciones chinas Tencent y Alibaba? ¿Los robots tienen empatía, pueden actuar con valores y perspectivas humanas? Más allá de las respuestas, detrás de un gran robot hay una gran corporación.
Las máquinas son la materialización de las relaciones sociales. Así, detrás de las máquinas –de sus diseños, del sentido de sus usos-, están los hombres, con sus prenociones, prejuicios, valores, “el peso de los muertos que oprime como una pesadilla el cerebro” de los científicos y tecnólogos, de los laboratorios de ideas, como parte de una sociedad en donde existen y se reproducen, no sin tensiones, las convenciones sociales dominantes. No es posible la acción política sin estas cargas que influyen en la acción. La presunta superioridad de la IA en las tareas de gobernabilidad forma parte, sí, de una narrativa que por un lado disminuye la política a territorio de prejuicios y emociones (en donde todos son iguales, ese es el mensaje para desalentar la acción política) y que, por otro, naturaliza ciertas formas de dominación que han ido ganando terreno: la algoritmización de la política, con su capacidad de predecir comportamientos, es decir, destruyendo lo ciudadano.
El peligro de la IA no es entonces la gobernabilidad de los robots, sino la robotización de la sociedad.
(Profesor de la UAM)
