Articulemos la colaboración anterior a lo que ahora entregamos. E. Ibarra apuntaba sobre la monomanía de H. Simon, y la consistencia de esta monomanía manifiesta en el “comportamiento humano como comportamiento artificial”. Destaquemos, siguiendo la saga de Simon, que “las computadoras podrán hacer cualquier trabajo que pueda hacer un hombre”, lo que quizá escondía, inquiere Ibarra, que “los hombres podrán hacer cualquier trabajo tal como lo hacen las computadoras”. Sigamos esta línea reflexiva, en los ires y venires de la tecnología y el orden social: “Cuando tal jefe se da cuenta de que algunas de las funciones supuestamente humanas de sus esclavos pueden transferirse a las máquinas, se siente complacido. Al fin ha encontrado un nuevo subordinado —eficiente, servicial, confiable en su acción, nunca respondón, diligente, y que nunca exige un solo pensamiento de consideración personal” (Norbert Wiener, Dios y Golem,S.A. Comentario sobre ciertos puntos en que chocan cibernética y religión,1964).
Esto último se apuntaba en un documento que pinta canas, pero plenamente vigente, tanto como el señalar que “las máquinas están perfectamente capacitadas para hacer otras máquinas a su propia imagen. El tema sobre el que estoy tratando aquí es al mismo tiempo muy técnico y muy preciso”. Pide el autor que no sea tomado en cuenta seriamente en lo que hace al “proceso de generación biológica, y mucho menos como un modelo completo de la creación divina”, pero sin minimizar los caminos que se abren por ”ambos conceptos”. Lo apuntado por Wiener –reputado científico-, a mediados de la década de los sesenta, parecía más una narración de ciencia ficción. Nada de eso: cibernética, formalismo científico, rigurosidad.
Detengámonos en parte del argumento, y movámonos en el tiempo. Sobre hacer máquinas a su propia imagen, es muy sugerente lo apuntado por Geoffrey Hinton al dejar su trabajo en Google (historia reciente, mayo 2023), con la advertencia de los riesgos que plantea la Inteligencia Artificial (IA), porque se están volviendo más inteligentes que nosotros. Ahora, de nuevo con la imagen, Hinton también apunta, “si es buena manipulando es porque lo aprendió de nosotros”. ¡Suena terrible; lo es!
No soslayemos que Hinton renunció a Google "para poder hablar sobre los peligros de la IA sin tener en cuenta cómo esto afecta a Google". Un tecnólogo altamente reconocido, con influencia notable, por ejemplo, en la nueva musa ChatGPT. Por cierto, según los economistas de Goldman Sachs, esta genial invención (que cada día avanza un escalón en la complejidad tecnológica), podría con la fuerza de un tsunami impactar 300 millones de empleos en el mundo -¡sorpresa!, ¿sorpresa?: ¿se acuerdan del término desempleo tecnológico, recordando a P. Sweezy y P. Baran, vilipendiado por muchos economistas?-.
Acudamos a otro tecnólogo, de ligas mayores, que también tomó distancia de Google. Hablamos de Tristan Harris, ahora ex ingeniero de Google, que puso focos rojos sobre el efecto múltiple, el más evidente el de la adicción, de las redes sociales. Parte de esta historia se narra en “El dilema de la redes sociales" (Netflix), donde se describen las herramientas para generar atención/distracción, conexión perenne, por lo que mientras las plataformas hacen su tarea -máquinas de dinero y generadoras de adicción (sumisión) al mismo tiempo-, se avanza sin pausa en el “negocio” de la “venta de comportamientos futuros”(S.Zuboff), es decir, en la cartografía prospectiva del control (“¿Cuánto de tu vida podemos hacer que nos des?”).
Volvamos a Wiener. Le preocupa el conocimiento (comunicación), el poder (control) y el propósito humano (ética), que en lo tecnológico se expresa en las máquinas que reproducen máquinas, las que establecen niveles de coordinación Máquina/Hombre, y sobre todo, en las máquinas discentes, entendiendo que “un sistema organizado puede definirse como aquel que transforma un cierto mensaje de entrada en uno de salida, de acuerdo con algún principio de transformación”. Más todavía, “Podría decirse que toda esta inteligencia inesperada de la máquina había sido introducida en ella por su diseñador y programador. Esto es verdadero en un sentido, pero no tiene porqué ser cierto que todos los nuevos hábitos de la máquina hayan sido explícitamente previstos por él. Si ése fuera el caso, él no tendría dificultad en derrotar a su propia creación” (recordemos la derrota en ajedrez, que comenzó desde 1996, concluyendo el 11 de mayo de 1997, de G. Kasparov en manos, perdón, en los circuitos de la Deeper Blue/IBM, como concreción en su momento de una máquina que aprende de sus errores), hecho por el que alertan Hinton y Harris (cada cual por su lado y con sus respectivas razones), pensando en la derrota del creador por la criatura, reconfigurándose ésta: las máquinas que aprenden, sin dejar de lado el argumento letal del “uso humano de seres humanos”.
Uso humano de seres humanos. No nos apartamos de Wiener si sumamos a este argumento la reflexión de R. Panzieri, de que “En el uso capitalista, no sólo las máquinas, sino también los “métodos”, las técnicas organizativas, etc., son incorporados al capital, se contraponen a los obreros como capital: como “racionalidad” extraña”. Bajo esta rendija de observación, sin ejercicio de clarividencia, no hace falta, “El mundo del futuro será una lucha todavía más intensa contra las limitaciones de nuestra inteligencia, y no una cómoda hamaca en la que podamos echamos para ser agasajados por nuestros esclavos robot” (Wiener).
P.S. Alegría, por lo aprendido por las asambleas estudiantiles en las unidades de la UAM, y porque en breve se abrirán nuevamente sus puertas.
(Profesor de la UAM)
