«Computadoras del mundo, ¡uníos!» es la pieza inaugural de Persona non grata, columna bilingüe de Jason Barker en exclusiva para Communis.
El moralismo estridente en torno a la IA hace ola. ¿Tiene alguna justificación? En lugar de intentar responder a esa pregunta, planteemos otra: ¿Existirá la «IA» dentro de cinco años? Si los medios de comunicación se han trasladado a las «nubes», el destino de la IA está en la esfera celeste. Próxima parada, ¿Marte?
Merece la pena cuestionar los designios imperiales de la IA en la educación. No por la dudosa afirmación de que los algoritmos y el análisis de datos son susceptibles de mejorar la «experiencia de aprendizaje», sino por lo que esa burda intrusión en el mundo académico revela sobre el precario estado de la educación hoy.
Hace poco, un estudiante de mi departamento me informó de que lo habían acusado de plagio y, acto seguido, se declaró inocente ante el profesor. Este respondió entregándole un informe de IA en el que se afirmaba: «Estamos moderadamente seguros de que este texto ha sido generado por IA.» El hecho de que el estudiante estuviese o no mintiendo —le había visto el lado divertido, lo que a mis ojos lo reivindicaba totalmente— parece menos importante que su presunción, tristemente errada, de tener derecho a una educación. En realidad, había experimentado algo parecido a esa sensación de perplejidad que te asalta cuando te rechazan la tarjeta de crédito en la caja del supermercado por razones desconocidas.
Podría perdonárseles a los profesores su cinismo. ¿Cuántos de nosotros no hemos experimentado ese placer culpable al desenmascarar al listillo sentado en la última fila de la clase? En cualquier caso, ¿no les debemos a nuestros alumnos el apego a unas normas rigurosas de redacción e investigación basadas en pruebas? Quién podría cuestionarlo. Sin embargo, a lo que hay que hacer frente es al insidioso prejuicio de los administradores no académicos de que el rigor académico debe ceder ante la «eficiencia» de las herramientas de IA, del mismo modo que los electrodomésticos alguna vez prometieron «liberar» a las amas de casa en los Estados Unidos de la posguerra.
¿Qué sentido darle a la obsesión de la modernidad por la formalización, por el equilibrio universal de entradas y salidas? ¿Acaso tiene una explicación formalista? ¿O una tecnocrática? La formalización es el enfoque axiomático que tiene por principio prescindir de las propiedades peculiares de los objetos matemáticos y reducirlos a conjuntos de relaciones. Piénsese en sistemas. El formalista exige un conjunto coherente y omnicomprensivo de reglas para entender de qué manera se habrá de comportar un objeto matemático cualquiera. La axiomática es el proverbial Dr. Pangloss para quien la humanidad es un fenómeno irreductiblemente corporativo, incompatible con la «experiencia real» de cualquiera de sus individuos. (Imaginemos un mundo en que la actividad económica sea indiferente a las necesidades humanas, en que todo valor sea igual y esté en perfecta armonía, incapaz de ser perturbado por los «epifenómenos» del mercado, y tendremos una versión marxista de Pangloss.)
El pensamiento axiomático ocupa un lugar destacado en las matemáticas del siglo XX. El anuncio por David Hilbert de «23 problemas» en el Congreso Internacional de Matemáticas celebrado en París en 1900 —en el que invitaba a los matemáticos «a levantar el velo tras el que se oculta el futuro; a dirigir nuestra mirada hacia los próximos avances de nuestra ciencia y hacia los secretos de su desarrollo durante los siglos venideros»— pondría en marcha un ambicioso programa interdisciplinario, liderado por el propio Hilbert, que hizo dialogar a las matemáticas con la biología y la física teórica y que, pese a verse abandonado tras las pioneras innovaciones de Kurt Gödel, jamás ha dejado de generar innovaciones científicas.
El programa de Hilbert también allanaría el camino para todo tipo de aplicaciones tecnocráticas en las ciencias empíricas. Tras la significativa ampliación de la teoría axiomática de conjuntos y las importantes contribuciones de Hilbert a la topología, el álgebra y la estadística, John von Neumann abandonó el campo de las matemáticas puras y procedió a la axiomatización de la mecánica cuántica, antes de gravitar hacia el diseño de la bomba de hidrógeno en el Proyecto Manhattan. Algunos años más tarde, Alain Badiou la emprendería contra esa «interdisciplinariedad» por su falsa ciencia y su perversión ideológica de la modelización matemática. Nada tiene de científico concebir un modelo para un laboratorio mundial de exterminio en masa. ¿Qué concepto de «mundo» está siquiera en juego en la reproducción de la ciencia empírica, en sus diversas iteraciones, más allá de un extraviado idealismo según el cual vivimos en el mejor de los mundos posibles?
¿Y la informática? ¿No se trata de otro empirismo o idealismo servil (equivalentes el uno al otro a los ojos de Badiou) para la modelización de un mundo de usuarios independientes, presuntamente en comunicación directa y espontánea entre sí?
La informática puede ser una de las nociones más ofuscantes del discurso científico. Existe una historia premoderna de máquinas calculadoras y tecnologías varias, desde el ábaco hasta el aritmómetro de producción en serie, que podrían clasificarse como herramientas mecánico-aritméticas o tecnologías de agilidad mental. El precursor del ábaco era un sencillo tablero para contar (la tablilla de Salamina) que data del siglo IV a.C. y que, con toda probabilidad, sirvió para facilitar el comercio intercultural en el Mediterráneo. (Según Parry Moon, el hecho de que las tablas de contar las utilizaran mercaderes ordinarios en el Ática tal vez explique por qué el aristocrático Platón se cuidó de mencionarlas). En el siglo XIV, los japoneses ya habían ideado el soroban, un ábaco en cuyo diseño se había incorporado cuentas relativamente grandes ensartadas en barras cortas, presumiblemente para facilitar la rapidez del cálculo.
Podría decirse que la historia moderna de la computación comienza con el concepto de computabilidad efectiva, que nada tiene que ver con el modelo de representación —la ideología— de la informática moderna. Esta última, al igual que el ábaco del mercader, está orientada a la consecución de la potencia y la eficiencia informática y es impulsada por la incesante abstracción de los artefactos informáticos. La computación en red a través de Internet se ha convertido en sinónimo de expansión del conocimiento («intelecto general» o «mente colmena»), algo totalmente injustificado y un tanto irónico, dada la tendencia predominante en el diseño de software a la eliminación (compresión) de la redundancia sistémica. La idea de herramientas informáticas que facilitan la «experiencia del usuario» se ha visto superada por la de una máquina virtual (es decir, un software que funciona de forma relativamente autónoma respecto de su anfitrión y con una intervención mínima) que convierte al usuario en un concepto redundante, y cualquier «experiencia» relacionada con él, en mito.
(Una breve digresión. En respuesta a la pregunta de Nick Bostrom acerca de si vivimos en una simulación informática: no podemos saberlo, pues el problema de la detención establece que, para cualquier simulación dada (programa informático), no podemos decidir sistemáticamente si es una simulación o no (es decir, si se detiene) desde dentro de la simulación (es decir, mientras el programa se esté ejecutando). Es ese en cierto modo el dilema del héroe en Matrix. Puesto que Neo se ha pasado toda su vida viviendo en una simulación, ¿qué base racional tiene para creer que la realidad es más real que la «simulación» de la que supuestamente ha salido)?
La redundancia sistémica es doblemente irónica cuando se aplica a la educación. Durante más de 50 años, las humanidades han estado profetizando la «muerte del hombre» y la «muerte del sujeto», creyendo que todo era una cuestión puramente epistemológica, una metáfora, algo cuyas implicaciones no iban más allá de la sala de seminarios. Es como si los profesores, que acaban de salir del naufragio de la austeridad y la racionalización asistida por la IA, dijeran a la administración de la universidad, o a cualquiera a quien pudiera importarle: «¡Vamos! No creerán que ninguno de nosotros se lo había tomado en serio, ¿no?» Pero la gente sí, y la falta de una estrategia organizativa por parte de los educadores ante la bola de demolición de la IA simplemente refleja (es una función de) la carencia que tienen de un concepto genuino de educación.
El año pasado encargué a mis alumnos que resumieran un capítulo sobre las máquinas de Turing. Aproximadamente el cincuenta por ciento de ellos introdujeron el capítulo en un resumidor de IA, hecho que me confirmó un software de detección de IA. Informé a la clase de que, para evitar ser detectados, la cohorte de IA debería haber utilizado un resumidor que evitara la detección de IA, aunque, como continué explicando, ello no necesariamente los ayudaría, ya que yo podría introducir sus resúmenes en un detector de resumidores que evitara la detección de IA (una característica definitoria de la máquina de Turing universal es su capacidad para simular recursivamente el comportamiento de cualquier otra máquina de Turing).
No deja de ser «irónico» que los estudiantes, cuando se les pregunta «¿qué es una máquina de Turing?», opten por preguntar a una máquina de Turing. Si la máquina de Turing proporciona la respuesta, y no el estudiante, es obvio que el estudiante no ha aprendido nada. Pero quizás lo más preocupante es que la máquina de Turing tampoco lo ha hecho. La «IA» (vacilo a la hora de difamar a la inteligencia artificial) no puede saber que sabe, a pesar de que puede «conocer» (imitar) a sus interlocutores humanos, tal como Alan Turing-el-hombre expuso en su famoso artículo «Computing Machinery and Intelligence», en el que concibe la llamada prueba de Turing.
Ahora bien, no me gustaría ir tan lejos como afrimar que el hecho de que existan las máquinas de Turing y la prueba de Turing puede servir de ayuda a los educadores que se enfrentan a la disrupción causada en sus aulas por la IA. ¿Podríamos imaginar un futuro para las humanidades en que el análisis textual se convierta en una especie de criptografía? ¿O en que la «escritura creativa» implique el uso de la IA para idear prosa experimental (que dentro de seis meses la IA escribirá por sí misma, haciendo así redundante el concepto de escritura creativa)? Por supuesto. Al menos mientras los departamentos de humanidades puedan generar suficientes cursos nuevos para mantener encendido el fuego de la creatividad de la IA. Ahora bien, cabe advertir de algo: la IA produce destrucción creativa mucho mejor que nosotros, libre de sermones morales y sin necesidad de justificar ante sus interlocutores la «importancia»… de sus cursos.
Echemos a un lado ese modelo tecnocrático de la informática, con su redundancia sistémica y su obsolescencia incorporada (actualiza tu sistema operativo, divulga tus datos personales, renuncia a tu derecho a la privacidad o, de lo contrario, quédate fuera de tu propia vida) y volvamos al siguiente punto, a saber, que la historia moderna de la computación comienza con el concepto de computabilidad efectiva, término que Alan Turing acuñó en respuesta al Entscheidungsproblem (problema de decisión) planteado por Hilbert y Ackermann en 1928 (el problema de Hilbert y Ackermann se había inspirado a su vez en el sueño de Leibniz de inventar una calculadora universal).
En términos más sencillos, «máquina de cómputo» es la descripción que da Turing de un modelo hipotético para el cálculo de cualquier número computable. No es una máquina física real que requiera un sistema operativo integrado para gestionar y priorizar tareas. Sin embargo, la «simplicidad» de la máquina de Turing supera con creces la «complejidad» de la IA, ya que la primera se ocupa sólo de calcular los límites de la computación. De hecho, en términos de clases de autómatas, con la lógica combinacional en el extremo inferior y las máquinas de Turing en el extremo superior, la IA ni siquiera está a la altura de los autómatas de pila (pushdown automata), ya que los algoritmos de IA se limitan en gran medida al reconocimiento de patrones y a la toma de decisiones básicas y requieren mucho más entrenamiento para lograr lo que los autómatas de pila logran por definición (a saber, reconocer lenguajes con estructuras anidadas).
Hubo un tiempo, en la época dorada de la función pública, en que «el ordenador» era un ser humano, invariablemente equipado con aparatos de medición básicos (un microscopio, un cronómetro, un contador de cuentas), pero quizá la mayoría de las veces sin más tecnología que papel y lápiz. Inevitablemente, la mayoría de los ordenadores eran mujeres y estaban mal pagados. ¿Influyó ese hecho en que Turing ideara lo que en esencia era un modelo proletario de computación, basado en la difícil situación del trabajador no cualificado y alienado de la posguerra? Si tenemos en cuenta que lo que Turing se propone demostrar en su documento de respuesta al Entscheidungsproblem de 1936 es que cualquiera que tenga acceso a un conjunto de tablas de instrucciones —y siempre que sepa leerlas— será capaz de realizar cualquier cálculo matemático, entonces lo que se le ocurre es realmente un manifiesto igualitario en ciernes para los trabajadores intelectuales no cualificados.
Y el tiempo, en la época dorada de la función pública, estaba al menos un poco del lado del ordenador. La computabilidad efectiva no viene en absoluto determinada por la eficiencia computacional. Si acaso, es al revés: el ordenador computa hasta que la tarea esté «terminada», únicamente en función de las instrucciones necesarias para la realización precisa de la tarea. El trabajo dura lo que dura, de cada uno según su capacidad, a cada uno según sus necesidades.
Imaginemos un mundo en que el ordenador no estuviera tanto equipado como definido por las posibilidades sociales y políticas de la computación. ¿Qué clase de mundo sería?
Jason Barker es uno de los más finos prosistas de los últimos 15 minutos.
Imagen: Electronic Numerical Integrator and Computer (ENIAC), the world’s first computer. Photo courtesy the U.S. Army and the archives of the ARL Technical Library for SIMS. LIFECYCLE SERVICES.
Tradujo del original en inglés Rolando Prats .
