Diego I. Rosales
Durante la Guerra de Corea (1950-1953), el general estadounidense Douglas MacArthur dirigió las fuerzas armadas de Estados Unidos que intervinieron en el conflicto. Por vez primera en la historia de la guerra, se empezaron a utilizar sistemas electrónicos —ya no solamente mecánicos— para calcular trayectorias balísticas, flujos de suministros y proyecciones de bajas. La empresa IBM desarrolló la computadora IBM 701, apodada Defense Calculator, que apoyaba al Pentágono a procesar información táctica a una velocidad sobrehumana para ayudar a planificar la guerra, tanto en la defensa como en el ataque. El general MacArthur tenía en sus manos decisiones tremendas, que podían conducir al inicio de una tercera guerra mundial. Esas decisiones, sin embargo, ya no descansaron en MacArthur sino que fueron delegadas a las capacidades del nuevo aparato, a lo que la prensa llamó un Electronic Brain. El juicio prudencial del general cedía ante lo que los datos mostraran. Su sabiduría militar, su experiencia política, su colmillo y su talento, renunciaron a pronunciarse sobre la mejor acción a seguir para, acto seguido, obedecer los datos objetivos que el novísimo objeto revelaba.
Günther Anders, observador fiel de la mecanización y la desencarnación del mundo moderno, vio en este hecho un acontecimiento público de carácter histórico. Fue para él un paso decisivo en la sustitución del hombre por la máquina y, en el fondo, la claudicación del ser humano sobre sí mismo. La cesión de esas decisiones significó, a ojos de Anders, el acrecentamiento de la vergüenza que siente el ser humano por su propia condición ante los poderes inmensos que la máquina, que él mismo ha hecho, tiene. Anders llama a este sentimiento moral la vergüenza prometeica: palidecer ante la velocidad, la potencia, la fuerza y la efectividad de la máquina que nosotros mismos diseñamos y fabricamos. La vergüenza prometeica es la humillación de nuestra humanidad por la máquina que hemos creado, y al mismo tiempo el deseo de no haber nacido sino de haber sido fabricados.
A MacArthur se le retiró la capacidad de tomar decisiones militares no por ser MacArthur, apunta Anders, sino por ser hombre. No era un asunto personal, relativo a una posible incapacidad, más bien se puso a la máquina en el centro de la decisión por considerarla ‘mejor’ para esos fines. Por supuesto, eso también suponía la garantía de unas manos impolutas en el caso de MacArthur: si algo salía mal, no habría cargado él con la responsabilidad. La humanidad misma proclamó, con su propia voz, decisión y acción, que más vale entregar a un aparato las decisiones morales más importantes de un conflicto bélico, al sentirse humillada por las capacidades de este mismo aparato. Con ello los papeles se invierten: el hombre trabaja ahora para la máquina y no la máquina para el hombre.
El aparato-oráculo de MacArthur está hoy en los bolsillos de todos, y entregamos a él la capacidad más preciada y delicada que nuestra conciencia ha desarrollado: la atención. Así como el general renunció a su papel de sujeto libre y responsable de sus decisiones para entregar su albedrío a un objeto y liberarse así de su ansiedad de error, el médico ha abandonado la medicina y la clínica para confiarse a los números, a la estadística, a las correlaciones y a los datos, lo que Iván Illich vio con lucidez en Némesis Médica. Así, también, el empresario del régimen fordiano decide quién es prescindible en su empresa según los reportes digitales que sus agentes entrenados de recursos humanos le entregan. Y así, nosotros, entregamos al aparato móvil nuestra capacidad de gozar el mundo, de verlo, de sufrirlo, de nombrarlo; filtrado por una pantalla, conocemos nuestro entorno; filtrados por una imagen falsa, construimos una imagen-larva de nosotros mismos para proyectar una idea incorpórea de lo que nos gustaría ser. Vivimos en la mediación de la mediación, y no vivimos las cosas si no las publicitamos. Nuestro deseo, raptado por el consumo, es decir, profanado, violado por la publicidad, no puede ya sino desear como un famélico que va lamiendo sus propias sombras. Anders lo vio muy bien: el hombre, obsoleto de sí mismo, entrega cada vez más su humanidad a una serie de aparatos que le sustituyen en su propio vivir.
La inteligencia artificial (IA) generativa ya no amplifica —como lo hacían nuestras herramientas convivenciales— las capacidades de nuestros brazos para trabajar la tierra, ni la habilidad de nuestros dedos para coser una prenda, sino que sustituye a nuestro intelecto en la configuración de un enunciado y a nuestra creatividad en el diseño de una imagen. Por poner sólo dos ejemplos.
Asistimos a un umbral metafísico. La máquina antigua acrecentaba nuestras capacidades musculares y óseas. Era mecánica, y todo lo que no podía caer bajo la lógica de la mecánica —así la máquina medieval y la de la primera revolución industrial— quedaba excluido de su alcance. Luego llegó la máquina digital, que basada en el cuanto, se sustenta en el lenguaje binario del número. Ella excluye de sus potencialidades la semántica y el sentido. No puede hacer nada antes los problemas y los enigmas morales, estéticos o psicológicos. Sabíamos que esos asuntos, bastante misteriosos todos, formaban parte de un orden espiritual al que la máquina no podía acceder y en donde no podía, por principio metafísico, intervenir. MacArthur no le preguntó al Electric Brain por la moralidad de la guerra: sólo le solicitó información, números, y enmascaró su libertad bajo la sucia excusa de que los números decidirían por sí mismos —sabemos que tomar una decisión con base en los números es ya en sí mismo una elección moral—.
La inteligencia artificial busca prolongar sus capacidad para superar el umbral metafísico: del mundo mecánico al mundo de la abstracción cuantitativa, y de la unidad binaria al universo espiritual del lenguaje. Este umbral, sin embargo, le está vetado por principio. Para que una palabra sea lenguaje debe brotar de la vida y de la relación con una verdad vislumbrada. Pero el algoritmo es sólo un número, no es vida. Y de palabra y de lenguaje no tiene más que un disfraz: sus palabras son apariencias de palabras pero no palabras.
Si a un agente de IA generativa preguntamos por la moralidad de una acción militar, o si le pedimos un consejo psicológico, o que realice la evaluación estética de una obra de arte —cosa que no he hecho para la redacción de este artículo y que no quiero hacer nunca—, probablemente nos mostrará lo que parecen juicios razonados, argumentados, incluso quizá imparciales, e incluso, también, es probable que no se defina por sí misma hacia un lado u otro sólo hasta que le demos un input de nuestras propias preferencias. En todos los casos, sin embargo, estaremos ante la ilusión de que lo que leemos es lenguaje, ideas y palabras, cuando en realidad no es sino un montón de números y lenguaje binario manifestado bajo la apariencia de construcciones verbales. Las ‘palabras’ que ella emite no son propiamente lenguaje más que en su cascarón: no son fruto de la encarnación de un acto espiritual de encuentro con la verdad, la bondad y la belleza proveniente de un espíritu que lo vive y que contempla una verdad que luego comunica en vocablos. La IA no escribe palabras. Escribe tokens numéricos con apariencia de tales.
Todos somos MacArthur: entregamos diariamente a un aparato la intimidad de la responsabilidad de nuestra vida. La atención, con la que conocemos y gozamos el mundo, está entregada a las mediaciones e interfaces que excitan nuestro deseo horadando lo más propio de nuestra condición humana, al menos bajo la forma como ésta ha existido los últimos cuatro mil años: el régimen de la carne. Anders llamó a esta transición, la “obsolescencia del hombre” pero él no vio esta imparable sustitución de la palabra como centro civilizatorio por un nuevo régimen de excarnación —Javier Sicilia le ha llamado ahumano—, en donde el sufrir y el gozar de nuestra existencia frágil, vulnerable y delicada, están ausentes y se han rendido ante la eficiencia del código binario. A cada hora existimos más afuera de nuestra carne.
*Diego I. Rosales. Profesor de filosofía.
@diegoirosales
Recomendar Nota
