DISCUSIÓN: ¿Puede la IA pensar por sí misma? Una reflexión ilustrada

Carlos E. de Tavira Leveroni

La autonomía de la inteligencia artificial (IA) crece de manera inversamente proporcional a la humana. Signo de nuestros tiempos es que colaboradores de la empresa Anthropic, como Evan Hubinger y Jacob Cloxon, levanten las apocalípticas trompetas que anuncian el fin de la humanidad. “¡Realmente creemos que la IA podría acabar con todos los seres humanos!” —ha proclamado el primero de ellos. El segundo, por su parte, ha insistido en que las empresas desarrolladoras de IA “corren directamente hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas”. 

El riesgo señalado no es ni la concentración del poder político y económico en manos del imperio tecnológico ni sus deleznables intenciones por controlar todo a su paso. Los temores se dirigen más bien al hecho de que la IA puede encontrarse en vías de adquirir la autonomía suficiente para no requerir a los humanos y definir así sus propios objetivos. Los especialistas temen, en efecto, que la IA piense por sí misma. Les preocupa que, prescindiendo de un ‘sensible’ piloto de carne y hueso, capaz de imponer un necesario límite, termine por identificar a la humanidad como un recurso a su disposición o un obstáculo que es preciso eliminar. 

Pero centrémonos por un momento en una cuestión: ¿puede la IA pensar por sí misma? Lamentable sería responder que sí: que este artificio es capaz de realizar aquello que su creador (el ser humano) se propuso desde tiempos de la Ilustración y que todavía le resulta inalcanzable. Podríamos sintetizar esta condena vaticinada por los especialistas, en la siguiente sentencia: “el fin de la humanidad ocurrirá cuando la IA piense y decida por sí misma acabar con nosotros”. 

En las siguientes líneas deseo corregir aquella formulación. Argumentaré que el fin de la humanidad depende de que ésta asuma la responsabilidad inherente a su facultad de pensar, casi independientemente de los alcances que la herramienta desarrolle. Se trata de un conflicto tan clásico como la filosofía misma. Me parece que quien lo ha diagnosticado con mayor precisión no es otro que Immanuel Kant; por lo que me gustaría ofrecer a las personas lectoras, como dijera la profesora Dulce María Granja, algunas lecciones de Kant para el mundo de hoy. En especial, me refiero a la comprensión de la Ilustración y al uso público de la razón como paso civilizatorio necesario. Con lo anterior, no pretendo inducir a una reflexión enciclopédica e inerte, pletórica de citas y referencias textuales, sino abordar una problemática crucial: ¿qué es pensar por sí mismo y cuáles son los riesgos de no hacerlo? Y, más en específico, ¿qué lugar ha ocupado la IA en la construcción del pensamiento autónomo?

Cuando hablamos de la Ilustración, ese mítico Siglo de las Luces, nos referimos a un radical proceso de emancipación intelectual, lleno de resistencias, censura y debate. Kant mismo insistía en que la sociedad se hallaba en proceso de ilustración, iniciando un sinuoso camino en el que la razón debería aceptar la responsabilidad de cuestionarse a sí misma: ¿qué le es posible conocer?, ¿cómo es preciso actuar en cada situación?, y ¿hacia a dónde se dirige la humanidad? Sólo a través de esta permanente empresa, según el profesor prusiano, las personas se liberarían de sus prejuicios y superstición. La ilustración es, por tanto, la adquisición de la responsabilidad de servirse de la propia razón, y superar la culpable heteronomía.

Sin embargo, es más que evidente que la sociedad está finamente habituada para arrojar respuestas sencillas y cómodas. La esotérica alineación de los astros, el peso de la tradición, sesudos análisis de TikTok o la simple indiferencia resultan fórmulas placenteras cuando lo que se busca es evitar esas incómodas interrogantes. Por el contrario, cuando de pensar crítico se trata, la labor exige un mayor rigor. El propio Kant, tratando de ofrecer un camino, señala tres claros pero cuidadosos principios que nos exigen su perpetua aplicación.

En primer lugar, es imperioso servirse de la propia razón, construir respuestas por uno mismo, evitando cobijarse con sistemas simplistas externos. En segundo lugar, es imprescindible someter lo que pensamos a la discusión pública, a la opinión de los demás. Abrir nuestras ideas a un espacio intersubjetivo de cuestionamiento no sólo las pone a prueba sino que les da la oportunidad de enriquecerse y converger con las de otras personas. Finalmente, el pensamiento crítico, de acuerdo con Kant, requiere coherencia, buscar eliminar las contradicciones y autocorregirse. Para comprender esto en su conjunto, podemos revisitar una bella cita extraída de un pequeño texto del autor, titulado ¿Cómo orientarse en el pensamiento? (1781), donde lo presenta de la siguiente forma: “¿pensaríamos mucho, y pensaríamos bien y con corrección, si no pensáramos, por decirlo así, en comunidad con otros, que nos comunican sus pensamientos y a los que comunicamos los nuestros?”.

La lección ilustrada es contundente: el pensamiento sólo puede ser autónomo cuando se permite el contraste, la discusión y el replanteamiento. Y el espacio público deviene el principal punto de convergencia, donde las ideas se intercambian y movilizan. 

¿Será acaso el problema no que la IA piense autónomamente sino que el ser humano haya renunciado a esa pretensión? La respuesta más socorrida es que esto es culpa de los usuarios que, en busca de emanciparnos de la tarea de pensar, delegamos ese peso que cargamos sobre nuestros hombros a las herramientas potenciadas con IA. Los seres humanos, se dice en repetidas ocasiones, estamos depositando nuestra capacidad de investigación, análisis y resolución de conflictos en Chatbots y modelos procesadores de lenguaje. 

Por mi parte, considero que esta explicación capta sólo parcialmente la crisis que atravesamos en términos civilizatorios. La sustitución de funciones orgánicas con mecánicas ha sido la perenne historia de la técnica. Si bien es cierto que nuestro estudiantado universitario tiende más y más a solicitar a ‘Chat’(abreviatura de ChatGPT) la redacción de sus ensayos, esto no se acerca siquiera a la explicación sobre la catástrofe diagnosticada por Hubinger y Cloxon. 

La renuncia a pensar críticamente es mucho más grave y generalizada. Por un lado, las personas usuarias no dudamos de los recursos con los que esta tecnología opera, los fines que persigue su desarrollo y sus consecuencias sociales; y, por otro, escindimos el artificio del artífice, imputando a la IA una responsabilidad que sólo reside en personas de carne y hueso.   

Ignoramos que la sordera autoinducida por las poderosas empresas de tecnología, impermeable a las advertencias de la academia, la sociedad civil y hasta la religión, traza un camino catastrófico. Como en una tragedia griega, embriagados por su propia hybris, los líderes en el desarrollo de la IA ignoran la voz de un Tiresias colectivo que insiste en la urgencia de cambiar el rumbo. 

Asimismo, y sin ambición de arrojarnos al fatalismo ni adelantar conclusiones, es pertinente advertir de un grupo de actores que también forma el elenco de este drama: las autoridades estatales de los distintos países, excluyendo de momento a los Estados Unidos. Junto a la progresiva corrosión del multilateralismo y del orden internacional de los Derechos Humanos, nos encontramos con jefes de Estado que ni siquiera en su política doméstica han ofrecido regulaciones suficientes al uso de la IA. Esto se debe a que no existe parangón entre la velocidad con que se desarrollan estas tecnologías y la eficiencia legislativa, aun en los casos de parlamentos más eficientes. Por otro lado, los incontrolables caudales financieros que prometen los mercados de la IA alivianan los deseos de imponer sanciones.

Por el lado de nuestro vecino del norte, el pasto no es más verde. La muy conocida alianza entre Donald Trump y los magnates del negocio de la IA ha puesto el Estado de mayor influencia política del mundo a su servicio. Tal como ha sucedido en otros sectores como el militar o la resistencia al cambio climático, el gobierno estadounidense cumple la restringida labor de una plataforma de negocio. Plataforma, que hoy se envuelve en la bandera de las barras y las estrellas argumentando —no del todo alejada de la razón— que la competencia por el mayor desarrollo de la IA permitirá hacer frente al dragón de oriente.

El peligro inminente que presagian Hubinger y Cloxon es que el monstruo se revelará en contra de su creador. Sin embargo, por automatizada que pueda llegar a ser, la IA no está investida de ninguna suerte de responsabilidad. Sugerir que la IA es —o será— lo suficientemente autónoma para acabar con la humanidad es ignorar que, como en el caso de todos los artificios, la responsabilidad de sus daños reside en el artífice y en quien los usa. 

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, se ha pronunciado al respecto en la misma tesitura. El diplomático prevé que la IA será capaz de erosionar uno a uno los derechos de los ciudadanos, por lo que exhorta a la implementación de políticas para su regulación. Türk incluso lo ha explicado apelando a la alegoría del 'monstruo de Frankenstein', enfatizando la amenazante independencia de la criatura respecto a su creador. 

Es claro que la preocupación, aunque franca, está mal localizada. El problema no se concentra en cómo detener a la IA, sino a sus artífices. La aparente campaña ‘humanista’ que ha iniciado Anthropic, señalando los peligros de la IA, sea junto al Papa León XIV o en declaraciones apócrifas de sus colaboradores —inocente o arteramente—, traslada el centro  de la discusión a la presunta autonomía de la IA. Continuamos esperando que la bestia autómata cometa un crimen atroz, cuando éste ya se lleva a cabo por manos e inteligencia humanas. 

Una crítica ilustrada nos exigiría interrogarnos: ¿dónde queda el pensamiento autónomo de las personas que dedican sus esfuerzos al desarrollo de estas herramientas? ¿Puede tener el espacio público la suficiente fuerza como para impactar en las decisiones gubernamentales y de los mercados? 

Considero que el pensamiento autónomo es una facultad exclusivamente humana y que, antes de temer que un artificio como la IA adquiera esa capacidad, tenemos el deber político de evaluar qué estamos haciendo con nuestro propio uso de la razón y someterlo a la crítica pública. De lo contrario, la reflexión no irá más allá del fetichismo —sea en el sentido marxista o freudiano— en el que la IA pareciera ser un sujeto a vencer, un fantástico enemigo dotado de poderes humanos y sobrehumanos. 

No fue la bomba atómica aquello que devastó las poblaciones de Hiroshima y Nagasaki: fueron los sujetos que la idearon, diseñaron, fabricaron y arrojaron. De modo análogo, la fatalidad o supervivencia humana dependen solamente del propio ser humano. Trasladar la responsabilidad de la facultad de pensar a los artificios no sólo elude, sino que oculta un problema aún más desalentador: qué y cómo piensan sus artífices.

*Carlos E. de Tavira Leveroni. Profesor universitario de Filosofía Social y Pedagogía. Realiza su investigación doctoral en la Universidad Autónoma Metropolitana en cotutela con la Università degli studi di Torino. Ha sido docente en la Facultad de Filosofía y Letras de la UNAM y en la Universidad Panamericana. Sus líneas de investigación versan sobre teoría de la democracia, desobediencia civil y problemas políticos contemporáneos.