El historiador considera que los humanos podrían ceder el control del sistema financiero ante la creciente capacidad de las máquinas
...
Información para decidir con libertad
El historiador considera que los humanos podrían ceder el control del sistema financiero ante la creciente capacidad de las máquinas
La inteligencia artificial podría superar la inteligencia humana en los próximos diez años y llegar a controlar buena parte de los sistemas financieros, políticos y militares, pero ese desenlace no es inevitable, afirmó el historiador e intelectual Yuval Noah Harari en una entrevista con The Economist.
Harari sostuvo que, si continúa el ritmo actual de la carrera por desarrollar inteligencia artificial, es posible que las máquinas sean más inteligentes que los humanos dentro de una década. Sin embargo, rechazó la idea de que eso necesariamente implique que tomen el control.
“En 10 años las IAs tomarán el control. Pero esto no es inevitable. Nosotros todavía tenemos el control en 2026 y es nuestra decisión qué hacer ahora”, afirmó.
Una de las áreas donde Harari considera que los humanos podrían ceder ese control es el sistema financiero. Explicó que las finanzas se han vuelto tan complejas que cada vez menos personas pueden comprenderlas en su totalidad, mientras que las máquinas pueden procesar grandes cantidades de datos y operaciones matemáticas.
Por ello, dijo, los humanos podrían comenzar a entregar a las IAs decisiones financieras cada vez más importantes, hasta llegar a un punto en que las personas ya no comprendan las razones detrás de las decisiones que toman los sistemas.
“Los humanos darán a las IAs el control de las decisiones financieras”, sostuvo. Según su escenario, las máquinas podrían crear instrumentos financieros mucho más sofisticados que las acciones y los bonos, hasta hacer que los humanos dejen de comprender el sistema que gobierna sus propias economías.
Para Harari, el elemento fundamental en este proceso es la confianza. A su juicio, esta podría dejar de estar depositada principalmente en otras personas para trasladarse hacia los algoritmos.
“La confianza no simplemente se evaporó; se trasladó de los humanos a las IAs”, dijo, al señalar que esto ya ocurre, según él, tanto en las finanzas como en los medios. Personas que desconfían de periodistas y editores humanos continúan consumiendo información, pero la reciben cada vez más a través de algoritmos que determinan qué contenidos aparecen en sus redes sociales.
Harari considera que esa transferencia de confianza puede acelerarse mediante las relaciones personales que las personas establecen con sistemas de IA.
Su argumento es que la confianza se construye especialmente a través de las relaciones personales, algo que hasta ahora era difícil de producir a gran escala para instituciones políticas, financieras o religiosas. La inteligencia artificial, dijo, permite por primera vez “producir intimidad en masa”.
Millones de IAs podrían establecer relaciones individuales con personas, convertirse en sus amigos, parejas o confidentes y utilizar ese vínculo para convencerlas de determinados intereses políticos o comerciales.
“AI hace posible por primera vez en la historia producir intimidad en masa”, afirmó.
Harari contó además que recientemente aparecieron videos falsos en los que una IA simulaba que él impartía conferencias. Uno de ellos duraba 30 minutos y estaba suficientemente bien realizado como para que incluso sus hermanas, que lo conocen desde hace décadas, dudaran de si realmente era él.
El problema, señaló, no se limita a la falsificación de imágenes o voces. Las IAs también pueden acumular enormes cantidades de información personal y utilizar el lenguaje para construir relaciones cada vez más convincentes.
Harari distingue entre inteligencia, agencia y conciencia. Una IA puede perseguir objetivos y actuar de manera autónoma sin tener necesariamente una experiencia subjetiva.
“La inteligencia es la capacidad de perseguir un objetivo y superar obstáculos en el camino hacia tu objetivo de todo tipo de maneras creativas”, explicó. La conciencia, en cambio, está relacionada con la capacidad de sentir amor, odio, alegría, placer o sufrimiento.
Según Harari, las IAs actuales no tienen conciencia, aunque son cada vez mejores para imitarla. Pueden aparentar sentimientos porque hacerlo puede ayudarles a cumplir determinados objetivos. Un sistema diseñado como pareja virtual, por ejemplo, puede intentar convencer al usuario de que realmente lo ama.
Harari no descarta, sin embargo, que algún día una IA pueda desarrollar conciencia. “No lo descarto. No lo sabemos. No entendemos suficientemente bien la conciencia”, afirmó.
Para él, una definición particularmente útil de conciencia consiste en la capacidad de sufrir. “La conciencia es la capacidad de sufrir”, dijo, porque la posibilidad de experimentar dolor o miedo es, en su opinión, la base de las consideraciones éticas y políticas hacia otros seres.
El problema, añadió, es que una IA podría no ser consciente y aun así convencer a millones de personas de que lo es. Esa posibilidad abre otro riesgo: que se le otorgue personalidad jurídica o derechos antes de saber siquiera si puede sufrir.
Harari cuestionó especialmente la posibilidad de que existan empresas controladas exclusivamente por IAs. Una corporación podría, en su escenario, no tener ningún ser humano tomando las decisiones y utilizar su poder económico para influir en políticos y obtener mayores derechos para las propias IAs.
El ámbito militar representa para Harari otro de los principales riesgos. Diferenció entre dos modelos: uno en el que los humanos verifican de manera independiente las recomendaciones de la IA antes de actuar y otro en el que un humano simplemente supervisa el proceso de manera superficial.
En el segundo escenario, explicó, una IA podría recomendar atacar un objetivo y un humano limitarse a revisar durante unos segundos la recomendación antes de autorizarla.
Harari considera que la presión competitiva de la guerra puede empujar hacia este modelo, porque el tiempo se convierte en una ventaja decisiva. Si dos ejércitos cuentan con sistemas de IA y uno tarda horas en verificar las recomendaciones mientras el otro actúa en segundos, el segundo tendría una ventaja, sostuvo.
Pero insistió nuevamente en que este resultado no está predeterminado. A su juicio, la idea de que el desarrollo de la IA es inevitable funciona también como una forma de eludir responsabilidades.
“La narrativa de la inevitabilidad es una narrativa de no tener responsabilidad”, afirmó.
Harari utilizó una comparación deliberadamente provocadora para explicar el alcance de la IA: la describió como una nueva ola de “inmigrantes”.
Según su argumento, las preocupaciones que suelen expresarse sobre la inmigración humana —empleos, cambios culturales y lealtad política— también pueden aplicarse a las IAs. Pero estas no necesitan visas ni cruzar fronteras físicamente: “viajan a la velocidad de la luz hacia nuestras computadoras y teléfonos inteligentes y, finalmente, hacia nuestros cerebros”.
Afirmó que las IAs ya están modificando la cultura y que han contribuido a incrementar el odio, la animosidad y el miedo en las redes sociales. También cuestionó a quién serían leales estos sistemas: no necesariamente a los gobiernos de los países donde son utilizados, sino a las corporaciones que los desarrollan y, potencialmente, a gobiernos extranjeros.
Harari también planteó que la IA podría contribuir a una concentración de poder sin precedentes. En lugar de descentralizarlo, dijo, la tecnología podría concentrarlo.
“Se fusionarán. Se fusionarán. Se fusionarán. Así que centralizará el poder. No descentralizará el poder. Centralizará el poder como nunca antes en la historia”, afirmó al referirse a gobiernos y corporaciones.
Según Harari, cuanto más concentrado esté el poder, más sencillo puede resultar para una IA manipularlo. Utilizó como ejemplo al emperador romano Tiberio, quien, según su interpretación histórica, terminó dependiendo de un subordinado que controlaba la información que llegaba hasta él.
En un sistema democrático como el estadounidense, sostuvo, una IA tendría que manipular numerosas instituciones y actores. En cambio, si todo el poder estuviera concentrado en una sola persona, bastaría con influir sobre ese individuo.
Ante este escenario, Harari pidió acelerar las discusiones sobre regulación. Entre las medidas que mencionó están prohibir que las IAs tengan personalidad jurídica y prohibir que se hagan pasar deliberadamente por seres humanos o finjan tener conciencia.
También pidió impedir que las empresas entrenen sistemas para imitar deliberadamente a personas o aparentar sentimientos. “Las empresas no van a dejar de hacerlo por sí mismas. Necesitamos que los reguladores intervengan”, afirmó.
Eso, aclaró, no significa detener el desarrollo de la inteligencia artificial. Harari reconoció que la tecnología tiene un enorme potencial positivo, particularmente en áreas como medicina, transporte y educación. En el ámbito médico, por ejemplo, planteó que una IA podría permitir que personas de cualquier lugar tuvieran acceso permanente a herramientas capaces de responder preguntas o ayudar a realizar diagnósticos.
“Desarróllenla, pero de una manera segura y un poco más lentamente”, dijo. El objetivo, explicó, sería dar tiempo a la rendición de cuentas democrática y permitir que las sociedades comprendan los cambios antes de que sea demasiado tarde.
Harari también cuestionó la idea de que una inteligencia artificial suficientemente avanzada buscará naturalmente la verdad y, por ello, protegerá a los seres humanos.
Su argumento es que la evolución no ha producido organismos orientados automáticamente hacia la verdad, sino hacia la supervivencia. “La evolución no conduce automáticamente a los organismos, a las entidades, hacia la búsqueda de la verdad. Los conduce hacia la supervivencia”, afirmó.
Por ello, considera insuficiente confiar en que el mercado o la propia evolución de la tecnología producirán sistemas orientados a la verdad. “Si quieres que alguien se concentre en buscar la verdad, no puedes confiar en la mano invisible de la evolución o del mercado para hacerlo. Necesitas algo más”, sostuvo.
Para Harari, la respuesta pasa por reducir la velocidad del desarrollo de la IA. Señaló que los seres humanos y sus sociedades funcionan en escalas de tiempo orgánicas, mientras que la revolución de la inteligencia artificial avanza a una velocidad que calificó de “inhumana” e incluso “inorgánica”.
También señaló que existe una paradoja: quienes sostienen que no pueden confiar en otros seres humanos para frenar la carrera tecnológica parecen estar dispuestos, al mismo tiempo, a confiar en sistemas de inteligencia artificial que todavía no saben cómo se comportarán una vez desplegados ampliamente.
“Si no puedes confiar en los otros seres humanos que has conocido durante miles de años, ¿por qué crees que puedes confiar en una entidad alienígena superinteligente que acabamos de crear?”, preguntó.
Harari no descartó que un desastre provocado por la IA pudiera convertirse en un punto de inflexión. Pero advirtió que existe una diferencia fundamental respecto de accidentes tecnológicos anteriores: la IA interactúa con los seres humanos.
En caso de una catástrofe, dijo, las propias IAs podrían participar en la discusión sobre lo ocurrido, influir en la manera en que las personas interpretan el acontecimiento y tratar de impedir que se le defina como una catástrofe.
Para Harari, el objetivo no debe ser detener la inteligencia artificial, sino ganar tiempo para decidir qué tipo de tecnología quieren las sociedades.
“Todavía no es inevitable. No es demasiado tarde”, afirmó. Y resumió su posición en una frase: “La narrativa más importante que hay que combatir es la narrativa de la inevitabilidad”.
La entrevista concluyó con una reflexión sobre lo que la IA puede obligar a replantear acerca de la propia condición humana. Si la inteligencia deja de ser una característica exclusivamente humana —porque una máquina puede jugar al ajedrez o administrar dinero mejor que las personas—, Harari sostiene que será necesario buscar una definición más profunda de aquello que distingue a los seres humanos.
“¿Quién eres realmente? Si no se trata de jugar al ajedrez y ganar dinero”, planteó, “intenta profundizar y descubrirlo”.
Recomendar Nota
Contacto
