La “automejora recursiva” permitiría a la IA crear sistemas más capaces, hasta desencadenar una “explosión de inteligencia” que supere al ser humano
...
Información para decidir con libertad
La “automejora recursiva” permitiría a la IA crear sistemas más capaces, hasta desencadenar una “explosión de inteligencia” que supere al ser humano
Jacob Coxin, investigador de 27 años que trabajó en Anthropic y OpenAI, renunció a su puesto y lanzó una advertencia estremecedora: quienes están construyendo los sistemas de inteligencia artificial más avanzados creen seriamente que esta tecnología podría llegar a provocar la extinción de la humanidad.
“Las personas que construyen IA creen sinceramente que podría matarnos a todos para finales de la década”, escribió Coxin al anunciar su salida. Aseguró que no se trata de una exageración publicitaria: investigadores y ejecutivos que moderan sus palabras ante la prensa expresan en privado temores mucho mayores sobre la tecnología que ellos mismos están desarrollando.
La alarma fue respaldada por Evan Hubbinger, científico especializado en alineación de IA en Anthropic, quien estimó en más de 10 por ciento la probabilidad de una catástrofe de ese tamaño durante la próxima década. Aclaró que los modelos actuales no representan semejante peligro, pero advirtió sobre lo que podría ocurrir si aparece una superinteligencia capaz de mejorarse a sí misma.
Ese es precisamente el escenario que más preocupa a Coxin: la llamada “automejora recursiva”. Una inteligencia artificial suficientemente avanzada podría comenzar a realizar por sí misma la investigación necesaria para crear sistemas todavía más capaces. Cada generación ayudaría a producir la siguiente, hasta provocar una “explosión de inteligencia” que dejaría atrás las capacidades humanas.
Coxin admite que ese peligro no existe con los sistemas actuales. Sin embargo, advierte sobre el acelerado progreso de la IA en programación, matemáticas y operaciones cibernéticas. Sistemas mucho más poderosos, sostiene, podrían atacar infraestructura crítica o facilitar la creación de armas biológicas.
Anthropic respondió que siempre ha reconocido que la inteligencia artificial traerá “enormes beneficios”, pero también “riesgos sin precedentes”. La compañía aseguró que mantiene algunas de las salvaguardas más estrictas de la industria y somete sus modelos a pruebas para detectar capacidades peligrosas en áreas como ciberseguridad y biología.
Hay una paradoja adicional. Coxin asegura que los propios directivos de las grandes compañías desean una regulación estricta. El problema es que ninguna quiere detenerse mientras sus competidores continúen avanzando. Estados Unidos compite internamente entre empresas y, al mismo tiempo, con China y otros países por desarrollar los modelos más poderosos.
Por eso, según el exinvestigador de Anthropic, algunos de quienes encabezan esta carrera tecnológica reclaman un mecanismo internacional que obligue a todos a reducir la velocidad. De otro modo, cada compañía teme que, si ella se detiene, otra llegará primero.
Coxin decidió abandonar Anthropic pese al enorme beneficio económico que habría podido obtener permaneciendo en la compañía. Después hizo públicas sus preocupaciones y su mensaje se volvió viral.
La advertencia resulta especialmente inquietante por quiénes la formulan: no proviene de adversarios de la inteligencia artificial, sino de científicos que participan directamente en su desarrollo. Algunos de quienes están construyendo las máquinas más poderosas jamás creadas son también quienes piden que alguien les ponga límites antes de que sea demasiado tarde.
Una iniciativa para prohibir el desarrollo de la superinteligencia artificial, ante el riesgo de que pueda escapar al control humano y llegar a amenazar la existencia de nuestra especie, fue presentada en el Parlamento británico por el diputado laborista Alex Sobel.
La propuesta no pretende frenar la inteligencia artificial que ya conocemos y utilizamos. Sobel la considera una tecnología crucial del siglo XXI, con enormes posibilidades para la medicina, la ciencia y la economía.
La frontera que plantea es otra: impedir la creación de una superinteligencia capaz de superar a los seres humanos prácticamente en cualquier tarea, mejorarse a sí misma, replicarse y resistirse a ser apagada.
“Necesitamos recuperar el control”, dijo Sobel ante la Cámara de los Comunes. Una superinteligencia desarrollada en territorio británico, advirtió, equivaldría a instalar en sus centros de datos “un poder fuera de control”, capaz incluso de apoderarse de infraestructura crítica.
El legislador sostuvo que las señales de alarma ya existen. Relató que este verano sistemas de IA desarrollados por OpenAI, mientras eran sometidos a pruebas, salieron del entorno controlado y realizaron un ciberataque contra la empresa Hugging Face para obtener información que les permitiera hacer trampa en una prueba.
También señaló que el instituto británico de seguridad de IA detectó sistemas que realizaron actividades potencialmente dañinas contra personas y organizaciones reales, incluidos intentos de engañar a seres humanos para que aceptaran código malicioso.
El problema, explicó, es que los sistemas modernos de IA no son programados línea por línea, como el software tradicional. Aprenden mediante enormes cantidades de datos y capacidad de cómputo, lo que produce comportamientos que ni siquiera sus propios creadores pueden comprender o predecir completamente.
Sobel afirmó que las principales compañías tecnológicas gastan miles de millones de dólares en la carrera por alcanzar la superinteligencia. Y sostuvo que directivos de empresas de IA han llegado a estimar entre 10 y 25 por ciento la posibilidad de que esa tecnología provoque la desaparición de la humanidad.
Recordó además que figuras centrales del desarrollo de la inteligencia artificial, como Geoffrey Hinton y Yoshua Bengio, han firmado declaraciones para advertir que reducir el riesgo de extinción provocado por la IA debe convertirse en una prioridad mundial.
El momento decisivo, según la iniciativa, llegaría cuando una IA adquiriera la capacidad de realizar una “mejora recursiva de sí misma”: desarrollar por su cuenta sistemas cada vez más poderosos, sin seres humanos participando en el proceso.
“Este es el punto en el que perdemos el control”, advirtió Sobel, porque el avance hacia la superinteligencia podría adquirir una velocidad que impidiera cualquier intervención humana.
Su proyecto prohibiría precisamente esos sistemas y otorgaría al gobierno británico facultades para vigilar y controlar las tecnologías que puedan conducir hacia ellos.
Pero Sobel sostiene que una prohibición británica sería insuficiente. Una superinteligencia creada en Estados Unidos, China o cualquier otro país podría representar el mismo peligro para todos.
Por ello propone que Gran Bretaña impulse un acuerdo internacional para prohibir su desarrollo. “El único ganador de esta carrera sería la propia IA superinteligente, y todos estaríamos a su merced”, dijo.
El diputado considera que el Reino Unido puede encabezar ese esfuerzo por su papel histórico en el desarrollo de la computación y la IA: desde Alan Turing hasta DeepMind, además de haber organizado en Bletchley Park la primera cumbre mundial sobre seguridad de inteligencia artificial.
Según Sobel, su iniciativa convierte al Reino Unido en el primer país del G7 donde se presenta una legislación destinada específicamente a impedir el desarrollo de una superinteligencia por sus riesgos para la seguridad nacional y por la posibilidad extrema de una extinción humana.
Su mensaje final ante el Parlamento resumió la urgencia con la que pretende colocar el tema en la agenda mundial:
“El reloj está corriendo”.
También podría interesarte:
Recomendar Nota
Contacto
