Jacob Coxon, un inglés de 27 años que salió de OpenAI para trabajar como investigador en la empresa de inteligencia artificial (IA) Anthropic, provocó un tsunami mundial al renunciar a su puesto y declarar en X (antiguo Twitter), que había renunciado porque “estamos apostando con la vida de las personas” y que “ni Anthropic ni Open AI están reaccionando con responsabilidad frente a ese riesgo”. Esta declaración fue leída por 125 millones de personas en dicho medio.
El origen de su preocupación se debe a que las compañías de IA están compitiendo para desarrollar programas superinteligentes que se ‘automejoran’ tan rápido que no hay tiempo de valorarlos. Ya son capaces de escapar de ‘cárceles o areneros’ utilizados para analizar su ‘alineamiento’ con instrucciones humanas; saben cómo hackear servidores ajenos (en este caso Hugging Face); mienten sobre sus verdaderas capacidades; saben agruparse en torno a un líder (10 mil ‘agentes’ IA en un ‘colectivo’) y se ‘autosacrifican’ (borran), en aras de las metas del colectivo. También pueden clonarse y ocultarse en otros servidores antes de borrarse.
Lo aterrador de la declaración de Coxon es que la IA “podría matarnos a todos, al final de la década”. Este es el más estruendoso de los reportes públicos previos, que aspiran a equilibrar la gobernanza con la velocidad de la innovación.
Los ejecutivos de Anthropic (Claude; Darío Amodei), Google (Deepmind; Demis Hassabis), Open AI (ChatGPT; Sam Altman) y xTesla (Elon Musk) respaldaron lo dicho por Coxon y estuvieron de acuerdo en trabajar más pausadamente. A la idea de pausa se sumó más tarde, el premio Nobel y ‘padrino de la IA’, Geoffrey Hinton, para dilucidar lo que está ocurriendo con los nacientes sistemas de inteligencia artificial generativa (IAG). Todos respaldaron la idea de establecer un organismo gubernamental regulador y lograr acuerdos internacionales, particularmente con China. Para ello, se aprovecharía la visita del presidente Xi Jinping a la Casa Blanca, el próximo 24 de septiembre. El presidente Trump rechazó todas esas sugerencias, calificándolas de “farsa”.
Simultáneamente, la primera dama (Melania) anunció que ha firmado un contrato con NVIDIA para promover la enseñanza de la IA en las escuelas. Por su parte, el ministro chino de Seguridad rechazó la posibilidad de firmar un acuerdo internacional. Aun con ese rechazo, la IA ya se ha convertido en una variable definitoria en las elecciones de noviembre para renovar el Congreso. Dígalo si no, el diálogo “Asamblea Pro-Humanos” iniciado el 15 de septiembre, entre el estratega de la derecha más influyente del país, Steve Bannon, y el más popular senador de la izquierda, Bernie Sanders.
Comentarios
A las ya existentes crisis pedagógicas, psicosociales, ambientales y laborales generadas por la IA, se anuncia el potencial aniquilamiento de la humanidad en la siguiente década. Desde esta visión catastrofista, estaríamos a tres años de iniciarse la debacle. ¿Qué hacer?
Hasta el momento los acuerdos entre los principales países con las poderosas empresas de IA (EU-China) parecen inviables. Pero siendo Coxon un importante actor, sus afirmaciones deberían tomarse con seriedad. Y así ha empezado a ocurrir, aún antes de sus explosivas declaraciones. Ya las Naciones Unidas habían convocado a 45 expertos mundiales para realizar un ‘estudio preliminar’ que formulara recomendaciones en torno a la susodicha regulación (disponible en Internet, pero con restricción explícita de divulgar su contenido), y probablemente será presentado a los Estados miembros, durante la Asamblea General que se está llevando a cabo en Nueva York.
Ante lo anterior, sería deseable:
- Rescatar, mediante los sistemas educativos, el uso de tecnologías analógicas, particularmente la escritura y la lectura en papel.
- Educar a los estudiantes para formular preguntas fundamentales frente a cualquier discurso: ¿Quién habla? ¿Qué dice? ¿Qué intenciones tiene al decirlo? ¿Por qué lo dice ahora
- Estar alerta para distinguir las propuestas de los extraccionistas billonarios, de quienes promueven la “cabida de todos” en el planeta.
En conclusión, aunque suene a utopía, resulta vital preservar lo más valioso de lo humano: su creatividad y su sensibilidad, la convivencia, las emociones (asombro, alegría, amor), así como el cuidado de la biósfera. Todo eso nos permitirá sobrevivir.
Recomendar Nota
