Los investigadores de OpenAI, mientras evaluaban dos modelos de IA pioneros, desactivaron temporalmente sus salvaguardas en un "sandbox" o entorno de pruebas “seguro”. Observaron que los modelos identificaron de manera autónoma fallos en el software de terceros, accedieron a internet e infiltraron la base de datos de la empresa de tecnología Hugging Face. La falla se extendió a otras empresas.
Kenneth Rogoff, en su artículo "The Canary in the AI Coal Mine", publicado en Project Syndicate, compara la falla de seguridad con la teoría de la fuga de laboratorio del Covid-19, enfatizando que el error y la arrogancia humanos son los principales responsables.
La estrategia de China de adoptar la IA de código abierto hace que las herramientas de vanguardia estén disponibles a nivel mundial. Rogoff advierte que solo es cuestión de tiempo antes de que Estados rebeldes o grupos terroristas intenten desarrollar armas biológicas o bombas sucias.
Las campañas de manipulación electoral basadas en IA erosionan la confianza pública, alimentan la polarización y podrían llevar a los gobiernos a ampliar su poder.
Las empresas tecnológicas argumentan que regular la IA hará que Estados Unidos pierda su ventaja frente a China. Sin embargo, Rogoff señala que China puede imitar o robar grandes avances y que una carrera sin regulación es una receta para el desastre.
Al igual que las armas nucleares durante la Guerra Fría, la seguridad de la IA, mucho más pronto que tarde, requerirá la cooperación internacional y estándares de seguridad vinculantes entre las superpotencias y los demás países.
Aunque la sobrerregulación puede corregirse más adelante, los riesgos de desplegar una IA superinteligente descontrolada antes de que se establezcan barreras de seguridad serían catastróficos.
Rogoff señala en el artículo titulado "La paradoja del crecimiento de la IA", publicado en Foreign Affairs, que, aunque sus defensores argumentan que el auge de la IA generará un crecimiento económico masivo y nuevos ingresos fiscales para resolver la insostenible deuda nacional de 40 billones de dólares, este resultado no está garantizado.
Un crecimiento elevado podría elevar las tasas de interés, encarecer el servicio de la deuda y desencadenar una crisis financiera más amplia si el gasto público supera los ingresos fiscales. La deuda federal de EU tiene incrementos anuales de 6% del ingreso nacional. Las tasas de interés han aumentado, lo que ha provocado que los pagos federales de intereses superen el gasto en defensa.
La IA requiere inversiones de capital inmensas, como centros de datos. La alta demanda de inversión generará una feroz competencia por el capital, lo que elevará aún más las tasas de interés y los costos de servicio de la deuda.
Si la IA mejora los ingresos fiscales por el crecimiento asociado, las presiones políticas redirigirán esos fondos hacia la defensa, las crisis ambientales o un gasto social ampliado (como la renta básica universal o la seguridad social) en lugar de reducir la deuda.
Las crisis de deuda soberana suelen manifestarse cuando un shock externo inesperado (una guerra, una ciberguerra o un desastre ambiental) golpea a un Estado muy endeudado con tipos de interés elevados y una parálisis política.
Pekín considera ventajosa la escalada militar en Oriente Medio, ya que desvía los activos militares estadounidenses y la atención de Asia y de Taiwán. China se ha adaptado a las guerras arancelarias estadounidenses automatizando fábricas con IA y expandiendo el comercio con América Latina, África y Europa.
Los recortes en investigación en EU han provocado que miles de científicos de origen chino abandonen el país, lo que ha permitido a China aumentar sus capacidades no solo en IA sino también en nuevos compuestos farmacéuticos.
Recomendar Nota
