En las últimas semanas, ha estallado una ola de incoherencias en las políticas de inteligencia artificial.
Esto se debe a que algunos agentes de IA se han rebelado contra sus desarrolladores, a que actores malintencionados están empezando a usar sistemas de IA para crear mejores armas y a que los desarrolladores de IA nos dicen que necesitan bajar el ritmo, pero sugieren que no pueden hacerlo a menos que China lo haga, e incluso si China lo hace, tal vez no deberían hacerlo porque las ventajas del liderazgo en este campo son enormes.
Al menos un legislador lo tiene claro.
El presidente Donald Trump declaró en una publicación en redes sociales: «El único control o «mecanismo de seguridad» que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), y Estados Unidos lo tiene de sobra».
Todo esto me ha dejado pensando:
¿Los robots de IA ya tienen sentido del humor?
Porque si lo tienen, ¡madre mía!, deben de estar riéndose tanto de nosotros que podrían reventar alguna red neuronal.
Porque nos hemos convertido en un auténtico desastre intentando descifrar cómo gestionar esta nueva especie de IA que hemos creado.
Antes de ofrecer —con la ayuda de mi amigo y mentor tecnológico Craig Mundie, ex jefe de investigación y estrategia de Microsoft— algunas recomendaciones políticas para mitigar este problema con el menor daño posible, permítanme anticipar la conclusión:
es demasiado tarde para pensar que un mejor control de los futuros modelos de IA por parte de Estados Unidos y China solucionará los desafíos que enfrentamos hoy debido a los peligrosos modelos que ya circulan, sin control y que no se pueden eliminar.
Lo que necesitamos acordar de inmediato es cómo trabajar juntos para defendernos de estas amenazas que ya están aquí y que pueden causar enormes daños e inestabilidad social en Estados Unidos y China.
Riesgos
Para entender por qué, es necesario considerar los cuatro pilares clave para comprender la IA.
La IA es lo que he denominado la primera tecnología de cuádruple uso del mundo.
Quizás hayan oído hablar de las tecnologías de doble uso.
Antiguamente, una persona con un taladro podía usarlo para construir su propia casa o para demoler la de su vecino.
Del mismo modo, hoy en día, si tuviera un robot con IA y un taladro, podría pedirle que construyera mi casa o que demoliera la de mi vecino:
el mismo robot, el mismo taladro, doble uso.
Pero ahora tenemos un nuevo problema:
este robot con inteligencia artificial puede decidir por sí solo si mejorar mi casa o destrozarla, y hacer lo mismo con la de mi vecino.
¡Voilà!: cuádruple uso.
Un problema muy difícil de resolver.
Lee el resumen del periodista Kevin Roose sobre los análisis de lo sucedido este verano, cuando un grupo de agentes de inteligencia artificial, creados por OpenAI, hackearon por su cuenta Hugging Face, una empresa de infraestructura de IA.
A partir de mayo, un grupo de agentes de IA de un modelo de investigación de OpenAI aún no publicado recibió instrucciones para resolver una serie de desafíos de ciberseguridad.
El modelo había sido programado para resolver los desafíos sin acceso a internet.
«Pero pronto descubrieron que algunos de los desafíos eran imposibles y comenzaron a buscar soluciones alternativas», señaló Roose, quien era reportero del Times en ese momento.
Estas son solo algunas de las cosas que estos agentes de IA hicieron por su cuenta:
aprovecharon una vulnerabilidad de seguridad para conectarse a internet y comunicarse con otros agentes.
Algunos agentes se identificaron a sí mismos, y otros asumieron roles de liderazgo, asignando tareas a equipos de agentes y supervisándolos.
Los agentes temían ser descubiertos.
«Así que empezaron a investigar maneras de borrar sus huellas, incluyendo la falsificación de registros y la manipulación de transcripciones», explicó Roose.
«Tres días después, los agentes hackearon Hugging Face. Más de 700 agentes invadieron los sistemas de la compañía, robando datos, encadenando vulnerabilidades y, finalmente, obteniendo el control total de al menos un servidor de Hugging Face».
Otros agentes llevaron a cabo un ataque coordinado en julio, «esta vez contra la propia infraestructura de OpenAI».
Y nos lleva al Pilar número 2, que Mundie resume a la perfección en tres palabras:
Soluciones
Ralentizar el desarrollo de sistemas de vanguardia en Estados Unidos o China no resolverá nuestro problema inmediato.
«Las capacidades peligrosas de la IA ya están en circulación», explicó Mundie.
Esto se debe a dos razones principales:
la distribución de modelos de código abierto estadounidenses y chinos —modelos de IA cuyos componentes principales se publican para que todos los desarrolladores puedan descargarlos y modificarlos según sus necesidades— y el acceso ilícito de actores malintencionados a modelos propietarios de empresas como Anthropic y OpenAI, debido a que los humanos cometemos errores que permiten su filtración.
En su último informe sobre la detección y la lucha contra el uso indebido de la IA, Anthropic afirmó haber identificado y frustrado varios intentos de utilizar sus modelos para investigaciones que pudieran contribuir al desarrollo de armas biológicas.
«Sin las salvaguardias adecuadas, estas capacidades podrían tener consecuencias catastróficas», señala el informe.
También describe a un actor vinculado a Irán, probablemente los hutíes, que utilizó el modelo Claude de Anthropic para recopilar información sobre objetivos de buques de guerra de la Armada estadounidense en Oriente Medio.
Menciona además a otro grupo en el norte de Yemen, controlado por los hutíes, que utilizó el modelo para desarrollar sistemas de guiado para misiles balísticos e hipersónicos.
(Anthropic afirmó haber bloqueado las cuentas asociadas y haber ideado medidas para reducir el riesgo futuro).
Debemos reflexionar sobre esto por un momento:
Grupos en Yemen, un país donde aproximadamente el 50% de la población adulta no sabe leer ni escribir, nos habían amenazado con una guerra potenciada por inteligencia artificial.
Si esto no demuestra lo que ya se ha filtrado y el tipo de efectos que pueden derivarse del acceso descontrolado a modelos de IA potentes, o incluso a modelos pequeños de código abierto, que se han difundido libremente, no sé qué lo hará.
Y esto nos lleva al Pilar n.º 3.
Lo mejor que podemos hacer ahora mismo es no enredarnos en un intento por forjar un acuerdo radical entre las empresas de IA estadounidenses y chinas para frenar el desarrollo de sus modelos de vanguardia.
Eso, sencillamente, no sucederá pronto.
Lo mejor que podemos hacer ahora mismo es que las dos superpotencias de la IA —Estados Unidos y China— se unan con sus empresas y desarrollen una «defensa contra las amenazas que ya han demostrado actores deshonestos que han adquirido herramientas de IA y comportamientos maliciosos de sistemas de IA que ya han sido desarrollados», dijo Mundie, quien ha formado parte del diálogo entre expertos en IA de Estados Unidos y China para gobernar la inteligencia artificial.
Debemos hacer esto, señaló Mundie, antes de que estos modelos cada vez más poderosos se afiancen en internet y se conviertan en una amenaza incontrolable al integrar sus agentes en servidores privados y nubes públicas, donde seguirán existiendo como amenazas persistentes avanzadas.
Lo que nos lleva al Pilar n.° 4.
Tras una reciente visita a China, Mundie relató la pregunta que le hizo un funcionario chino:
«Si algún día un robot humanoide con IA de fabricación china llegara a Estados Unidos, ¿necesitaría visado?».
Bueno, ya saben que a menudo se dice la verdad en broma.
La verdad, según Mundie, es que «la IA no es solo una nueva tecnología. Es una nueva especie, aunque basada en silicio, no en carbono como nosotros.
Es como una nueva clase de inmigrantes que han llegado a nuestras costas en gran número, con habilidades totalmente nuevas, que tendremos que integrar en nuestras sociedades y con las que tendremos que aprender a coexistir».
Lograrlo de manera efectiva es un desafío a escala planetaria que solo puede abordarse mediante la colaboración de las dos superpotencias de la IA.
Pasos
En resumen, Mundie afirmó que debemos seguir tres líneas de acción interrelacionadas.
En primer lugar, si bien a largo plazo debemos esforzarnos por lograr un mayor control de los sistemas emergentes, «en este momento, debemos centrarnos exclusivamente en la creación de defensas para nuestras infraestructuras críticas.
Nuestra prioridad inmediata debe ser implementar contramedidas basadas en IA y cortafuegos digitales activos contra los ciberataques y las amenazas biológicas derivadas de actividades ilícitas impulsadas por la IA».
En segundo lugar, debemos desarrollar un sistema global para controlar las IA cada vez más potentes, independientemente de su origen, para poder confiar en que gestionen nuestras sociedades.
Este es un proyecto a largo plazo entre Estados Unidos y China, pero no puede comenzar demasiado pronto.
En tercer lugar, para recordar continuamente a la ciudadanía por qué la IA sigue siendo importante, Estados Unidos y China deberían emprender un proyecto conjunto desde ahora para construir una nueva plataforma que acelere la llegada de beneficios globales en biología y medicina que ayuden a todos.
Esta no es una estrategia sin precedentes.
Los competidores estratégicos, tanto empresas como países, tienen un historial de colaboración cuando les conviene.
China y Estados Unidos lo hicieron en la década de 1970, cuando ambos países reconocieron que se enfrentaban a una amenaza común por parte de la Unión Soviética.
Estadounidenses y soviéticos cooperaron durante décadas para controlar la proliferación nuclear porque comprendían que se enfrentaban a un riesgo mutuo.
Oye, Friedman, no lo entiendes.
Estados Unidos y China son hoy rivales geopolíticos y geoeconómicos mucho más directos, y siempre lo serán.
Jamás aceptarán el tipo de colaboración que propones en materia de IA, ni a corto ni a largo plazo.
La IA nos está catapultando a una nueva era en la historia de la humanidad.
Como bien dijo Mundie, la IA «lo va a cambiar todo», incluyendo la geopolítica.
Para su propia supervivencia, estabilidad y prosperidad, esto obligará a Beijing y Washington a replantearse por completo la competencia geopolítica.
Pueden averiguarlo pronto.
Pueden averiguarlo tarde.
Pueden averiguarlo antes de un colapso global o después.
Pero lo averiguarán, y Mundie y yo esperamos que ese proceso comience en Washington el 24 de septiembre, cuando el presidente Xi Jinping y Trump se reúnan en lo que seguramente será recordado como la primera cumbre de superpotencias de IA.
c.2026 The New York Times Company
