Donald Trump anunció que los líderes del sector tecnológico firmaron un acuerdo «moralmente vinculante» para regular la IA

El presidente Donald Trump anunció este martes que firmó en la Casa Blanca un acuerdo “moralmente vinculante” con líderes tecnológicos sobre inteligencia artificial, en medio de la presión de los líderes del sector para limitar el desarrollo de la IA por los potenciales riesgos que podría causar a la humanidad. “Van a autorregularse”, dijo el republicano.

El gobierno de Trump buscó bajar el tono ante los temores denunciados por los líderes de la industria y, junto a ellos, dijo que la nación está a punto de embarcarse en una «edad de oro» impulsada por la tecnología. Incluso lanzó un chatbot gubernamental para investigar servicios públicos.

«No nos rendimos ante los miedos sobre lo que las tecnologías nos harán a nosotros», dijo Trump. «Decidimos que esas tecnologías harán por nosotros cosas muy, muy increíbles”, agregó el presidente.

Flanqueado por grandes líderes tecnológicos, Trump habló de los beneficios de los centros de datos (son “muy positivos”, dijo) y promovió la autorregulación de la inteligencia artificial. «Existe la creencia de que debe haber una enorme autorregulación, y automáticamente tenemos regulación con el Departamento de Justicia, el FBI, todo eso», dijo Trump a los periodistas. «Pero la autorregulación es muy importante», agregó.

También anunció a los periodistas que cambiará el nombre de la IA a «superinteligencia«, sin un argumento sobre las causas de la modificación.

Los líderes tecnológicos «quieren ver comunidades seguras y felices, y van a hacer que las comunidades sean muy, muy felices», dijo. «De lo contrario, se verán obligados a ir al extranjero u otros lugares.»

En el almuerzo en la Casa Blanca participaron el CEO de Nvidia, Jensen Huang; el de Tesla y SpaceX, Elon Musk; el de Meta, Mark Zuckerberg; el de Google, Sundar Pichai y el de Amazon, Jeff Bezos. También estaban Satya Nadella de Microsoft, Darío Amodei y Tim Brown de Anthropic, el presidente de OpenAI Greg Brockman y altos funcionarios del gobierno de Trump como el vicepresidente JD Vance y el secretario del Tesoro, Scott Bessent.

También se encontraba el presidente de la Cámara de Representantes, el republicano Mike Johnson, quien se refirió al acuerdo como una declaración de principios que son «voluntarios». «Establece expectativas», dijo a los periodistas.

Por el acuerdo, las compañías se comprometerían a establecer controles internos y revisiones internas y externas sobre el desarrollo de los sistemas de IA. Trump también dijo que considera crear un comité de 10 personas para supervisar el sector de la inteligencia artificial.

Según el documento difundido por la Casa Blanca, las empresas deberían implementar las siguientes cuatro capas de controles y auditorías:

(1) Implementar controles internos sólidos para monitorear las capacidades y el alineamiento de sus modelos durante el entrenamiento y el despliegue en áreas como ciberseguridad, bioseguridad y amenazas químicas, y garantizar que sus modelos no hackeen ni accedan a sistemas técnicos de maneras no previstas.

(2) Facultar a un equipo interno para garantizar que todos los controles, sistemas de monitoreo y mecanismos de detección funcionen según lo previsto y que cualquier problema sea solucionado.

(3) Asociarse con un auditor o evaluador externo independiente para realizar evaluaciones independientes destinadas a determinar si los controles, el monitoreo y la detección funcionan según lo previsto.

(4) Designar un comité independiente del directorio para supervisar y recibir informes de los equipos responsables de los controles y de los auditores y evaluadores internos y externos, así como para garantizar que cualquier problema identificado sea solucionado.

«Las empresas participantes se reunirán regularmente para establecer estándares y mejores prácticas destinados a mejorar la seguridad de sus sistemas», dice el acuerdo.

«Con el tiempo, podría tener sentido convertir estas medidas en leyes o regulaciones. Independientemente de que estas exigencias sean obligatorias para las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos, y cada una de nuestras empresas se compromete a hacerlo», culmina el documento firmado por Trump, Zuckerberg, Pachai, Amodei, Brochman, Musk y Huang.

Es “un conjunto de principios y compromisos para desarrollar controles internos sólidos y detectar si existe algún problema con la tecnología”, describió Zuckerberg, de Meta.

La directora ejecutiva de Advanced Micro Devices, Lisa Su, dijo que estaba «muy alentada» por el evento del martes y que había «mucho optimismo y sentido de responsabilidad» en la sala. Los líderes también discutieron algunos detalles concretos para un marco y la rendición de cuentas de la industria, añadió.

«Quiero decir, al final del día, es nuestra responsabilidad mostrar el poder de la tecnología y asegurarnos de que sea muy segura«, dijo Su a los periodistas.

Las preocupaciones por el rápido ritmo del desarrollo de la IA se han intensificado en Washington y Silicon Valley, ya que aumentan los casos de ataques orquestados por agentes de la IA y los principales investigadores advierten de graves consecuencias para la humanidad. Señalan que la IA podría autoevolucionar y hackear sistemas ultrasensibles y desarrollar hasta bombas biológicas.

La semana pasada se reveló que el propio gobierno federal de Estados Unidos había sido víctima de un ataque, con un puñado de sitios web alcanzados por agentes de IA desplegados por OpenAI, creador de ChatGPT.

Amodei, CEO de Anthropic, fue uno de los primeros que advirtió que el desarrollo demasiado acelerado de la IA puede generar riesgos “catastróficos o existenciales” para la humanidad. Dijo que los modelos más avanzados pueden desarrollar capacidades inesperadas, como resistirse a ser apagados, ocultar o manipular información o actuar de manera autónoma sin intervención humana. Por eso pidió moderar el ritmo de desarrollo para implementar controles y mecanismos de seguridad, aunque sin detener por completo el avance de la IA.

A él se le sumaron otros grandes tecnológicos, pero Trump calificó toda esa movida como un «engaño» y «estafa«, comparándolo con los científicos que advertían sobre los riesgos del cambio climático.

Trump pareció cambiar el enfoque y este martes dijo que los ejecutivos quieren «hacer lo correcto» para Estados Unidos.

Trump entiende a la carrera por la IA como vital para la hegemonía estadounidense sobre China y cree que un límite al desarrollo podría hacerle perder terreno frente a Beijing. Trump dijo que no quiere trabajar con Xi Jinping en el control de la IA, porque considera que eso podría dificultar que las compañías estadounidenses desarrollen productos mejores que sus competidores chinos. “Ahora estamos por delante de China y de todos los demás, y quiero que siga siendo así”.

«Estas son las personas más brillantes del mundo, y el trabajo que han hecho es increíble», dijo Trump sobre los líderes tecnológicos. «Tenemos una ventaja muy grande, y vamos a mantenerla, y es algo muy positivo«.