El cofundador de Microsoft, Bill Gates, advirtió que la inteligencia artificial (IA) es una herramienta «lo suficientemente potente» como para terminar con una parte considerable de la humanidad.
«La IA es sin duda lo suficientemente potente como para provocar acontecimientos que, ya sabes, causen mil millones de muertes«, afirmó Gates en un adelanto de una entrevista con NBC, que se emitirá este fin de semana. «Nunca ha habido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA«, agregó.
En un texto difundido en agosto, el empresario ya había afirmado que los malintencionados podrían utilizar herramientas de IA cada vez más potentes para llevar a cabo ciberataques, fraudes, desinformación y otras formas de daño a gran escala contra hospitales, instituciones financieras, redes eléctricas y sistemas gubernamentales.
Gates se suma así a un grupo de líderes tecnológicos cada vez más grande -que incluyen a Dario Amodei (CEO de Anthropic), Sam Altman (OpenAI), Elon Musk, entre otros- que están avisando sobre los riesgos de la IA que ellos mismos ayudaron a impulsar.
Pero el empresario fue aún más allá y afirmó: «Nadie cree que la autorregulación sea suficiente».
«Es necesario que las fuerzas del orden y los políticos se sumen al debate sobre cómo deben ser las medidas de seguridad y la supervisión. Eso tiene que ser obligatorio», agregó.
El debate por la seguridad de la IA se instaló hace dos semanas cuando Jacob Coxon acusó a sus dos exempleadores, Anthropic y OpenAI, de «jugar con nuestras vidas» al «lanzarse a la carrera hacia una IA superinteligente«. Otro empleado de Anthropic, Evan Hubinger, afirmó que cree que hay más de un 10% de probabilidades de que la IA elimine a toda la humanidad en la próxima década.
La viralización de los tuits de Coxon y Hubinger generó pedidos dentro de la propia industria para regular la tecnología. Amodei ha instado a ralentizar el desarrollo de la IA, una propuesta que rápidamente recibió el apoyo de figuras del sector como Altman y Musk.
En ese sentido, Gates dijo: «Sí creo que las personas que dirigen los laboratorios, sobre todo a juzgar por sus últimas declaraciones, son totalmente sinceras. Les gustaría reducir el ritmo«.
Este miércoles, Amodei advirtió ante el Consejo de Seguridad de la ONU que los riesgos asociados a los modelos más avanzados de IA constituyen «el problema de seguridad global más importante al que se enfrenta el mundo hoy» y reclamó una respuesta internacional coordinada.
«Ningún líder, ninguna empresa y ninguna nación puede gestionar esto solo. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial», subrayó.
Amodei planteó una serie de medidas que se podrían llevar a cabo, como la prohibición del uso de la IA para la proliferación o fabricación de armas biológicas; la implementación de sistemas de evaluación avanzados; la adopción de estándares globales; y la creación de un protocolo de notificación obligatoria ante «incidentes significativos para la seguridad global».
Altman también se presentó ante el Consejo de Seguridad de la ONU y advirtió: “Podríamos perder el control del futuro ante la IA”.
Del otro lado, el CEO de Meta, Mark Zuckerberg, ha defendido el desarrollo de la IA para «empoderar a las personas» y dijo que la mejor manera de un futuro seguro es no concentrar el control de esa tecnología en pocas manos.
El presidente de los Estados Unidos, Donald Trump, ha rechazado «cualquier intento de construir un proyecto globalista para controlar la inteligencia artificial». «Cada nueva gran tecnología trae desafíos, y la superinteligencia [como empezó a llamar en los últimos días a la IA] no es la excepción», dijo el republicano.
