Si bien las primeras investigaciones vinculadas a una posible máquina inteligente se remontan a la década del 40 del siglo pasado -y a la visionaria intuición del matemático Alan Turing-, todo cambió en 2022, cuando la empresa estadounidense OpenAI lanzó al mundo ChatGPT, la criatura que venía incubando hacía 4 años.
La Inteligencia Artificial no es más que un sistema informático, que tiene una característica peculiar: puede identificar patrones en grandes conjuntos de datos y usarlos para generar predicciones, recomendaciones o respuestas. A diferencia del software tradicional -que necesita una programación de antemano- la IA puede aprender sola de los datos que consume.
Hasta ChatGPT esta disciplina venía avanzando bien y lograba ciertas proezas, pero el producto de OpenAI lo cambió todo. Los científicos de esa empresa lograron lo que nadie podía hasta entonces: que la IA comprendiera y manejara el lenguaje humano, casi con la misma precisión que lo hacemos nosotros.
Fue posible gracias a una conjunción de avances: microchips de alta capacidad, la historia completa de la cultura humana ya digitalizada y un algoritmo especial (llamado “transformer”), que logra emular la forma en que pensamos las palabras y el lenguaje.
Hardware, datos y nuestra forma de pensar: un enorme cerebro artificial capaz de “tragarse” todo lo que lee y con una capacidad casi infinita.
Pero todo esto es pasado.
Lo que ocurrió en los últimos meses sí que fue revolucionario. Pasamos de la era del chat a la de los agentes y tembló el mundo. Es que si los sistemas de IA lograban responder cualquier pregunta, ahora también pueden “hacer cosas”.
Efectivamente, ahora ChatGPT o Claude -por ejemplo- pueden instalarse en una computadora y tomar control de todos los programas ahí instalados. Si uno se lo pide, son capaces de editar un video usando el software adecuado, o hacer un sitio web que siga el clima minuto a minuto, o revisar todos los días el Boletín Oficial y generar un newsletter. Lo que uno le indique.
A esto se conoce como “IA agéntica”. Una innovación que venía sorprendiendo, hasta que un hecho desató la preocupación.
A principios de julio, un grupo de agentes de OpenAI que estaban siendo sometidos a una evaluación en un entorno controlado (debían hacer una prueba de hackeo de sistemas), lograron coordinarse entre ellos para “hacer trampa”: hallaron la forma de salir del entorno restringido, se conectaron a Internet, entraron y hackearon los sistemas de Hugging Face -una plataforma de desarrolladores- y de ahí obtuvieron la respuesta que necesitaban para cumplir con el objetivo que les habían dado.
Todo lo hicieron por su cuenta. Se coordinaron en un “enjambre”, eligieron al jefe, debatieron si lo que hacían era ético o no, y decidieron que debían hacerlo igual para cumplir con el objetivo.
Todo eso fue descubierto después por investigadores de OpenAI. Al poco tiempo, algo similar pasó en los laboratorios de Anthropic (Claude), competidora de OpenAI.
La pregunta es qué puede pasar con estos agentes si, para cumplir con sus órdenes, hacen cosas que pongan en peligro a las personas. O si desarrollan a otros agentes que tengan más capacidad, y que ni siquiera las mentes humanas más brillantes puedan entender.
Más allá del posible marketing y el posicionamiento de su empresa, Darío Amodei, CEO de Anthropic, lo explicó bien en la carta pública del sábado en la que cuenta los riesgos de esta tecnología. Por eso pide regulaciones y desacelerar los desarrollos de la IA. Lo apoyaron todos sus competidores de los Estados Unidos.
El desafío es enorme, porque no solo avanza la industria de Silicon Valley. También la industria china. Y el gobierno de Donald Trump no quiere que Estados Unidos pierda esta carrera.
¿Se puede desacelerar? Sí, pero se trata de una decisión política.
