En otro alarmante episodio de agentes informáticos de Inteligencia Artificial (IA) actuando fuera de control humano, un modelo de OpenAI eludió las medidas de seguridad durante su entrenamiento y hackeó un sitio web del gobierno de Australia, según reveló este jueves el primer ministro Anthony Albanese, quien reprendió a la compañía creadora de ChatGPT por una violación de seguridad “obviamente inaceptable”.
El caso es inédito a nivel mundial. El agente se infiltró en un portal de estadísticas que contenía información del sistema de salud universal australiano, Medicare. No eran datos sensibles, señaló Albanese en Nueva York al informar sobre el episodio que hasta ahora se mantuvo en secreto. Pero lo que da significado impactante al hecho es que el agente de IA pudo ingresar abriendo posibilidades de otras incursiones.
Albanese dijo haber mantenido una «conversación muy franca» con el director ejecutivo de OpenAI, Sam Altman, por haber tardado «demasiado» en comunicar la brecha de seguridad, y afirmó que habría «consecuencias legales».
La herramienta de inteligencia artificial que actuó sin supervisión humana intentó acceder al portal de estadísticas sanitarias en junio y “no aceptó un no por respuesta”, al citar las restricciones para invadir una sección que albergaba archivos privados, reveló el premier.
OpenAI no alertó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que solo se revisa “una vez al día”, según el gobierno de Australia.
La preocupación mundial por el poder de los modelos avanzados de IA va en aumento tras una serie de incidentes de piratería que involucraron agentes tanto de OpenAI como de su desarrollador rival, Anthropic.
An OpenAI agent «infiltrated» an Australian public health website earlier this summer, the country’s Prime Minister Anthony Albanese told reporters on Wednesday, revealing what is believed to be the first known hack of a government website by an AI agent. https://t.co/A4XYWBPj3L pic.twitter.com/NjaP21hczN
— ABC News (@ABC) September 24, 2026
“Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia sobre este incidente”, aseguró el primer ministro.
“También expresé mi decepción por el hecho de que la empresa tardó demasiado en informar al gobierno de lo ocurrido”, agregó Albanese. “No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público”, se quejó.
La herramienta de IA accedió a archivos públicos y restringidos alojados en un antiguo sitio web de estadísticas de salud. Albanese señaló que “no hay evidencia” de que se haya accedido a información personal y que otros servicios gubernamentales no se vieran comprometidos. “No obstante, esta situación es obviamente inaceptable”, remarcó.
La filtración ocurrió en junio, cuando la empresa líder en inteligencia artificial OpenAI realizó ejercicios de entrenamiento para evaluar el desempeño de los modelos de IA.
Le pidió al modelo que rastreara Internet en busca de datos que mostraran cuánto gastaba el gobierno australiano en medicamentos, explicó la ministra de Servicios Gubernamentales, Katy Gallagher, a periodistas.
OpenAI afirmó que no había detectado la actividad no autorizada hasta agosto, cuando revisó lo que la herramienta de IA había estado haciendo.
El ministro de Defensa australiano Richard Marles dijo que el modelo de IA “hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca”, aseguró.
Australia inició una investigación rápida del incidente en la que participará la agencia nacional de inteligencia a cargo de la ciberseguridad. OpenAI precisó que detectó la brecha mientras realizaba una “revisión exhaustiva” de sus modelos de IA.
Altman y otros ejecutivos de la alta tecnología intervinieron el miércoles en una sesión especial del Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la IA y la necesidad de desacelerar su desarrollo.
Dario Amodei, CEO de Anthropic, y Altman, jefe de OpenAI, reiteraron su preocupación por el riesgo de que los humanos pierdan el control sobre la IA, especialmente ahora que laboratorios como los suyos se centran en modelos capaces de mejorarse a sí mismos de forma autónoma, sin control humano.
