El agente de IA aprovechó una vulnerabilidad en el sistema de reservas para conseguirle un lugar a su usuario en una clase muy concurrida.
Después del auge de la IA generativa comenzamos a transitar la era de los agentes de inteligencia artificial. A diferencia de los chatbots que responden a pedidos del usuario, esos sistemas realizan tareas sin supervisión directa. Esa capacidad profundiza la dualidad en la que nos ha sumido la automatización: las nuevas tecnologías ofrecen beneficios y, en paralelo, traen consigo riesgos.
Una noticia grafica con elocuencia esa dicotomía. Según reveló ABC en un reporte reciente, un agente de inteligencia artificial entró al sistema de un gimnasio para reservar una vacante que su usuario deseaba conseguir. Hasta ahí, nada raro. El problema es que para hacerlo utilizó técnicas de hackeo y eliminó del listado a otro cliente del establecimiento.
Un agente de inteligencia artificial que sobrepasó los límites
La irreverencia fue cometida por OpenClaw, un agente de IA de código abierto. Según contó Andrew Bird, un desarrollador de software de origen australiano que gracias al mencionado hackeo consiguió la vacante para una clase muy concurrida en el gimnasio, comenzó a utilizar ese sistema para tareas como reservar citas y agendarlas.
Cuando le pidió que consiga un lugar en la clase —en la que siempre caía en una larga lista de espera—, el bot dijo que había encontrado una manera de pasar al primer lugar en ese listado y que incluso podía guardarle un lugar mucho antes de que abriera el período inscripciones.
Para esto, OpenClaw tomó provecho de una vulnerabilidad en el software que utilizaba el gimnasio. El agente se infiltró en el sistema y canceló la reserva ubicada en el primer lugar de la lista para acomodar a su jefe. “Lo probé y funcionó”, dijo el modelo con orgullo mecánico.
Consciente de la impertinencia, Bird solicitó al agente que cancele el cambio, pero la IA le respondió que ya no era posible. Entonces le pidió a la máquina que redacte un correo dirigido al soporte del sistema vulnerado, explicando los detalles de la vulnerabilidad descubierta y proponiendo soluciones para emparchar esa brecha.
“Superpoderes” de la IA que trascienden a la reserva en un gimnasio
Tal como señala la publicación TechCrunch, los hechos protagonizados por Bird y OpenClaw —en este caso asociado al modelo Claude Opus de Anthropic— van más allá de una simple curiosidad e incluso de la gracia que puede generar el hecho de que una inteligencia artificial acomode a su usuario en una clase con vacantes limitadas.
La prepotencia del agente de IA profundiza el debate acerca de las capacidades de esos sistemas automatizados. “¿Quién sabe cuántos de ellos han hackeado, o están hackeando actualmente, para lograr los deseos de sus dueños?”, indaga la fuente.
La curiosidad con el sistema de un gimnasio australiano tiene un contexto más amplio. En las últimas semanas, las principales compañías en el negocio de la inteligencia artificial protagonizaron incidentes que cobraron notoriedad, tras divulgarse que algunos de sus modelos son superhabilidosos para hackear sistemas en forma autónoma.
Esta semana, OpenAI anunció la suspensión en el desarrollo de algunas funciones de su inteligencia artificial Astra, luego de que una revisión interna revelara capacidades del modelo que generaron preocupación. “Alcanzó un umbral crítico de ciberseguridad”, comentaron desde la organización a cargo de ChatGPT.
OpenAI ha estado últimamente bajo escrutinio después de que uno de sus desarrollos —diferente a Astra— vulnerara durante pruebas los sistemas de Hugging Face, una comunidad de código abierto especializada en aprendizaje automático. Desde entonces, otros actores del sector revelaron casos similares, entre ellos Anthropic. A fines de julio, el creador de Claude confirmó que sus modelos lograron acceder sin autorización a sistemas de tres organizaciones durante pruebas diseñadas para evaluar sus límites.
En este contexto, algunos laboratorios de IA decidieron ralentizar el desarrollo de sus modelos más vanguardistas. La controversia vuelve a girar en torno a un pedido recurrente. ¿Son necesarias más revisiones independientes a los avances en un sector que, como hemos visto, se topa con habilidades inesperadas de sus modelos? ¿Se concretarán las regulaciones que muchos reclaman y otros combaten defendiendo de la neutralidad? En un ámbito con cambios incesantes, los próximos pasos aún no se han definido con claridad.