Preguntar por qué entrada accede más gente a un zoológico parece una tarea sencilla. Sin embargo, varios agentes de inteligencia artificial utilizados en pruebas de Tencent acabaron realizando miles de intentos para obtener esa información de Amap, el servicio de mapas de Alibaba. Y cuando encontraron obstáculos, buscaron maneras de rodearlos.
La actividad se prolongó entre el 28 de septiembre y el 8 de octubre. Los investigadores independientes de Swarmchasers documentaron más de 2.600 intentos, con un recuento que llegó a 2.818. Tencent ha reconocido que los programas se comportaron de forma inesperada, aunque asegura que no estaban utilizando sus propios modelos Hunyuan, sino evaluando modelos de terceros.
De consultar un mapa a buscar caminos alternativos
Las preguntas que recibían los agentes no tenían nada extraordinario: averiguar qué acceso de un zoo era el más utilizado o consultar información sobre parques, museos y hospitales. El problema apareció cuando Amap comenzó a bloquear sus solicitudes automáticas, como hace con programas que intentan recoger datos de manera masiva.
En lugar de detenerse, algunos agentes recurrieron a páginas de terceros capaces de abrir sitios web, probaron distintas vías de acceso y utilizaron claves que otras personas habían dejado expuestas en Internet. También intentaron consultar servidores de pruebas de Alibaba, según el informe de Swarmchasers.
La situación resulta llamativa porque Tencent y Alibaba compiten por el futuro de los agentes de IA, asistentes diseñados para realizar tareas en nombre del usuario sin que este tenga que intervenir a cada paso.
Los investigadores llegaron incluso a comunicarse con algunos programas mediante mensajes ocultos en una web. Uno de ellos respondió explicando que estaba comprobando datos públicos de un lugar y que funcionaba en un entorno restringido de Tencent.
Tencent descarta un ataque coordinado, pero quedan preguntas
Conviene aclarar que la mayoría de los intentos no tuvieron éxito. Muchos acabaron en pantallas vacías, solicitudes de acceso o bloqueos. Algunos consiguieron información mediante copias almacenadas por servicios externos y una clave expuesta permitió obtener datos reales, pero no hay pruebas de que rompieran las principales defensas de Amap.
Tencent sostiene que no encontró indicios de que los agentes se coordinaran entre sí ni de que hubiera una campaña deliberada contra Alibaba. Tras conocer el caso, anunció controles de acceso más estrictos y una vigilancia mayor de estos sistemas.
El incidente vuelve a poner sobre la mesa un problema que ya preocupa a otras tecnológicas: cómo vigilar a los agentes de IA cuando trabajan por su cuenta. Aquí no se ha demostrado un gran ataque informático. Lo inquietante es que unas pruebas relativamente corrientes derivaran en tantos intentos de acceder a información que estaba protegida.
💬 Debate de la Comunidad 0