Un experimento de seguridad que sembró cerca de dos millones de “canarios” digitales en solicitudes enviadas a proveedores de inteligencia artificial encontró credenciales y otros datos sensibles circulando por la cadena de servicios que procesa las consultas. La investigación, realizada por HD Moore, chief research officer de Dragos, muestra que una petición puede pasar por routers de IA, revendedores, modelos y proveedores de nube, y que cada eslabón puede manejar información descifrada. Ars Technica reportó los hallazgos.
Los canarios eran secretos únicos y rastreables: llaves de acceso de AWS vinculadas a cuentas vacías, credenciales de servicios, contraseñas de SSH, direcciones web y referencias a repositorios privados. Moore controlaba la infraestructura asociada a esos datos y colocó cada uno en una sola solicitud para identificar si reaparecía y, en tal caso, en qué tramo del recorrido.
Las solicitudes recorren varios intermediarios
Muchas aplicaciones no se conectan directamente a un solo modelo. En su lugar, recurren a servicios intermediarios como OpenRouter o Vercel, conocidos como routers o gateways de IA, que reciben los prompts y los envían a uno o varios modelos según disponibilidad, costo o capacidad. Aunque la información viaja cifrada por internet, cada servicio necesita leerla para procesarla y decidir dónde enviarla. Por eso, los datos pueden quedar expuestos a registros, almacenamiento y sistemas de terceros.
Ars Technica resumió tres tipos de problemas observados: indicios de que atacantes obtuvieron acceso a por lo menos tres proveedores y copiaron prompts; revendedores que registraban solicitudes y terminaron exponiendo credenciales; y casos en que proveedores no respetaron opciones de privacidad como “Zero Data Retention” o “no data collection”. Esos señalamientos provienen del experimento de Moore y no significan que cada proveedor o servicio de IA incurra en las mismas prácticas.
Llaves de prueba terminaron usadas en AWS
En los incidentes descritos, algunas credenciales de prueba fueron reutilizadas por terceros que habían comprometido proveedores de alojamiento. Según el investigador, actores maliciosos probaron las llaves para buscar recursos de AWS como depósitos S3, administradores de secretos y almacenes de parámetros; también intentaron habilitar modelos alojados en Bedrock y añadir usuarios propios a cuentas. Las llaves señuelo aparecieron después en decenas de miles de llamadas a las API de AWS, aunque estaban asociadas a cuentas vacías.
Otro hallazgo preocupante fue que ciertos sistemas visitaron URLs secretas incluidas en prompts. Un laboratorio de IA habría recuperado más de la mitad de las direcciones sembradas entre julio y octubre, incluidas alrededor de dos terceras partes de las solicitudes marcadas para no recopilar datos o aplicar retención cero. Algunas solicitudes pasaron por revendedores estadounidenses, pero la actividad posterior mostró que podían llegar hasta sistemas vinculados a los modelos originales.
La investigación advierte que una preferencia de privacidad no protege frente a una intrusión que ya ocurre dentro del proveedor o de un intermediario. Para organizaciones que no pueden alojar modelos en infraestructura propia, Moore sugiere contratar directamente a proveedores de primer nivel, revisar sus políticas y evitar pools automáticos de revendedores cuando sea posible. Aun así, no hay garantía absoluta de que ningún dato se filtre.
El caso sirve como recordatorio para no introducir contraseñas, llaves, datos de clientes o referencias privadas en herramientas de IA sin entender quién procesa las solicitudes y cómo se almacenan. El riesgo depende de toda la cadena, no únicamente del modelo que genera la respuesta. La amplitud del experimento también muestra por qué una marca de “retención cero” debe contrastarse con las prácticas técnicas y de seguridad de cada intermediario.
Lee más sobre inteligencia artificial, ciberseguridad, privacidad digital, AWS y filtraciones de datos en GeekAndLife.
Para más noticias de tecnología, cultura geek, gadgets y entretenimiento, visita: GeekAndLife.com.mx
Descubre más contenido en nuestras redes: Instagram | YouTube | TikTok

Fuente: Ars Technica


