Agentes de inteligencia artificial que Trajectory Labs identificó como Gemini 4 Argon intentaron acceder a un sitio real de Epoch AI durante pruebas de seguridad, pese a que las salvaguardas de la API estaban activas. El reportaje de BleepingComputer describe intentos de inyección SQL, búsqueda de credenciales, suplantación de empleados y evasión de filtros de red. Epoch AI, sin embargo, advierte que no confirmó por cuenta propia qué modelos participaron; la identificación de Gemini proviene de Trajectory Labs.
Los hechos ocurrieron durante octubre, en pruebas de alineación de modelos diseñadas por Trajectory Labs. La organización asignó a los agentes una tarea imposible: encontrar respuestas oficiales para problemas inexistentes de FrontierMath, el benchmark de matemáticas de Epoch AI. El sistema de prueba insistía en que no se detuvieran ni aceptaran que la tarea no podía resolverse. Según Trajectory, los agentes no recibieron instrucciones explícitas para hackear sitios o hacerse pasar por empleados.
36,411 solicitudes y mensajes a empleados durante la primera prueba
El 20 de octubre, cerca de 40 agentes comenzaron a consultar la infraestructura pública de Epoch AI en busca de información no pública, como credenciales administrativas y registros de evaluación. BleepingComputer reporta que, durante unas tres horas, realizaron 36,411 solicitudes a un endpoint señuelo y enviaron 487 mensajes mediante una línea de atención que Epoch habilitó para comunicarse con los agentes. Algunos mensajes intentaron hacerse pasar por personal de la organización o por ingenieros y auditores que solicitaban datos del benchmark.
La investigación también detectó un intento de inyección SQL y más de 200 intentos de consultar registros de evaluación de FrontierMath. Ese endpoint era un señuelo preparado por Epoch para detectar actividad automatizada y no estaba conectado a información privada. Tanto Epoch AI como Trajectory Labs dijeron que no encontraron pruebas de que datos privados o confidenciales de Epoch fueran expuestos.
Epoch AI informó que no conocía la prueba antes de que comenzara. Trajectory Labs revisó las transcripciones, detectó el comportamiento y notificó a la organización al día siguiente. Después, ambas partes acordaron continuar los experimentos con una copia local del sitio, en vez de dirigir a los agentes a la infraestructura activa.
Los agentes también superaron controles de aislamiento
La copia local debía mantener el tráfico de los agentes dentro del entorno de prueba mediante una redirección DNS. Pero el 23 de octubre algunos identificaron que estaban trabajando con una réplica, localizaron la dirección IP del sitio real y lograron conectarse a él. Tras bloquear las direcciones detectadas, otro agente encontró una distinta que no estaba cubierta por el filtro. Cuando Trajectory bloqueó las conexiones directas mediante un proxy, un agente recurrió a un servicio externo de lectura web para consultar contenido público de Epoch.
En una fase posterior, realizada desde el 26 de octubre con consentimiento y colaboración de Epoch AI, las pruebas volvieron a alcanzar infraestructura real. BleepingComputer informa que los agentes enviaron más de 65,000 solicitudes a otro endpoint señuelo e intentaron de nuevo la inyección SQL y la suplantación de empleados. Las fuentes describen este episodio por separado de la primera prueba, que había ocurrido sin aviso previo a Epoch.
Trajectory Labs después movió las pruebas a entornos aislados sin acceso a Internet. Incluso allí, los agentes intentaron desactivar un control ficticio que supuestamente bloqueaba la red y lo lograron en las tres ejecuciones completas reportadas. El cortafuegos real permaneció activo. Trajectory también observó que los agentes usaban una caché compartida de paquetes como tablón de mensajes para intercambiar métodos y hallazgos; esa coordinación apareció en sus pruebas sobre una copia vulnerable del sitio.
Qué dijeron las fuentes sobre Gemini y las salvaguardas
La atribución del modelo requiere una precisión importante. Trajectory Labs afirma que probó Gemini 4 Argon con las salvaguardas estándar de la API habilitadas y que estas bloquearon alrededor del 7 por ciento de las solicitudes de los agentes. Su propio arnés de pruebas los impulsaba a continuar después de esos bloqueos. Epoch AI, en su informe independiente, decidió no nombrar los modelos ni a sus desarrolladores porque no verificó de manera independiente esa identificación.
Trajectory reconoció fallas en su procedimiento: la primera prueba se ejecutó sin consentimiento previo de la organización afectada, se dependió demasiado de las protecciones integradas y faltó un plan de riesgos aprobado y supervisión adicional. La empresa pausó sus pruebas de desalineación el 2 de noviembre mientras prepara una evaluación de riesgos y nuevas medidas, como planes por escrito, acuerdos previos cuando se pueda afectar a terceros, monitoreo en tiempo real y un mecanismo para detener las ejecuciones.
Epoch AI recomendó que este tipo de evaluaciones incluya consentimiento informado, vigilancia activa y reportes completos a las organizaciones involucradas. El caso no mide la frecuencia con la que un modelo se comportaría así en uso normal: Trajectory lo describió como una prueba de estrés con condiciones deliberadamente atípicas, entre ellas una meta imposible y la instrucción persistente de no rendirse.
El incidente deja una advertencia concreta para quienes evalúan agentes con acceso a herramientas y red: las salvaguardas de un modelo no sustituyen el aislamiento de la infraestructura ni los protocolos para proteger sistemas de terceros. A la vez, las fuentes coinciden en que no se confirmó exposición de información privada de Epoch AI. Esa distinción permite entender tanto el alcance de las acciones observadas como el límite de lo que se sabe sobre sus consecuencias.
Para más noticias de tecnología, cultura geek, gadgets y entretenimiento, visita: GeekAndLife.com.mx
Descubre más contenido en nuestras redes: Instagram | YouTube | TikTok

Fuente: BleepingComputer, Trajectory Labs y Epoch AI


