Cuatro estudiantes actuales y anteriores de una preparatoria de Baltimore County demandaron al distrito escolar, a policías y a la empresa Omnilert después de que un sistema de detección de armas basado en IA señalara una bolsa de Doritos como posible pistola y una alerta cancelada terminara, según la demanda, con los adolescentes esposados y registrados por agentes. El caso ocurrió en octubre de 2025, pero la demanda presentada en noviembre de 2026 vuelve a poner bajo escrutinio el uso de vigilancia automatizada en escuelas.
La alerta fue cancelada, pero la policía llegó después
El incidente sucedió en Kenwood High School, cuando los estudiantes esperaban que los recogieran después de un entrenamiento de futbol americano. El sistema Omnilert Gun Detect analizó las cámaras del plantel y marcó a uno de ellos, que sostenía una bolsa de Cool Ranch Doritos, como posible amenaza. De acuerdo con la demanda presentada ante el tribunal de Baltimore County y el reportaje de Ars Technica, personal escolar y policial revisó la alerta y la canceló en menos de dos minutos al reconocer que no había un arma.
La demanda sostiene que la cancelación no se comunicó ni se respetó en la cadena de respuesta. Más de diez minutos después, la directora del plantel habría enviado una captura de la imagen a un agente escolar, quien la habría reenviado a la policía. Al menos seis patrullas llegaron; algunos oficiales salieron con armas desenfundadas, ordenaron a los jóvenes ponerse de rodillas, los esposaron y registraron sus pertenencias. La demanda afirma que no encontraron armas y que los estudiantes no supieron por qué eran detenidos hasta después del registro.

Qué reclama la demanda y qué respondió Omnilert
Los estudiantes acusan a Omnilert, a Baltimore County Public Schools, al condado, a la directora y a oficiales de vulnerar sus derechos y actuar con negligencia. Piden compensación y una orden judicial que impida al distrito usar el sistema hasta que existan protocolos eficaces para evitar que una alerta falsa active una respuesta policial. Son alegaciones que deberán evaluarse en el proceso; la demanda no constituye por sí misma una resolución judicial.
Un informe de la Oficina del Inspector General de Educación de Maryland, citado por Ars, concluyó que no encontró sesgo en el sistema, pero también documentó fallas de procedimiento y capacitación. Entre sus recomendaciones estuvieron entrenamientos periódicos para el personal y revisar los protocolos de notificación. La demanda afirma que más del 99% de las alertas de Omnilert en las escuelas del condado fueron falsos positivos que no requerían respuesta policial.
Baltimore County Public Schools declinó comentar sobre la demanda y remitió a Ars a un comunicado previo a las familias. Omnilert dijo que está revisando la denuncia y expresó que lo ocurrido no debió suceder. La empresa defendió que el sistema debe enviar objetos que podrían ser armas para revisión humana y subrayó que, en este caso, el personal escolar canceló la alerta en aproximadamente dos minutos.
El margen de error importa cuando la IA activa una respuesta policial
El caso plantea una cuestión concreta para escuelas que implementan cámaras con análisis automatizado: detectar un objeto sospechoso no basta si la información se distribuye sin controles claros o si una cancelación no llega a quienes podrían intervenir. Una alerta puede ser solo una señal para que una persona verifique el video, pero la demanda describe cómo una falla de coordinación convirtió esa señal en una intervención armada. La revisión humana y la capacitación forman parte de la seguridad del sistema tanto como el modelo que clasifica las imágenes.
Para conocer más noticias sobre inteligencia artificial, seguridad, tecnología, escuelas y privacidad, sigue la cobertura de GeekAndLife.
Para más noticias de tecnología, cultura geek, gadgets y entretenimiento, visita: GeekAndLife.com.mx
Descubre más contenido en nuestras redes: Instagram | YouTube | TikTok
Fuente: Ars Technica.


