Por Francisco Larez, Vicepresidente de Progress Software para América Latina y el Caribe.
Desde los procesos de automatización hasta los resúmenes de emails, es innegable que la inteligencia artificial se ha consolidado como una realidad irreversible en nuestra vida diaria. En México, 7 de cada 10 talentos afirman usar herramientas básicas de Inteligencia Laboral en su trabajo, según un informe realizado por Wework y PageGroup. A su vez, en el entorno empresarial, la IA se ha convertido en una base estratégica para la competitividad, prometiendo eficiencia mediante la automatización y el análisis avanzado de datos.
Sin embargo, a medida que se acelera su adopción, surgen algunos riesgos imprevistos. La seguridad de la IA no es un componente opcional: es el sistema inmunitario de la arquitectura digital. Dentro de la terminología que utilizan los expertos en la materia, podemos destacar vulnerabilidades como las filtraciones de datos mediante prompts, los “ataques de inyección”, las “alucinaciones” que generan hechos ficticios convincentes. Además los sesgos y los modelos no auditables representan no solo fallas técnicas, sino también problemas de diseño, que se agravan cuando la IA opera sin una gobernanza integrada.
Estas amenazas se materializan de forma crítica: los prompts manipulados pueden extraer secretos comerciales; los “ataques de inyección” redirigen los sistemas para ejecutar tareas maliciosas; y las “alucinaciones” generan decisiones basadas en premisas inexistentes. Cada fallo compromete no solo los resultados, sino también la credibilidad de la organización.
Los costos de la negligencia están alcanzando niveles estratosféricos. Si bien la IA aporta entre 2.6 y 4.4 billones de dólares a la economía mundial, según datos del McKinsey Global Institute, los fallos ocasionales causan daños colosales. En 2023, Alphabet (Google) perdió 100.000 millones de dólares en valor de mercado después de que su modelo Gemini (entonces Bard) atribuyera erróneamente la primera imagen de un exoplaneta al telescopio James Webb, una hazaña lograda en 2004 por otro instrumento. Este episodio demuestra que la supervisión humana es innegociable en tareas críticas.
El 60% de empresas en América Latina están incorporando IA en sus operaciones, según un estudio de NTT DATA. Sin embargo, aún hay mucho trabajo por hacer a la hora de verificar la calidad de los contenidos generados por esta tecnología. Por citar un ejemplo regional, el informe de McKinsey «IA en Brasil: Aceleración y Desafíos», asegura que solo el 36% de las organizaciones revisa sistemáticamente todo el contenido generado por esta herramienta antes de usarlo.
La tecnología es la base, mientras que la arquitectura determina la fiabilidad. Por ejemplo, la Generación Aumentada de Recuperación (o RAG, por sus siglas en inglés), un método que ancla las respuestas de IA en un centro interno de datos seleccionados, protegidos por estrictos factores de seguridad y organizados semánticamente, garantiza una precisión superior al 98%, lenguaje corporativo y eliminación de riesgos.
Este enfoque ofrece seguridad por diseño con estricto control de acceso, implementación inmediata de SaaS y retroalimentación humana continua, bloqueando amenazas como enlaces maliciosos o desinformación, a la vez que multiplica la productividad de forma ética y validada, demostrando que una IA segura no es un lujo, sino un imperativo para la supervivencia digital.
El impacto trasciende las métricas financieras. Al aplicar este contexto a ejemplos prácticos, como cuando los agricultores reciben orientación para sus cultivos basada en datos reales del suelo o cuando los hospitales emiten informes sin información falsa, la IA cumple su promesa social.
La IA no es infalible, pero se vuelve transformadora cuando se basa en arquitecturas confiables. Las alucinaciones o los riesgos de seguridad o privacidad persistirán; el desafío, especialmente para quienes participan directamente en su desarrollo y aplicaciones, es detectarlos antes de que ocurran y mitigar su impacto. El éxito depende menos de la tecnología en sí y más de cómo las empresas estructuran su implementación para equilibrar la innovación, la seguridad y la responsabilidad.
La arquitectura no es un detalle: es la respuesta.
Para más noticias de tecnología, cultura geek, gadgets y entretenimiento, visita: GeekAndLife.com.mx
Descubre más contenido en nuestras redes: Instagram | YouTube | TikTok
Fuente: PR