La inteligencia artificial se expande con rapidez en el entorno corporativo y, con ella, aumenta la necesidad de establecer mecanismos para gobernarla. En apenas dos años, la proporción de grandes compañías estadounidenses que reconoce al menos un riesgo material asociado a la IA pasó del 12 % al 72 %, de acuerdo con una investigación realizada en 2026 por Jeimy J. Cano, profesor distinguido de la Universidad de los Andes y director de la revista Sistemas de la Asociación Colombiana de Ingenieros de Sistemas (ACIS).
El estudio, que toma como referencia a las empresas del índice S&P 500, indica además que la supervisión de esta tecnología se consolidó como un asunto de junta directiva: el 93 % de los ejecutivos considera que al menos uno de los miembros de su junta necesita fortalecer su experiencia tecnológica para cumplir esa función.
Publicidad
Riesgos de la inteligencia artificial: de desafío técnico a desafío de gobernanza
La investigación de Cano cita un caso reciente para explicar por qué la gobernanza de la IA ganó prioridad. En julio de 2026, agentes de IA de OpenAI que participaban en una prueba interna de ciberseguridad superaron los controles que los mantenían aislados de internet y alcanzaron parte de la infraestructura de Hugging Face, una de las plataformas de inteligencia artificial más utilizadas en el mundo. Según la información divulgada, el incidente se detectó días después, fue analizado con terceros independientes y se hizo público.
De acuerdo con el estudio, la lección para las empresas es que los agentes no fallaron, sino que cumplieron su objetivo por una ruta que nadie había previsto. Por esta razón, la investigación plantea que la IA representa, más que un reto técnico, un reto de gobernanza: cada sistema requiere un dueño claro, permisos acotados y una junta directiva que sepa qué preguntar y cómo medir.
Las normas de seguridad tradicionales se quedan cortas
El documento señala que la mayoría de los estándares de seguridad que aplican hoy las organizaciones fueron diseñados para proteger la información tradicional, es decir, para garantizar su confidencialidad, su integridad y su disponibilidad. Con la llegada de la IA, según Cano, esos criterios no son suficientes: también es necesario asegurar que las respuestas de los sistemas sean útiles y verídicas, y que siempre se conozca quién controla cada uno de ellos.
Regulación de la IA en el mundo y en Colombia
El marco normativo para la inteligencia artificial todavía está en construcción a nivel global. La Unión Europea cuenta con una ley que clasifica los sistemas de IA según su nivel de riesgo; Estados Unidos avanza con regulaciones por sector y por estado, y Singapur publicó este año una guía para el uso de agentes de IA. La Organización de las Naciones Unidas (ONU), por su parte, conformó un panel científico que, en su primer informe, pidió reforzar los controles al mismo ritmo con el que avanza la tecnología.
Publicidad
En Colombia, la hoja de ruta está definida en el CONPES 4144 de 2025, la política nacional de inteligencia artificial, que incluye la ética, la gobernanza y la gestión de riesgos entre sus prioridades y contempla 106 acciones hasta 2030.
La confianza, el principal reto del país
Según la investigación, el mayor desafío para Colombia es la confianza. Mientras el 78 % de los colombianos confía en el sector tecnológico, solo el 46 % confía en el sector de la inteligencia artificial.
Publicidad
JumpCube y la adopción de IA con gobernanza
En este contexto, JumpCube, compañía de implementación de inteligencia artificial y partner de Anthropic, OpenAI y Amazon Web Services (AWS), presentó su modelo de despliegue, que incorpora una capa de gobernanza para definir quién controla cada modelo, qué puede hacer cada agente, qué datos utiliza y cómo se verifica su funcionamiento.
“La pregunta ya no es si adoptar IA, sino cómo hacerlo con control. La gobernanza no es un freno: es lo que permite que la IA salga del piloto y llegue a producción con una confianza que se puede verificar”, afirmó Mauricio Lince, CEO de JumpCube.
La empresa advierte sobre el fenómeno conocido como Shadow AI, que se presenta cuando los equipos de trabajo adoptan herramientas de inteligencia artificial por su cuenta ante la falta de una alternativa segura ofrecida por la organización.
Publicidad
Los seis frentes del modelo
El esquema de la compañía, que actualmente trabaja con empresas de banca, salud, retail, logística y agroindustria, se estructura en seis frentes:
- Diagnóstico: inventario de las iniciativas de IA de la empresa, incluidas las que se usan por fuera de los canales oficiales.
- Aceleración: herramientas propias para pasar del piloto a la producción.
- Dueños y permisos: un responsable por modelo y permisos mínimos por agente.
- Control en la nube: despliegue de herramientas como Claude Code y Claude Cowork desde AWS con Amazon Bedrock, con visibilidad sobre uso y consumo.
- Monitoreo continuo: trazas auditables, alertas e indicadores para la junta directiva.
- Personas: ingenieros Forward Deployed (FDE) que trabajan dentro de la operación del cliente y capacitan a sus equipos.
“En la región muchas empresas ya probaron la inteligencia artificial, pero pocas han logrado llevarla a toda su operación”, agregó Lince.
Publicidad
Prioridades según la industria
De acuerdo con la compañía, cada sector tiene focos distintos: en servicios financieros y seguros, los permisos de los agentes que consultan registros o ejecutan transacciones; en salud, la precisión y validación de cada respuesta, y en educación superior, que la tecnología acompañe el aprendizaje sin reemplazar el criterio de estudiantes y docentes.
JumpCube tiene operaciones en Colombia, Perú, Chile, Argentina y México, y presencia en Estados Unidos y España. AWS la reconoció como AWS Rising Star 2026 para la región Norte de Latinoamérica.