Proyecto de ley busca garantizar supervisión humana sobre sistemas de inteligencia artificial

El proyecto de ley que busca establecer un marco regulatorio para el desarrollo, uso y supervisión de la inteligencia artificial (IA) en Colombia será presentada por el Ministerio TIC y el Ministerio de Ciencias ante el Senado, y tiene como objetivo garantizar que la implementación de estas tecnologías se haga de forma ética, responsable y respetando los derechos fundamentales.Uno de los aspectos centrales del proyecto es asegurar que los sistemas de inteligencia artificial cuenten con supervisión humana permanente, especialmente cuando estén involucrados en decisiones que afecten derechos de los ciudadanos. La propuesta reconoce que, si bien la IA puede aumentar la eficiencia y precisión en distintos sectores, no debe reemplazar el juicio humano en áreas sensibles como justicia, salud, educación o empleo.Además, propone la creación de una Autoridad Nacional de Supervisión de Inteligencia Artificial, que se encargaría de velar por el cumplimiento de las obligaciones técnicas, jurídicas y sociales relacionadas con estas tecnologías.El proyecto contempla una serie de obligaciones para quienes diseñen, implementen o utilicen sistemas de inteligencia artificial. Por ejemplo, se requerirá una evaluación de impacto para cualquier sistema que utilice datos personales sensibles o que tome decisiones automatizadas que puedan afectar derechos humanos, como rechazar un crédito, acceder a servicios públicos o seleccionar a alguien en un proceso laboral.Uno de los puntos centrales de la propuesta es la protección de poblaciones vulnerables. El proyecto señala que cualquier desarrollo o implementación de IA deberá considerar su impacto sobre niños, adolescentes, personas mayores, personas con discapacidad y comunidades étnicas, para prevenir sesgos o discriminación. Igualmente, se contempla un enfoque de precaución frente a sistemas de IA que puedan representar riesgos altos o inaceptables.La iniciativa también introduce obligaciones para desarrolladores y operadores de IA, como realizar evaluaciones de impacto, registrar sus sistemas ante la autoridad competente y permitir auditorías. El objetivo es impulsar un entorno confiable que fomente la innovación tecnológica sin dejar de lado el control institucional y el respeto a la dignidad humana.