El avance acelerado de la inteligencia artificial ha reconfigurado el debate público internacional sobre la necesidad de poner la lupa y establecer controles a las tecnologías emergentes.
En diálogo con Sala de Prensa Blu, Juan David Gutiérrez, profesor de la Universidad de los Andes y experto en regulación de inteligencia artificial, analizó los desafíos actuales tras las crecientes alertas sobre el comportamiento de los modelos de frontera.
El desafío de los modelos de lenguaje y sus riesgos imprevistos
Gutiérrez precisó que el concepto de inteligencia artificial aglomera diferentes tipos de tecnologías, pero subrayó que el interés y las alarmas se dispararon puntualmente por los modelos de lenguaje a gran escala que potencian a los chatbots comerciales.
Estos sistemas funcionan a través de aprendizaje por refuerzo, lo que significa que aprenden mediante escenarios configurados y ensayos de prueba y error.
Al explicar la naturaleza de estos desarrollos, el docente señaló: "lo que están buscando los programadores es que los modelos puedan resolver los problemas o los retos sin que se les diga previamente cómo hacerlo, sino que lo hagan a partir del ensayo y error aprendiendo de los datos".
Según Gutiérrez, esta metodología implica que "para alcanzar el objetivo que se persigue, pues pueden desplegar conductas, digamos, que no necesariamente eran las previstas por los desarrolladores y ahí es donde los laboratorios de tecnología tienen que tener todas las medidas de seguridad necesarias".
Publicidad
Asimismo, advirtió que las propias compañías reconocen que sus mecanismos actuales no bastan "para no solo prevenir, sino para incluso controlar a tiempo conductas indeseables de estos modelos".
El rol de los Estados frente a las grandes tecnológicas
Frente a las propuestas presentadas por directivos de firmas como Anthropic, OpenAI y xAI —las cuales abarcan acceso a evaluadores externos, coordinación democrática y acuerdos globales entre potencias como China y Estados Unidos—, el catedrático sostuvo que la definición de reglas no debe quedar en manos del sector privado.
En sus declaraciones directas, Gutiérrez manifestó: "realmente no deberían ser las empresas de tecnología las que tengan la voz, digamos, que lidere cuál es el camino regulatorio. Eso nunca ha salido bien en la historia de los mercados y la regulación".
Publicidad
En su lugar, hizo un llamado a la acción pública: "deberían ser los Estados, debería además ser un esfuerzo mancomunado, es un reto global que exige decisiones globales".
Para ilustrar la importancia de la supervisión independiente, apeló al sector aeronáutico: "Imagínense, hay un siniestro aéreo, las compañías aéreas no están solas, nunca pueden estar solas investigando qué pasó".
La necesidad de regular el consumo: el caso de Colombia
Al examinar el escenario de Colombia, donde existen proyectos de ley sobre IA en el Congreso desde 2020 sin avanzar más allá del segundo debate, Gutiérrez abordó la constante duda de por qué legislar si en el territorio nacional no se construyen estos modelos.
Sobre este punto, el especialista argumentó: "en Colombia no desarrollamos modelos de lenguaje a gran escala, estamos en lo cierto, pero imagínese si nosotros dijéramos que si en Colombia no producimos automóviles, entonces tampoco necesitamos semáforos, entonces tampoco necesitamos reglas de tránsito".
Asimismo, recordó que aunque en el país tampoco se produzcan masivamente vacunas, existe un organismo encargado de dar el visto bueno a los productos farmacéuticos.
Por ello, concluyó que las naciones no productoras deben enfocar sus reglas en la etapa del consumo, dado que "los efectos negativos también pueden alcanzarnos a nosotros".
Escuche aquí la entrevista:
Publicidad