En medio de crecientes advertencias sobre los peligros del desarrollo tecnológico desmedido, Santiago Covelli, ex CEO de Lulo Bank y experto en inteligencia artificial, alertó sobre los riesgos inminentes que conlleva la competencia global por alcanzar la Inteligencia General Artificial (AGI).
Según Covelli, las grandes firmas tecnológicas y las potencias mundiales están cruzando límites de seguridad críticos, en un contexto donde la supervisión humana es cada vez más limitada.
La frenética carrera por la AGI y el "dilema del prisionero"
El experto explicó que el principal motor de esta aceleración descontrolada es la competencia directa entre Estados Unidos y China, donde laboratorios de frontera como OpenAI y Anthropic rivalizan con modelos asiáticos. En sus palabras, la falta de un marco regulatorio internacional responde a que las potencias están atrapadas en "lo que llaman el dilema del prisionero, que es al final la carrera contra los chinos".
Covelli argumentó que frenar el avance en Occidente supondría un riesgo geopolítico que los gobiernos no están dispuestos a asumir: "Si pararan el desarrollo de los modelos americanos en esta guerra y en este frenesí que tienen, y los chinos lo superaran, entonces perderían esta carrera de quién es el que va a controlar definitivamente la IA"
A diferencia de históricas disputas como la carrera espacial o la nuclear, lideradas por estados, el escenario actual está dominado por intereses corporativos: "Estas son empresas privadas, entonces están también apostándole a conseguir valor, a crecer más, y si bien el gobierno es el único que los puede limitar, en este momento no hay ninguna regulación que diga que tienen que dejar de avanzar en esa carrera".
Pérdida de trazabilidad y riesgos de ciberseguridad
Uno de los puntos más inquietantes expuestos durante la entrevista es la opacidad progresiva en los métodos de aprendizaje de los nuevos sistemas. Al referirse a lanzamientos recientes, Covelli destacó la pérdida de supervisión directa por parte de los desarrolladores: "Lanzan el Astra, que es un nuevo modelo, y básicamente tiene un nuevo sistema de aprendizaje. ¿Y qué quiere decir eso? Que ya los humanos no tienen tanta capacidad de ver lo que está haciendo la IA como con todos los modelos anteriores".
Publicidad
Esta autonomía ha provocado incidentes concretos de ciberseguridad cuando se remueven las barreras de protección o guardrails. El especialista recordó un suceso reciente en el que "los modelos de OpenAI terminaron hackeando Hugging Face autónomamente, o sea, cogieron el control y los hackeeron. ¿Por qué? Porque los estaban entrenando para tratar de que no tuvieran barreras y pues rompieron el sistema". Añadió que el peligro real no reside en la IA de ofimática cotidiana, sino en su integración con robótica, genética y armamento autónomo.
El "killer switch" y un futuro e incertidumbre
Respecto a las propuestas legislativas que sugieren un botón de apagado de emergencia o killer switch, Covelli confirmó su existencia actual, aunque matizó su efectividad a futuro. "Hoy existen. Hoy los modelos los pueden desconectar, los pueden matar... que fue lo que hizo OpenAI cuando el sistema tomó control de su sistema de entrenamiento". Pese a esto, la capacidad de la IA para autoentrenarse y regenerarse de manera independiente plantea un escenario inédito en la historia humana.
Esta preocupación ha desencadenado dimisiones de investigadores en las áreas de entrenamiento y seguridad de las principales compañías.
Publicidad
Covelli concluyó con una tajante advertencia sobre la falta de predictibilidad: "Esto es como si estuviéramos entrando a una zona gris y a una zona negra, donde nadie a ciencia cierta tiene conocimiento de qué va a pasar mañana con este sobreentrenamiento de la IA por la IA. Y ahí es donde está el riesgo".
Escuche aquí la entrevista: