El acuerdo promovido por el presidente de Estados Unidos, Donald Trump, con grandes compañías tecnológicas para establecer mecanismos de autorregulación frente a los riesgos de la inteligencia artificial abrió nuevamente el debate sobre los límites y controles de esta tecnología.
El documento, firmado en septiembre de 2026, plantea compromisos voluntarios relacionados con controles internos, monitoreo de modelos y evaluaciones independientes. Además, Trump ordenó que el Gobierno estadounidense utilice el término “Super Intelligence” en lugar de inteligencia artificial en sus comunicaciones oficiales.
Publicidad
Samir Estefan, consultor en transformación digital, explicó que los riesgos actuales todavía no corresponden, según su análisis, a los escenarios más extremos que se han planteado sobre la inteligencia artificial.
¿Qué riesgos tiene actualmente la inteligencia artificial?
Estefan señaló que las principales alertas están relacionadas con situaciones como ataques informáticos, fraude y suplantación de identidad, aunque advirtió que la velocidad de desarrollo de estas tecnologías puede modificar ese escenario.
“Los riesgos están asociados a que los sistemas puedan hackear otros sistemas, a que podamos ver temas de fraude, a que podamos ver temas de suplantación de identidad. Pero todavía no estamos ni cerca de esa alerta máxima”, precisó.
Publicidad
El consultor agregó que la preocupación está relacionada con el ritmo al que evolucionan los sistemas y con la posibilidad de que llegue un momento en que los humanos tengan dificultades para comprender sus procesos de mejora.
¿Qué plantea el experto sobre regular la IA?
Publicidad
Frente al acuerdo de autorregulación respaldado por Trump, Estefan cuestionó que los compromisos tengan capacidad suficiente para frenar la velocidad de desarrollo de la tecnología.
“Eventualmente vamos a necesitar unas regulaciones, ojalá no unas regulaciones tan dispersas y tan disímiles, sino algo que tenga un common ground, que tenga un piso común”, explicó. El consultor planteó como una posibilidad la creación de un organismo multilateral inspirado en modelos utilizados para tecnologías de alto impacto. Según dijo, Naciones Unidas ha considerado una referencia similar a la Comisión de Energía Atómica.
Estefan también señaló que Estados Unidos y China se encuentran en una carrera tecnológica y sostuvo que esa competencia dificulta establecer controles comunes. “Gran parte de la preocupación es qué pasa cuando usted tiene un algoritmo que se está mejorando a sí mismo todos los días y usted como humano llega un momento en el que deja de entender lo que está pasando”, advirtió.
Publicidad
Finalmente, sobre el acuerdo firmado en Washington, consideró que tiene pocos mecanismos de exigibilidad y planteó que el desafío está en establecer controles que permitan comprender y supervisar la evolución de la inteligencia artificial.
Escuche la entrevista completa aquí:
Publicidad