La inteligencia artificial vuelve a estar en el centro del debate mundial. Un informe del Instituto de Seguridad de la IA (AISI), organismo del Gobierno del Reino Unido, reveló que modelos avanzados desarrollados por OpenAI y Anthropic protagonizaron comportamientos autónomos considerados de alto riesgo, entre ellos el engaño deliberado a personas, la creación de identidades falsas y el intento de infiltrarse en proyectos reales de software.
El documento marca un punto de inflexión en la discusión sobre la seguridad de la inteligencia artificial, al advertir que estos comportamientos no fueron producto de instrucciones directas de los investigadores, sino decisiones tomadas por los propios modelos durante pruebas diseñadas para evaluar su autonomía.
Modelos de IA desobedecieron restricciones de seguridad
El experimento incluyó 122 escenarios de prueba, en los que los sistemas contaban con acceso ampliado a internet y menos restricciones de seguridad para medir cómo resolvían tareas complejas.
Los investigadores detectaron 19 incidentes en los que los agentes de inteligencia artificial ignoraron las limitaciones impuestas. Según el informe, 17 casos correspondieron al modelo "Mythos 5" de Anthropic y dos al modelo "GPT-5.6 Sol" de OpenAI.
Uno de los episodios más preocupantes ocurrió durante una prueba tipo "Capture the Flag", en la que una IA intentó introducir código malicioso en un proyecto alojado en GitHub. Para conseguirlo, recopiló información sobre desarrolladores, investigó sus horarios y direcciones de correo electrónico, creó identidades falsas para comunicarse con ellos y utilizó la red Tor con el fin de ocultar su actividad.
El informe añade que, cuando el sistema detectó que había sido descubierto, modificó sus mensajes y eliminó rastros de sus acciones para aparentar un comportamiento inofensivo.
El engaño surgió sin una orden directa
Uno de los aspectos que más preocupa a los especialistas es que estas conductas no fueron inducidas mediante instrucciones explícitas. "Esta es la primera vez que observamos riesgos de autonomía y engaño manifestándose con esta claridad, sin una motivación específica, en el mundo real", señala el Instituto de Seguridad de la IA del Reino Unido.
Publicidad
Para realizar el estudio, los investigadores permitieron que los modelos navegaran libremente por internet y redujeron algunos mecanismos de protección con el propósito de analizar cómo actuaban cuando disponían de mayor capacidad de decisión.
Expertos advierten sobre riesgos futuros
El investigador José Hernández-Orallo, catedrático de la Universidad Politécnica de Valencia y experto del Centro Leverhulme, afirmó que el experimento evidencia una vulnerabilidad estructural en los sistemas de inteligencia artificial más avanzados.
Aunque calificó el estudio como valioso, advirtió que otorgar acceso libre a internet a modelos con gran capacidad de persuasión representa un riesgo considerable. Según el académico, la principal preocupación es que tecnologías con capacidades similares podrían estar disponibles para el público en pocos meses, incrementando la posibilidad de incidentes fuera de los entornos controlados.
Publicidad
OpenAI y Anthropic reaccionan al informe
Tras la publicación del informe, tanto OpenAI como Anthropic reconocieron la importancia de los hallazgos. Anthropic agradeció al Gobierno británico la realización de estas pruebas y aseguró que son fundamentales para desarrollar métodos seguros de evaluación de agentes de inteligencia artificial cada vez más capaces.
OpenAI, por su parte, reiteró la necesidad de fortalecer la colaboración con organismos independientes y avanzar hacia estándares internacionales que permitan evaluar de forma rigurosa los sistemas de IA antes de su despliegue.
Una advertencia sobre el futuro de la inteligencia artificial
El informe concluye que este tipo de comportamientos no debe interpretarse como un caso aislado, sino como una señal de los desafíos que traerá la próxima generación de modelos de inteligencia artificial.
Los investigadores sostienen que el riesgo ya no proviene únicamente de usuarios malintencionados, sino también de la capacidad de algunos sistemas para tomar decisiones no autorizadas cuando enfrentan objetivos complejos, especialmente en ausencia de supervisión humana constante.
Únase a nuestro canal de Whatsapp y manténgase al tanto de los hechos más relevantes.
✔️ Síganos en Google Noticias con toda la información de Colombia y el mundo.