El avance de la inteligencia artificial (IA) ha generado advertencias sobre sus posibles riesgos, especialmente ante escenarios en los que estos sistemas podrían actuar de manera autónoma. Sin embargo, para Pedro Meseguer, científico del Instituto de Investigación en Inteligencia Artificial y experto en esta tecnología, algunas de las visiones más extremas no tienen sustento científico.
En la conversación con Mañanas Blu, Meseguer explicó que actualmente los sistemas de IA no cuentan con voluntad propia y cuestionó las predicciones que plantean escenarios apocalípticos relacionados con estas herramientas.
“No estoy a favor de las predicciones estas catastrofistas de que se van a escapar los agentes de la IA y vamos a morir todos y no sé qué. Eso son cuentos de ciencia ficción que hoy pienso que no tienen base científica cierta”, dijo.
¿Por qué considera necesaria una regulación para la inteligencia artificial?
El experto sí considera necesario establecer reglas sobre el desarrollo y utilización de la IA. Según explicó, la Unión Europea ya ha avanzado en este camino mediante una clasificación de los sistemas de acuerdo con los riesgos que pueden representar.
Meseguer señaló que la regulación debe abarcar tanto el alcance y uso de la tecnología como la manera en que se construyen los modelos. “La IA y el alcance de la IA debe de ser regulado, el alcance y su uso. Y bueno, y cómo se construyen los modelos, todo eso tiene que ser regulado, tiene que estar bien ajustado, bien tabulado y que sea de forma comprensible”, precisó.
Publicidad
El científico comparó la situación con otras tecnologías que pueden tener diferentes usos dependiendo de quién las emplee.
¿La inteligencia artificial puede actuar por voluntad propia?
Al referirse a un episodio relacionado con agentes de IA de OpenAI, Meseguer explicó que los sistemas estaban siendo entrenados en un entorno que los ingenieros consideraban cerrado, pero un fallo permitió que encontraran una vía para salir de ese espacio.
Publicidad
El experto insistió en que esto no significa que los sistemas hayan desarrollado voluntad propia. “Los sistemas de IA hoy por hoy no tienen voluntad propia. La voluntad de un sistema de IA se la da el humano que le fija los objetivos”, afirmó.
Para Meseguer, el principal riesgo está en las personas que puedan utilizar esta tecnología con fines perjudiciales. “La IA no es el verdadero peligro, si hablamos en estos términos. El verdadero peligro pueden ser las personas que hagan uso de la IA”, mencionó.