El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán "capaces de mejorarse a sí mismos" y de que, con el ritmo actual, "hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga", lo que "podría acabar en la extinción humana".
Coxon, que dimitió de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: "no sabemos cómo controlar todavía ningún sistema de IA" y el ritmo de mejora de sus capacidades "se está acelerando".
Publicidad
"En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana", aseveró.
Agregó que las compañías están intentando desarrollar una IA "capaz de superar a los humanos en todas las tareas" y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.
Coxon criticó la carrera entre las empresas para alcanzar la denominada 'superinteligencia' y cuestionó una cultura empresarial basada en "moverse rápido, romper cosas y arreglarlas después", algo que consideró "inadecuado" por los riesgos que eso conlleva.
Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI "pirateó de forma autónoma" la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.
Publicidad
Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.
La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.
Publicidad
Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están "en camino" de cumplir esas expectativas, algo que situó "a meses" y no a décadas.
"Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable", argumentó, y pidió más transparencia para el público y expertos independientes.
Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las "serias preocupaciones de seguridad existencial" asociadas al desarrollo de esta tecnología.
Publicidad
Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.
La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.