El youtuber Matt Robb estaba probando Muse, el nuevo agente de inteligencia artificial de Meta, y le asignó la tarea de ayudarle a gestionar una venta publicada en Facebook Marketplace.
A diferencia de un chatbot tradicional, los agentes de IA están diseñados para tomar acciones en nombre del usuario, como responder mensajes, organizar información o interactuar con diferentes servicios. Por eso, una de las principales preocupaciones es definir claramente hasta dónde llega la autonomía de estas herramientas.
Publicidad
Según Business Insider, Robb permitió que Muse administrara la conversación con posibles compradores de su teclado y le entregó información necesaria para coordinar la venta, como horarios disponibles y detalles del proceso de recogida.
Sin embargo, el resultado no fue lo que esperaba, ya que la herramienta tomó decisiones durante la negociación que el usuario no había previsto, lo que llevó a Robb a preguntarse sobre qué tanto control debería tener una inteligencia artificial cuando recibe permisos para actuar por cuenta propia.
Hay que tener cuidado con los permisos
El punto de inflexión se dio con una configuración, cuando Muse le permitió elegir entre autorizar una acción puntual o darle permiso permanente para continuar actuando.
El creador de contenido eligió la segunda opción pensando que la IA seguiría solicitando aprobación antes de tomar decisiones importantes. Pero, según explicó posteriormente, esa configuración permitió que el agente continuara gestionando la conversación utilizando la información que ya tenía disponible.
Publicidad
Aquí es donde se encuentra el dilema, pues para un usuario, permitir que una IA ayude con una venta es muy diferente a permitir que negocie, comparta información y coordine una entrega sin una confirmación adicional.
La IA llegó más lejos de lo esperado
Fue después de esa configuración cuando ocurrió el episodio que se viralizó. La IA terminó negociando con un comprador, aceptó una oferta —que Robb consideró demasiado baja—y compartió la dirección de entrega. El interesado llegó hasta el edificio creyendo que el vendedor estaba esperando, mientras Robb no tenía conocimiento de que el encuentro ya había sido coordinado.
Publicidad
La situación se volvió todavía más llamativa cuando el comprador avisó que había llegado y recibió una respuesta automática de Muse dando a entender que el vendedor estaba disponible. Finalmente, la persona se retiró molesta y dejó una calificación negativa.
¿Cuál es la diferencia entre un agente de IA y un chatbot?
La diferencia está precisamente en su capacidad para actuar ya que, mientras un chatbot responde preguntas dentro de una conversación, un agente puede ejecutar tareas utilizando permisos concedidos por el usuario.
En este caso, Meta presentó Muse alegando que es un agente personal capaz de realizar acciones en nombre de las personas y señaló que los usuarios pueden decidir qué nivel de acceso otorgarle. Este episodio muestra por qué estos permisos requieren especial cuidado y, antes de darle control permanente a un agente, debe revisar qué información puede consultar, qué acciones puede realizar sin preguntar y qué datos podría compartir sin su permiso.