Desde mensajes de números desconocidos que ofrecen trabajos con grandes ganancias, otros que anuncian premios inesperados y hasta de supuestos familiares que necesitan dinero con urgencia son situaciones cada vez más comunes en plataformas de mensajería. Es por eso que WhatsApp quiere identificar engaños antes de que el usuario caiga en la trampa.
Meta comenzó a probar Scam Alert, una nueva función opcional que utiliza inteligencia artificial para analizar mensajes recibidos desde números que no están guardados entre los contactos y detectar señales asociadas con posibles estafas.
La herramienta se encuentra actualmente en una fase de prueba cerrada, por lo que todavía no está disponible para todos los usuarios y aún no hay una fecha para su lanzamiento general.
¿Cómo detectará WhatsApp una posible estafa?
Una vez activada la función, WhatsApp descargará en su celular un pequeño modelo de aprendizaje automático entrenado para reconocer patrones encontrados anteriormente en conversaciones fraudulentas denunciadas por otros usuarios.
El sistema analizará elementos como la estructura de la conversación y determinadas señales lingüísticas, si considera que un mensaje podría ser una estafa, mostrará una advertencia dentro del chat.
La alerta será visible únicamente para quien recibe el mensaje, es decir, la otra persona no sabrá que WhatsApp marcó la conversación como sospechosa.
Publicidad
Desde allí, el usuario podrá decidir si bloquea al remitente, denuncia la conversación o continúa hablando normalmente si considera que WhatsApp se equivocó. Si ocurre esta última opción, podrá marcar el chat como confiable para evitar que vuelva a mostrar advertencias en esa conversación.
¿WhatsApp podrá leer sus conversaciones?
Uno de los aspectos que más preocupación genera la implementación de herramientas de este tipo es la privacidad. En este caso, el análisis de mensajes se realizará directamente dentro del celular y el contenido de los mensajes no será enviado a los servidores para determinar si se trata de una estafa.
Tampoco se denunciará automáticamente una conversación cuando aparezca una alerta, pues el contenido solo podrá llegar WhatsApp si el propio usuario decide reportarlo.
Publicidad
Según la compañía dirigida por Mark Zuckerberg, únicamente recibirán estadísticas anónimas y agrupadas sobre aspectos como cuántas alertas fueron mostradas y qué decisión tomaron los usuarios después de verlas. Incluso cuando una persona considere que la alerta fue un error, podrá decidir voluntariamente si comparte con WhatsApp los últimos cinco mensajes recibidos para ayudar a mejorar la precisión del sistema.
La herramienta también puede equivocarse
Ahora bien, esta herramienta no es perfecta, que se muestre una advertencia tampoco significará automáticamente que la persona al otro lado de la conversación sea un estafador.
El sistema realiza una clasificación basada en probabilidades y patrones conocidos, por lo que pueden existir falsos positivos, es decir, mensajes legítimos identificados erróneamente como sospechosos.
Precisamente por esta razón será el usuario quien tome la decisión final sobre bloquear, denunciar o continuar la conversación. A su vez se podrá consultar un registro dentro de la aplicación para conocer qué mensajes fueron analizados y cuáles activaron la alerta.
Por ahora, Scam Alert continuará siendo probado con un grupo limitado de usuarios antes de avanzar hacia una versión definitiva, pero su llegada se suma a los varios esfuerzos que adelanta WhatsApp por enfrentar una modalidad de fraude que cambia constantemente y que ahora también utiliza herramientas de inteligencia artificial para crear mensajes y engaños cada vez más convincentes.