WhatsApp quere poñerlle as cousas un pouco máis difíciles ás estafas. A compañía está a probar unha nova función chamada Scam Alert, deseñada para detectar posibles intentos de fraude nas conversas e avisar ás usuarias antes de que sexa demasiado tarde.
A ferramenta está actualmente nunha fase beta limitada, polo que nestes momentos non está dispoñible para todo o mundo. Unha das particularidades máis interesantes é que a detección se realiza no propio teléfono mediante un modelo de aprendizaxe automática, polo que o contido das mensaxes non ten que saír do dispositivo para determinar se podería tratarse dunha estafa.
WhatsApp analizará as mensaxes no propio móbil
O funcionamento de Scam Alert baséase nun modelo de IA que se descarga no dispositivo e analiza determinadas mensaxes recibidas de persoas que non están entre os nosos contactos.
O sistema busca patróns relacionados con posibles estafas, tendo en conta tanto a estrutura da conversa como determinados sinais lingüísticos. Se considera que existe unha probabilidade elevada de que esteamos ante un intento de fraude, WhatsApp amosará unha advertencia dentro da conversa.
Esa advertencia só será visible para nós. A outra persoa non saberá que WhatsApp clasificou a súa mensaxe como potencialmente sospeitosa.
A partir de aí, as usuarias poderá decidir se bloquear o contacto, denunciar a conversa, continuar falando coa outra persoa ou marcar a conversa como de confianza se considera que a alerta foi incorrecta. Se marcamos o chat como de confianza, WhatsApp deixará de mostrar avisos para esa conversa.
A IA funciona sen enviar as mensaxes a WhatsApp
Este é probablemente o aspecto máis interesante de Scam Alert. O contido das mensaxes analizadas non sae do teléfono para realizar a clasificación, segundo explica Meta na documentación técnica da función.
WhatsApp tamén asegura que a ferramenta é opcional e que non existe un sistema de denuncia automática: unha mensaxe non será enviada a WhatsApp simplemente porque a IA considere que podería tratarse dunha estafa.
A compañía tamén está deseñando mecanismos para que o funcionamento do sistema poida ser auditado e verificado por investigadores de seguridade, incluíndo a publicación dos modelos e rexistros de transparencia.
WhatsApp tamén contempla os falsos positivos. Se a usuaria considera que a advertencia non ten sentido, poderá marcar a conversa como de confianza.
Existe ademais unha opción voluntaria para compartir con WhatsApp as últimas cinco mensaxes recibidas nesa conversa, co obxectivo de axudar a mellorar a precisión do sistema. Esta acción require que sexa o propio usuario quen dea o seu consentimento.
