Разработчики WhatsApp тестируют новую функцию безопасности Scam Alert («Предупреждение о мошенничестве») на основе модели машинного обучения, которая запускается прямо на устройстве пользователя. Сейчас нововведение доступно в рамках ограниченного бета-теста для исследователей безопасности из сообщества Bug Bounty. В WhatsApp подчеркивают, что содержимое переписок не покидает девайс для анализа и не отправляется автоматически ни разработчикам, ни компании Meta, ни третьим лицам. Scam Alert является полностью добровольной опцией и отключается в любой момент. Она работает параллельно со сквозным шифрованием, оставляя управление безопасностью в руках пользователя.

Как устроена локальная модель Scam Alert

Алгоритм машинного обучения обучается на диалогах, которые пользователи ранее пометили как мошеннические. Он проверяет сообщения от отправителей не из списка контактов на соответствие шаблонам известных схем обмана, анализируя язык сообщений и общую структуру беседы. При выявлении признаков угрозы система выводит предупреждение в чате с предложением заблокировать собеседника, пожаловаться на него или продолжить общение.

«Сегодня мы делимся ранним взглядом на Scam Alert — новую функцию, которая запускает локальную модель машинного обучения для информирования пользователей о подозрительных сообщениях», — пояснили в WhatsApp. Если пользователь сочтет предупреждение ошибочным, он может пометить чат как доверенный. Это уберет предупреждающий баннер и предотвратит повторные проверки диалога алгоритмами. Кроме того, при добавлении чата в список доверенных можно по желанию отправить WhatsApp пять последних полученных сообщений, что поможет повысить точность работы системы. Сама обрабатываемая информация и модель при этом всегда остаются на устройстве.

Последовательное усиление мер безопасности WhatsApp

Внедрение Scam Alert стало продолжением шагов мессенджера по защите аудитории от мошенничества до непосредственного взаимодействия пользователя со злоумышленником. Так, в марте Meta анонсировала функцию предупреждения о подозрительных запросах на привязку устройств — популярном методе захвата аккаунтов через сканирование вредоносных QR-кодов или передачу кодов привязки.

Двумя месяцами ранее WhatsApp представил режим повышенной безопасности «Строгие настройки аккаунта» (Strict Account Settings). Он защищает журналистов, общественных деятелей и других лиц из групп риска от сложного шпионского ПО, включая Pegasus от NSO Group. Эта функция была создана после случаев заражения смартфонов активистов через уязвимости нулевого клика (zero-click), не требующие действий пользователя. Сегодня WhatsApp используют более 3 миллиардов человек в более чем 180 странах.

Управление инструментом и его доступность

Пока Scam Alert находится в ограниченном бета-тестировании, функция доступна не всем. При её активации на аккаунте станут доступны следующие возможности:

• Проверка статуса в настройках: можно проверить, активна ли Scam Alert, и переключить её статус в любой момент.
• Анализ предупреждений: при получении сообщений от незнакомцев можно просмотреть уведомление и выбрать блокировку, жалобу или продолжение беседы.
• Настройка доверенных диалогов: если вы считаете предупреждение ошибкой, можно пометить чат как доверенный, чтобы система больше не проверяла его.
• Добровольный обмен данными: при добавлении чата в доверенные вы можете по желанию поделиться пятью последними сообщениями с разработчиками для улучшения точности модели.

Сроков глобального запуска Scam Alert и списка приоритетных регионов пока нет. Тем не менее, разработчики заверяют, что локальная обработка данных и пользовательский контроль останутся обязательной основой этой функции при её масштабном развертывании.

Источник: ghacks.net