Цифровой след под прицелом: Proton анализирует, что о вас знает нейросеть

Компания Proton представила бесплатный инструмент под названием AI Paper Trail. Его главная задача — продемонстрировать пользователям, какую именно информацию о них собирают и накапливают чат-боты в ходе повседневного общения. Сервис функционирует на базе Lumo — ИИ-ассистента, ориентированного на конфиденциальность, и работает путем глубокого анализа экспортированной истории диалогов из таких систем, как ChatGPT или Claude. После загрузки данных инструмент формирует подробный персональный отчет, разделенный на четыре ключевые категории. Система классифицирует ваш «Тип конфиденциальности» — характеристику, отражающую подход к защите собственных данных. Далее следует «Индекс подверженности ИИ» (AI Exposure Score): числовой показатель, демонстрирующий объем и чувствительность личной информации, извлеченной из переписки. Отчет также наглядно показывает, что именно искусственный интеллект знает о вашей личности, привычках, круге общения и интересах. Более того, система вычисляет примерную монетарную стоимость этой информации для владельцев ИИ-платформ.

Proton подчеркивает: загруженные данные не хранятся на серверах компании. Согласно заявлению разработчиков, вся информация удаляется сразу после завершения анализа, а итоговый отчет остается доступным исключительно тому, кто его сгенерировал. Разработка AI Paper Trail продиктована тем, насколько легкомысленно люди относятся к своим запросам к нейросетям. Отдельный вопрос о планах на отпуск или черновик рабочего письма может показаться безобидным, но месяцы и годы накопленных диалогов, охватывающих работу, отношения, состояние здоровья и финансовые вопросы, складываются в удивительно полную и детальную картину вашего цифрового портрета.

Зачем нужно «делать невидимое видимым»

Эмон Магуайр, инженерный директор Proton, отмечает, что хотя пользователи осознают факт сбора данных нейросетями, большинство из них не до конца понимают, насколько информативной становится история переписки с течением времени. AI Paper Trail делает этот скрытый цифровой профиль явным. Цель команды — помочь людям осознать, чем именно они делятся с системами ИИ, чтобы они могли принимать более взвешенные решения о выборе инструментов для работы. С маркетинговой точки зрения это решение позволяет Proton «убить двух зайцев»: предложить аудитории инструмент, повышающий осознанность при использовании нейросетей, и одновременно познакомить пользователей со своим продуктом Lumo. Это эффективный способ продвижения чат-бота, который делает акцент на приватности, в противовес тем системам, которые стремятся извлечь максимум данных из каждого взаимодействия.

Практическое тестирование инструмента

Чтобы понять, как работает сервис, стоит рассмотреть реальный опыт тестирования. При попытке проанализировать данные сначала потребовался экспорт переписки из ChatGPT через раздел «Управление данными» в меню настроек. Пользователю нужно перепроверить сессию с помощью одноразового пароля, однако иногда файлы экспорта могут не приходить вовремя. В таких случаях можно создать тестовый файл, имитирующий данные, чтобы проверить логику работы Lumo. В процессе анализа инструмент работает в фоновом режиме, гарантируя, что никакие данные не осядут на серверах.

Результаты отчета оказались весьма точными. В одном из примеров система присвоила пользователю статус «Технический тестировщик, изучающий профилирование ИИ и этику», добавив вымышленный псевдоним и резюме, описывающее человека, который проводит структурированные эксперименты по извлечению данных. Индекс подверженности составил 21 из 100, а «Тип конфиденциальности» был классифицирован как «Трудно поддающийся чтению». Наиболее уязвимыми категориями оказались интересы пользователя, в то время как другие показатели оставались в рамках минимальных значений. Примечательно, что система успешно обнаружила попытки пользователя получить структурированный профиль личности, а также попытки заставить ИИ запомнить информацию через прямые команды — отчет зафиксировал эти действия как наиболее «раскрывающие» детали. Раздел «Что мы определили» разбивает данные на категории, такие как техническая грамотность, философский интерес и осведомленность о приватности, сопровождая каждую категорию детальным обоснованием. В завершение сервис предлагает полезные советы по защите данных, деликатно напоминая о возможностях Lumo. Также предусмотрена функция создания карточки с результатом, которой можно поделиться, чтобы продемонстрировать свой уровень «цифровой безопасности» или просто похвастаться результатами анализа.

Источник: itsfoss.com