В технологическом сообществе активно обсуждают ИИ-ассистент Instinct, который пока работает в режиме закрытого тестирования и привлекает внимание не только своими впечатляющими возможностями, но и серьезными вопросами к безопасности и конфиденциальности. Проект называют одним из самых захватывающих запусков со времен OpenClaw, а пользователи отмечают, что его работа ощущается «как магия». Тем не менее, первые тестеры уже выразили обеспокоенность моделью безопасности агента и условиями предоставления услуг. Поскольку проект находится на стадии закрытого тестирования, эти проблемы пока не затрагивают широкую аудиторию.

Особенности работы и функционал

Разработкой системы занимается небольшая команда под руководством бывшего научного сотрудника Sierra Ноа Шинна (Noah Shinn). Компания базируется в Сан-Франциско, а юридическим лицом, согласно условиям использования и бизнес-реестрам Калифорнии, выступает Spear Street Technology. При этом, по данным PitchBook, проект функционирует в скрытном режиме. ИИ-ассистент взаимодействует с вашими приложениями и устройствами: электронной почтой, мессенджерами, календарем, а также имеет доступ к аудиопотоку, геолокации, экрану смартфона или компьютера.

С ботом можно общаться с помощью текстовых сообщений или звонков через SMS и WhatsApp, поручая ему самые разные задачи: бронирование столиков и встреч, вызов такси в аэропорт, разбор входящих писем, структурирование важной информации, покупки и поиск дешевых авиабилетов. Несмотря на то, что возможности инструмента превосходят ожидания пользователей, подход создателей к защите данных вызывает закономерные вопросы. Возникает актуальная дилемма: действительно ли оправданы такие жертвы приватности и предоставление ИИ столь высокого уровня автономии?

Безопасность и условия обслуживания

Многие пользователи обращают внимание на скриншоты из пользовательского соглашения компании. Документ наделяет новый ИИ-ассистент Instinct широкой, «бессрочной и безотзывной» лицензией на доступ, использование, хостинг, кэширование, хранение, воспроизведение, передачу, отображение, публикацию, распространение и модификацию любых материалов пользователя, в том числе для обучения алгоритмов искусственного интеллекта. В соглашении также прописано право сервиса собирать информацию с устройств пользователей, включая снимки экрана, движения курсора и данные, вводимые с клавиатуры. Кроме того, правила разрешают ИИ заключать от имени пользователей юридически обязывающие «соглашения, обязательства или сделки».

Ранние пользователи уже столкнулись с рядом проблем. Например, Питер Янг отметил, что ассистент отказался удалять его письма из Gmail по запросу (позже команда разработчиков исправила этот недочет, добавив инструмент для удаления внешних данных в настройках). Другой тестер, Клэр Во, обнаружила, что ИИ продолжал делать сводки писем даже после отключения доступа к почте. На вопрос о том, как такое возможно, бот подтвердил, что сообщения хранятся в виде обычного текста для последующего поиска.

Безопасность архитектуры также подверглась критике. Один из участников тестирования насторожился, когда агент самостоятельно извлек код подтверждения из входящего письма для завершения задачи — в данном случае бронирования столика в ресторане через сервис Resy. Сооснователь Hello Patient Алекс Коэн сообщил, что удалил свой аккаунт после того, как убедился, насколько легко поддается фишингу этот инструмент. Кэти Джейкобс Стэнтон, основательница Moxxie Ventures, поделилась, что сервис подорвал ее доверие, отправив электронное письмо без предварительного согласования.

Оценивая ситуацию, эксперты сходятся во мнении, что пользователи сознательно жертвуют конфиденциальностью ради сверхперсонализированных инструментов, таких как умные помощники и агенты, зачастую не осознавая масштабов этой сделки. По мере роста возможностей таких систем уровень доверия приобретает решающее значение: каждое успешное действие укрепляет его, а одна несанкционированная ошибка способна обнулить его полностью.

Майкл Миньяно, основатель сервиса Anchor (приобретенного ранее Spotify) и партнер в венчурном фонде Union Square Ventures, отметил, что подобные продукты способны кардинально изменить привычные стандарты потребительской безопасности. По его словам, пользователи все чаще доверяют учетные данные и пароли сторонним приложениям, при этом совершенно не задумываясь о том, каким образом и в каком виде эти данные сохраняются разработчиками. Масштабный интерес к персональным инструментам автоматизации начал стремительно расти после появления OpenClaw — персонального агента, завоевавшего популярность благодаря своей высокой функциональности, создатель которого впоследствии перешел в команду OpenAI для работы над агентами следующего поколения. Другой мессенджер-ассистент, Poke, недавно также перешел под крыло компании Cognition.

На фоне возникающей критики разработчики пока никак не реагируют на поступающие вопросы и претензии в соцсети X, предпочитая придерживаться закрытой позиции. Сам бот указывает на причастность к проекту Лука Борлетти, ранее работавшего в Sierra, однако эта информация пока не получила официального подтверждения. По информации из источников в инвестиционных кругах, фонды Kleiner Perkins и Conviction уже закрыли свои сделки по финансированию этого стартапа. Официальные запросы представителей СМИ, отправленные на общий адрес электронной почты компании и лично Шину, на данный момент остались без ответа.

Источник: techcrunch.com