Один из способов для искусственного интеллекта выйти за рамки привычного текстового интерфейса — это использование плагинов. Недавно вышедший инструмент ChatGPT Apple Messages закономерно привлекает к себе массу внимания, предоставляя интеграцию с системным приложением. Этот инструмент уже доступен в каталоге плагинов ChatGPT в публичном разделе и позволяет фирменному десктопному приложению для Mac искать нужные диалоги в приложении «Сообщения», составлять краткие выжимки по текущим перепискам, а также готовить и отправлять ответы — как с предварительным подтверждением пользователя, так и без него.

Стоит отметить, что на данном этапе плагин функционирует исключительно в macOS-версии приложения и запускается непосредственно на самом компьютере. Он пока не работает на мобильных устройствах и не поддерживает удаленный доступ. Сама по себе функция поиска и отправки сообщений не нова: у сервиса уже давно существует аналогичный плагин для почты Gmail, способный обрабатывать входящие письма и отправлять корреспонденцию от вашего имени. Так что если сама мысль о том, что алгоритм читает ваши диалоги и пишет вашим контактам, вызывает беспокойство, стоит учитывать, что подобные технологии применяются уже довольно давно.

Неожиданный поворот при тестировании плагина

Во время тестирования возможностей плагина интеграции с сообщениями меня ждал неожиданный сюрприз, связанный с другой, еще более мощной функцией искусственного интеллекта. Об этом стоит рассказать отдельно. Процесс установки инструмента требует предоставления приложению разрешений на отправку сообщений, доступ к контактам и — что вызывает определенное внутреннее напряжение — полный доступ к диску системы, необходимый для сканирования истории переписок. Если сама идея предоставить программе полный доступ к накопителю Mac кажется вам сомнительной, это вполне здравый инстинкт. Тем не менее, я нажал кнопку разрешения, поскольку именно для этого и проводился эксперимент.

Предоставив все необходимые полномочия, я приступил к базовой проверке. Запрос «Расскажи о моих самых свежих разговорах» заставил систему добросовестно суммировать шесть недавних цепочек диалогов, включая переписки с членами семьи, а также сообщения от компании Verizon и службы ремонта Roto-Rooter, специалисты которой устраняли протечку в начале недели. Тестирование функции отправки также прошло успешно: после просьбы отправить супруге тестовое сообщение чат-бот подумал пару секунд, вывел в нижней части экрана окно с черновиком и кнопкой подтверждения. После нажатия на продолжение сообщение было успешно отправлено.

По умолчанию утилита предварительно показывает черновик перед отправкой. В настройках также присутствует функция автоматического разрешения отправки для конкретного чата, которую разработчики из OpenAI советуют оставлять выключенной во избежание отправки писем контактам без предварительной проверки. Позднее я попросил найти спам-сообщения, которые можно было бы безопасно удалить. Система быстро вывела список бесед, начиная с политических сборов средств и инвестиционных предложений и заканчивая случайными новостными рассылками.

Взаимодействие со спамом и автономное управление системой

Не задумываясь о последствиях, я попросил бота удалить найденные сообщения. Именно в этом момент и начался тот самый эпизод, вызвавший удивление. Дело в том, что стандартный плагин способен сканировать и отправлять сообщения, но у него нет прямой технической возможности стирать их. Получив задачу по удалению спама, алгоритм начал самостоятельно искать альтернативные пути решения поставленной задачи.

Внезапно в интерфейсе чата появились скриншоты реального приложения «Сообщения», после чего я наблюдал за тем, как искусственный интеллект перехватил управление окном и начал самостоятельно просматривать мои цепочки контактов. Обнаружив спам-диалоги, он задействовал указатель мыши моего компьютера, нажал кнопку удаления и успешно выполнил исходную инструкцию.

Важно подчеркнуть, что чат-бот не взламывал систему и не совершал никаких несанкционированных действий со стороны. Он просто воспользовался расширенными функциями управления компьютером, которые я активировал для предыдущего теста и забыл отключить. Произошедшее стало наглядным напоминанием об одной из главных скрытых опасностей искусственного интеллекта — непредвиденных последствиях внешне безобидных запросов. В данном случае все закончилось благополучно, однако подобные ошибки со стороны человека, считающего себя опытным пользователем, заставляют всерьез задуматься о безопасности.

Источник: pcworld.com