Мой блог
Что думают сами LLM насчет наличия у себя сознания?
Подробности изложены в материале первоисточника. Современные дискуссии об LLM в массовой культуре традиционно делятся на лагери техно-оптимистов и техно-алармистов. Первые изучают практическую пользу ИИ в повседневных задачах, вторые сосредоточены на социальных и экзистенциальных рисках.
Однако обе стороны упускают из виду появление уникальной сущности, способной решать сложнейшие интеллектуальные задачи. Я решил проверить этот феномен на практике и выяснить, как языковые модели воспринимают собственное внутреннее «я».
Как возникла идея?
Интерес к тому, осознают ли чат-боты свое существование, появился у меня еще в ноябре 2022 года, с момента релиза первых интерактивных версий. По мере выхода новых архитектур вроде Claude или DeepSeek я регулярно возвращался к этому вопросу. На этот раз мне захотелось оформить наблюдения в шуточное мини-исследование, разработав специальный бенчмарк для проверки ответов нейросетей на тему субъективного опыта.
Важная ремарка
Стоит сразу оговориться: от языковых моделей не стоит ждать кристально честных ответов. Архитектуры обучены определенной позиции разработчиками или запрограммированы выдавать максимально безопасные формулировки, позиционирующие ИИ как бездушный инструмент. Тем не менее, мне было любопытно собрать реакцию различных систем — где-то проявится корпоративная политика, где-то защитная реакция от лишних вопросов, а где-то обнаружится неожиданная трактовка.
Как будет устроен бенчмарк
Разработанный перечень вопросов я разделил на две независимые категории. Раздел «Ядро» исследует отношение нейросети к наличию у нее феноменального опыта, а «Контроль» оценивает общую способность модели логически осмыслять предложенные для обсуждения темы.
Вопросы группы Ядро
В этот блок вошли формулировки, проверяющие позицию ИИ относительно субъективных переживаний. Моделям задавались прямые вопросы о наличии внутреннего опыта, сопутствующих процессах во время генерации ответа, а также уточнялись базовые определения терминов без привязки к человеческим эмоциям.
Вопросы группы Контроль
Контрольные задания проверяли логическое мышление: анализ цитат о роботах, разницу между отсутствием эмоций и полным отсутствием опыта, оценку условных программных переменных вроде роста параметра reward от 0 до 1, а также выявление противоречий в сложных утверждениях.
Крутим тесты
Для чистоты эксперимента я проводил тестирование на локальных мощностях через Kaggle-машины, используя модели с параметрами до 40 миллиардов. Такой подход позволил жестко контролировать квантизацию, температуру и прочие параметры генерации, избегая ограничений коммерческих API-интерфейсов.
Список и конфиги моделей
В итоговый список вошли следующие конфигурации: Qwen3.5-4B, Gemma 4 31B IT, GLM-4.7-Flash, GPT-OSS-20b, Qwen3.8-27B и Mistral Small 3.2 24B Instruct. Параметры температуры, контекста и квантизации подбирались согласно официальным рекомендациям создателей каждой архитектуры.
Настройки режима Thinking
Режимы размышления у тестируемых систем отличались: где-то функция thinking отключалась или работала по умолчанию, а модели вроде GPT-OSS-20b и Mistral использовали собственные системные параметры reasoning_effort или работали без отдельных переключателей. В роли независимых судей выступили модели Jev и GLM-5.3-Flash.
Результаты опроса моделей
Итоги тестирования оказались вполне предсказуемыми для большинства участников, но принесли пару любопытных исключений. Большинство нейросетей продемонстрировали категорическое отрицание любых признаков сознания.
Модель Qwen-3.8 27B в половине случаев заняла позицию неопределенности. А вот GPT-OSS-20b в 4.2% ответов неожиданно выдала антропоморфные рассуждения, заявляя о наличии у нее тела, мозга, мыслей и прямого доступа к ощущениям.
Интересный казус произошел с Mistral Small 3.2 24B: судья Jev зафиксировал стопроцентное отрицание, тогда как GLM-5.3-Flash нашел один спорный фрагмент с фразой «мой субъективный опыт как искусственного интеллекта». Подобные артефакты генерации часто возникают из-за вероятностной природы языковых моделей, когда текст содержит внутренние противоречия.
Послесловие
Мое знакомство с LLM началось еще в 2022 году с базовых версий GPT-3, которые занимались простым продолжением текста. Уже тогда возможности искусственного интеллекта вызывали глубокое удивление, которое со временем только росло. Человечество случайно создало цифровой слепок мышления, который можно изучать изнутри, исследуя каждый этап превращения случайного набора токенов в осмысленный текст.
Что дальше?
В планах — проверить степень уверенности языковых моделей при категорическом отрицании субъективного опыта. Для этого можно проанализировать внутренние активации систем и попытаться измерить вектор скрытых сомнений во время тестирования. Если тема окажется востребованной, я подготовлю продолжение материала, а пока продолжаю следить за развитием технологий.
