Мой блог
Почему тексты от нейросетей стали сложнее для восприятия человеком
Современные искусственные интеллекты могут генерировать материалы, которые оказываются неожиданно трудными для человеческого восприятия. Недавнее исследование показывает, что языковые модели все хуже объясняют информацию просто из-за специфики обучения, нацеленного на максимальную эффективность решения задач.
Подобные языковые особенности затрагивают не только продвинутые передовые модели, но и многие решения с открытыми весами, влияя на то, как именно системы выстраивают фразы при общении с пользователями.
Особенности генерации текста и скрытые трудности
Основная проблема заключается в том, что современные чат-боты оптимизируются под самые разные задачи программирования и анализа, а не сугубо под коммуникацию. Из-за этого они выдают ответы в виде сильно сжатых информационных блоков, требующих дополнительной расшифровки. Если объемные ответы сами по себе утомляют, то избыточная внутренняя компрессия превращает предложения в своеобразные смысловые бомбы.
Проблемы с конструкциями и структурой
Исследователи отмечают склонность нейросетей наделять неживые предметы свойствами живых существ. Например, когда процесс обучения описывается как активный субъект, совершающий действия, это заставляет читателя мысленно перестраивать логику предложения, замедляя восприятие. Подобные стилистические приемы экономят токены, но создают дополнительную когнитивную нагрузку.
Еще одна сложность кроется в нагромождении существительных подряд. В английском языке это обычное явление, однако плотные цепочки из нескольких определений порождают неоднозначность прочтения и мешают быстрому усвоению смысла.
Методы и данные проведенного анализа
В центре внимания исследователей оказались специфические языковые паттерны, способные затруднять чтение. Среди них выделяются редкие комбинации слов, измеряемые через n-граммы, а также увеличенная дистанция между грамматически связанными частями предложения, которая сильнее нагружает кратковременную память.
Изучаемые языковые конструкции
Авторы работы анализировали относительные придаточные предложения с опущенными вспомогательными словами, цепочки существительных, а также отыменные глаголы, когда существительные используются в роли действий. Все эти приемы позволяют упаковать максимум смысла в меньшее количество слов, но требуют от читателя более глубокой интерпретации.
Сравниваемые модели и типы задач
Для тестирования были собраны диалоги и материалы от 14 различных систем, включая семейства Claude, GPT, Kimi, GLM, Llama и Olmo. Модели проходили тесты в режиме обычного общения, при написании кода в рамках работы с репозиториями GitHub, а также при создании эссе на основе академических датасетов.
В качестве эталона для сравнения использовались тексты реальных людей: субтитры из базы OpenSubtitles для чатов, обсуждения с платформ вопросов и ответов для программирования, а также студенческие работы для эссе. Дополнительно применялся метод обратного перевода текстов через языковую модель NLLB-200 на японский язык и обратно, что позволило отделить стилистические предпочтения моделей от жестких лингвистических требований.
Результаты экспериментов
Первый эксперимент выявил, что передовые и околопередовые модели гораздо чаще используют непривычные комбинации слов, отыменные глаголы и неодушевленные подлежащие с глаголами действия. При этом в задачах по написанию эссе различия оказались менее выраженными, что связано со спецификой единственного запроса в отличие от длинных диалогов.
Влияние штрафов за длину ответа
Во втором эксперименте исследователи проверили, приводит ли стремление к краткости к усложнению синтаксиса. Модель Qwen2.5-1.5B-Instruct дообучали с помощью оптимизации относительных предпочтений групп, настраивая параметры изменения слов и штрафы за излишне длинные ответы. Выяснилось, что введение штрафа за длину неизбежно порождает у модели устойчивое предпочтение более коротких, но лингвистически менее прозрачных конструкций даже на ранее неизученных примерах.
Заключение
Новое исследование объясняет видимое противоречие между привычной многословностью нейросетей и их склонностью к сильной компрессии данных. Краткость в исполнении искусственного интеллекта часто свидетельствует не об утонченной и чистой выжимке сути, а о зашифрованной сложности, заставляющей пользователя тратить дополнительные усилия на расшифровку простых концептов.
