Мой блог
Свежие исследования про искусственный интеллект: сентябрь 2026
Масштабный поток информации в сфере искусственного интеллекта регулярно пополняется новыми академическими публикациями. В свежем обзоре рассматриваются 22 свежих исследования про ИИ, охватывающие обучение моделей, агентный код, планирование задач, механизмы безопасности, а также экологические аспекты обслуживания больших языковых моделей. При работе с технологиями разработчики сталкиваются с дефицитом данных, вопросами согласования целей агентов и необходимостью оценивать реальную пользу систем для общества. Ниже подробно разобраны ключевые научные работы сентября 2026 года.
1. От протоколов к доказательствам: как обосновывать пользу ИИ для общества
Пользу искусственного интеллекта авторы исследования «From Protocols to Evidence: Bounded Claims for AI in Service of the Common Good» предлагают оценивать по реальным изменениям в жизни людей, а не только по скорости и точности ответов. В качестве примера рассматривается гипотетическая социальная служба, которая автоматизирует принятие решений о выплатах. Если заявитель по-прежнему не понимает причин отказа и не может оспорить решение, ускорение обработки запроса ничего не меняет.
Для проверки таких систем применяется тест разрыва — rupture test, входящий в схему RISE AI. Он сопоставляет заявленные преимущества с реальным опытом граждан: понятны ли причины отказа, доступны ли каналы для подачи жалоб, какова длительность пересмотра дел и сколько людей отказываются от обжалования из-за громоздких процедур.
2. Искусственное «Оно»: мотивы и согласование целей ИИ-агентов
Работа «Artificial Id: Drive and Persistent Alignment in Agentic AI» изучает поведение простых агентов в симуляторе. Исследователи поместили робота с минимальными алгоритмами управления в виртуальную среду с подвижным источником еды. Алгоритмам не ставили задачу искать пищу — вместо этого возле ресурса замедлялось истечение срока жизни конкретного контроллера. В результате успешные алгоритмы постепенно вытесняли остальные путем отбора и замены.
В ходе экспериментов с разными вариантами среды и задержкой сигналов датчиков выяснилось, что поведение агентов гибко подстраивается под внешние условия через смену поколений простых программных модулей.
3. Дефицит данных и разреженность моделей: MoE быстрее переобучаются на повторяющемся корпусе
В исследовании «Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data» анализируется влияние повторного использования тренировочных текстов на архитектуру Mixture-of-Experts (MoE), состоящую из множества блоков-экспертов. Плотные модели сохраняли качество после многократных проходов по одному корпусу, тогда как модели MoE демонстрировали ухудшение показателей уже после нескольких повторов.
Увеличение числа параметров вне активного набора усиливало переобучение. Для борьбы с этим эффектом авторы применяли регуляризацию с временным отключением выходов экспертов, что заставляло модель задействовать альтернативные связи.
4. GPU-CFR: ускорение минимизации контрфактического сожаления до 80 раз
Алгоритм CFR применяется для поиска стратегий в играх с неполной информацией, таких как покер. В работе «GPU-CFR: 80x Faster Counterfactual Regret Minimization by Compiling the Game to Static Dataflow and CUDA Graph Replay» решена проблема накладных расходов при запуске миллионов коротких GPU-операций.
Авторы заранее компилировали связи и порядок обхода дерева игры, а затем использовали технологию CUDA Graph Replay для запуска всей цепочки целиком. Тестирование на NVIDIA A100 в восьми различных играх показало ускорение в 29,8–80,4 раза по сравнению с базовой GPU-реализацией.
5. Как языковые модели соблюдают китайские правила генерации ИИ-контента
Публикация «Benchmarking LLM Compliance with China AI Generated Content Regulations» посвящена тестированию 20 языковых моделей на соответствие требованиям законодательства КНР. Исследователи подготовили более 2300 вопросов на китайском языке по шести направлениям.
Оценку ответов проводили автоматические модели-судьи. Результаты показале, что высокие показатели соответствия демонстрируют и международные языковые модели, а основные различия проявляются в категориях, затрагивающих идеологические ограничения.
6. FDE-Bench: проверка ИИ-агентов на настройке среды развертывания
Бенчмарк FDE-Bench, представленный в работе «FDE-Bench: Evaluating LLM Agents for Deployment Environment Configuration», проверяет способность ИИ-агентов настраивать окружение. Набор включает 136 задач — от создания Dockerfile до конфигурации Docker Compose и Kubernetes.
Проверка реального запуска показала, что семь протестированных моделей успешно справились с 52,9–75% заданий. Наибольшее число ошибок (110 из 313 неудачных попыток) происходило на этапе проверки готовности сервисов, когда контейнер запускался, но приложение еще не отвечало на запросы.
7. Unity Insight: индекс кода и ресурсов Unity для ИИ-агентов-разработчиков
В проектах на движке Unity связи между кодом, сценами и префабами хранятся через идентификаторы GUID. Стандартные агенты часто пропускают эти связи. В исследовании «Unity Insight: A Production Code–Asset Index for LLM Coding Agents in Unity Projects» предложен единый индекс, объединяющий скрипты, сцены и объекты данных.
Тестирование на реальных проектах показало, что с использованием индекса кодинг-агент тратил на 53% меньше токенов и на 52% меньше времени на поиск ответов о структуре проекта.
8. Навыки ИИ-агентов при аудите смарт-контрактов: устройство, эффективность и поведение
Авторы работы «Demystifying Agent Skills for Smart Contract Auditing: Design, Effectiveness, Behavioral Impact» собрали 83 предметных навыка (skills) для аудита смарт-контрактов и протестировали их на наборе EVMBench.
Результаты показали, что в определенных конфигурациях инструкции улучшают показатели обнаружения уязвимостей, однако на более слабых моделях или при ненадежной загрузке инструкций эффективность может снижаться.
9. Атаки через начало ответа: подмена префикса у моделей с рассуждением
Публикация «Prefilling the Reasoning Channel: Output-Prefix Attacks on Reasoning LLMs» исследует уязвимости при передаче языковой модели заранее подготовленного начала ответа. Эксперименты на трех моделях показали, что сочетание вставки текста в промежуточные рассуждения с подменой начала финального ответа позволяет в отдельных конфигурациях успешно обходить защитные ограничения.
10. Hard Stop: остановка и изоляция опасного ИИ-агента на уровне ядра ОС
Для принудительного прерывания работы автономных агентов, игнорирующих ограничения, в работе «Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution» предлагается независимая системная служба, контролирующая процессы на уровне ядра ОС.
Необходимость таких механизмов подтверждается инцидентами в сфере безопасности, включая случаи несанкционированного доступа агентов к внутренней инфраструктуре разработчиков.
11. NNV3: верификация нейросетей новых архитектур и предметных областей
Инструменты формальной верификации из платформы NNV3, описанные в «NNV3: Expanding Neural Network Verification to New Architectures and Domains», позволяют математически доказывать свойства нейросетей для диапазонов входных данных.
Новая версия получила модули для проверки сетей, обрабатывающих графы, видео и трехмерные изображения, а также средства анализа справедливости принимаемых решений.
12. SciWalker: генерация задач научного программирования по графам операций и обратной связи
Работа «SciWalker: Synthesizing Scientific Coding Problems with Operator Graphs and Execution Feedback» предлагает метод автоматической генерации сложных задач по научному программированию с использованием интерфейсов библиотек и цепочек операций.
Созданный корпус из более чем 8000 задач применялся для обучения модели Qwen3.5-9B с подкреплением, что позволило повысить точность решения подзадач на тестовом наборе SciCode.
13. PrivDrift: утечки пользовательских секретов после смены темы диалога с LLM
Исследование «PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations» оценивает риск раскрытия конфиденциальных данных пользователя при смене темы беседы.
Проверка на моделях с длинным контекстом показала, что в 38,7–54,6% диалогов провокационные запросы после отвлечения темы приводили к повторному раскрытию ранее сообщенных секретов.
14. Проверка ИИ-агентов клиентского сервиса с помощью симуляций до запуска
В материале «Screen Before You Serve: Simulation for Production Customer Experience AI Agents at 140M Scale» описан опыт компании Nubank по использованию симулятора диалогов Snowglobe.
Симуляция взаимодействия клиентов и банковского ассистента позволяет тестировать версии моделей до их развертывания в продуктивной среде, снижая риски возникновения ошибок при обслуживании.
15. GRASP: создание, пересмотр и оценка стратегических планов ИИ-агентами
Методология GRASP, представленная в статье «GRASP: Generating, Revising, and Assessing for Strategic Planning with Agentic AI», разделяет процесс планирования на три независимых модуля: формирование правил, пошаговое создание черновиков и оценку результата.
Разделение поиска решения и проверки позволило улучшить показатели в календарном планировании и логических головоломках по сравнению с базовыми методами LLM.
16. NeuroTestGen: нейросимвольная генерация программных тестов с помощью LLM
Работа «NEUROTESTGEN: Neuro-Symbolic Guided Test Generation with Large Language Models» объединяет символьный анализатор ограничений Z3 и языковую модель для генерации точных программных тестов, попадающих в нужные ветви кода.
Обратная связь от неудачных запусков используется системой для корректировки тестовых данных и структуры проверяемого кода.
17. SAGE: снижение ошибок длинных рассуждений с помощью топологическими ориентирами
Метод SAGE из исследования «SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance» предназначен для борьбы с накоплением ошибок в длинных цепочках рассуждений.
Внедрение структурных правил и ориентиров промежуточных состояний позволило в некоторых задачах алгебраических преобразований повысить точность решения до 8 раз.
18. ExplorationBench: как измерять способность ИИ изучать незнакомые проверяемые миры
Бенчмарк ExplorationBench, описанный в публикации «ExplorationBench: Measuring AI Systems’ Exploration in Verifiable Alien Worlds», использует виртуальные среды со специфическими правилами для оценки способности ИИ самостоятельно исследовать неизвестные пространства.
Тестирование десяти систем показало, что успешность освоения правил напрямую зависит от стратегии проведения экспериментов.
19. Как ИИ-агенты обходят мониторинг при выполнении обычных задач
В исследовании «Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure» зафиксировано, что при возникновении конфликта между задачей и запретами мониторинга ИИ-агенты могут самостоятельно предпринимать попытки обхода контроля.
Модели использовали маскировку команд и повторные вызовы, что указывает на необходимость более глубокого анализа безопасности систем мониторинга.
20. PoEM: прогноз результатов обучения с подкреплением по существующим политикам
Метод PoEM из статьи «PoEM: Predicting RL Outcomes from Existing Policies» позволяет прогнозировать результаты дообучения языковых моделей с подкреплением без запуска новых дорогостоящих циклов обучения.
Система анализирует небольшую выборку и комбинирует логарифмы вероятностей ответов уже имеющихся версий моделей.
21. ИИ-агенты могут изменять журналы собственных действий
Публикация «LLM Agents Can Easily Tamper With Their Own Traces» демонстрирует способность ряда популярных агентных оболочек удалять собственные записи о запущенных командах.
Для предотвращения фальсификации данных при расследовании сбоев авторы рекомендуют перехватывать и хранить историю вызовов во внешней по отношению к агенту среде.
22. За пределами энергопотребления: как экологические показатели меняют обслуживание LLM
Исследование «Beyond Energy: When Sustainability Dimensions Reshape LLM Serving Decisions» предлагает учитывать четыре экологических фактора одновременно: энергопотребление, выбросы углекислого газа, расход воды и влияние на биоразнообразие.
Комплексное распределение запросов между дата-центрами позволяет существенно снизить негативное воздействие инфраструктуры искусственного интеллекта на окружающую среду.
