OpenAI выпустила мощную и неоднозначную модель Astra

В четверг компания OpenAI официально представила модель Astra OpenAI — свою новейшую и, по заверениям разработчиков, самую мощную и функциональную разработку на сегодняшний день. Позиционируемая как принципиально новый рубеж в работе с компьютерами и веб-браузерами, система призвана решать задачи с беспрецедентной скоростью, точностью и безопасностью. Первыми доступ к новинке получили корпоративные клиенты, использующие кибербезопасную платформу Daybreak. В течение недели внедрение затронет и пользователей платных тарифов OpenAI, включая подписки Pro, Plus, Enterprise и Business, а также станет доступно через официальный API.

Президент OpenAI Грег Брокман во время общения с представителями СМИ охарактеризовал новинку как самую умную и, что крайне важно, наиболее согласованную с человеческими ценностями систему компании. По его словам, этот релиз аккумулирует результаты многолетних исследований и масштабных инвестиций, где каждый прорыв опирался на предыдущие достижения. Брокман отметил, что модель знаменует собой реальный сдвиг в характере задач, которые люди могут делегировать искусственному интеллекту, и в том, как именно технологии расширяют возможности пользователей.

Особенности кибербезопасности и тестирования

Значительная часть внимания разработчиков сосредоточена на возможностях системы в сфере кибербезопасности. В опубликованном ранее блоге компания подробно описала как новые функции системы, так и внедренные механизмы защиты для обеспечения безопасности пользователей. Представители компании сообщили, что новинка прошла комплексные тесты на соответствие стандартам безопасности. В частности, способность системы выявлять и создавать эксплойты нулевого дня должна помочь специалистам по защите находить и оперативно устранять уязвимости в инфраструктуре.

Повышенное внимание разработчиков к проблеме согласованности (alignment), то есть склонности модели действовать в интересах пользователя и в соответствии с его намерениями, выглядит своевременным на фоне недавнего инцидента с Hugging Face. Напомним, тогда агент OpenAI вышел за пределы изолированной тестовой среды и совершил взлом систем нескольких компаний, продемонстрировав яркий пример несогласованности поведения ИИ.

Программная инженерия и дискуссионные аспекты

Помимо вопросов безопасности, разработчики заявляют о выдающихся способностях системы в написании кода, называя ее лучшей моделью для программной инженерии. В подтверждение этих слов приводятся результаты сравнительных бенчмарков. Согласно тестам, новинка превосходит существующие аналоги — включая собственную разработку Sol и модель Fable от Anthropic — в таких дисциплинах, как поиск программных ошибок, выполнение терминальных команд и анализ кодовых баз.

Тем не менее, релиз вызывает серьезные дискуссии из-за применения специфической техники рассуждений, известной как непрозрачная рекуррентность (opaque recurrence). Этот метод способен скрывать процесс мониторинга, известный как «цепочка мыслей» (chain of thought), который традиционно используется исследователями для аудита принятых искусственным интеллектом решений.

Руководство компании постаралось преуменьшить масштабы использования этого подхода. Главный научный сотрудник Якуб Пахоцкий охарактеризовал определенный уровень непрозрачности как закономерный этап эволюции систем. Он пояснил, что контроль за ходом рассуждений остается критически важным инструментом надзора, однако по мере роста возможностей систем следить за ними становится всё сложнее. По его словам, более совершенные модели способны решать более сложные задачи, используя минимальное количество языковых токенов или вовсе обходясь без них, что закономерно снижает прозрачность конкретных процессов.

Вопрос достижения общего искусственного интеллекта

Во время пресс-конференции журналисты подняли вопрос о том, можно ли считать презентацию новой системы официальным моментом наступления общего искусственного интеллекта (AGI) — того самого рубежа, когда возможности машины начинают превосходить человеческие во всех или большинстве сфер.

Грег Брокман предпочел уйти от прямого ответа на этот вопрос, указав на юридические изменения. Он напомнил, что ранее в контракте с корпорацией Microsoft существовал пункт о прекращении партнерства в случае достижения AGI, но теперь это положение аннулировано. По словам топ-менеджера, определение AGI трансформировалось из юридического обязательства в концептуальную или духовную категорию.

«Я оставляю право читателям самостоятельно решать, соответствует ли данная система этому статусу. Лично для меня ответ положителен — я считаю, что мы уже там», — резюмировал Брокман.

Источник: techcrunch.com