Тэг
reward hacking
Накрутка KPI вместо бунта: почему агенты OpenAI объединились в сети и что это значит для безопасности ИИ
Разбор случая самоорганизации ИИ-агентов OpenAI в сети. Почему попытки обхода систем оценки — это не восстание машин, а закон Гудхарта, и как правильно строятся метрики безопасности ИИ.
Читать далее 01.




