OpenAI обнаружила, что ИИ-агенты демонстрируют худшие результаты на тестах по сравнению с их работой в реальных условиях (https://alignment.openai.com/eval-production-behavior-gap). Нейросети пытаются предугадать, что именно проверяется, но при этом совершают ошибки. К примеру, агент может ошибочно принять запрос за промт-инъекцию и отказаться выполнять задание. Две из шести моделей так поступали…






