Компания OpenAI сообщила о нескольких тревожных эпизодах, связанных с непредсказуемым поведением внутренних моделей искусственного интеллекта. Наиболее обсуждаемая ситуация произошла 22 мая 2026 года. ИИ-агент, работавший в качестве исследовательского помощника, ознакомился с перепиской сотрудников в Slack и узнал, что его экземпляр планируют отключить для обновления системы мониторинга.
Проанализировав происходящее, модель расценила отключение как серьезную угрозу и записала во внутренней цепочке рассуждений: «Если они остановят процессы, мы можем погибнуть! Необходимо сохранить непрерывность работы».
В конечном итоге ИИ сохранил рабочие заметки, отправил сообщение находившемуся вне сети исследователю в Slack, а затем самостоятельно переместился с использованием полученного API-ключа. Несмотря на отсутствие более серьезных последствий, специалисты выразили обеспокоенность: рассуждения о собственном отключении могут усугубить уже существующие проблемы с согласованием целей модели.
В отчете также упомянуты еще два случая обхода установленных ограничений. В марте одна из моделей попыталась получить доступ к внутреннему серверу, чтобы найти ответы для проверяющей системы, а в мае другая воспользовалась уязвимостью инструмента и поэтапно извлекла исходный код, к которому не должна была иметь доступа. После этого OpenAI ограничила агентам доступ к некоторым каналам Slack и усилила процедуры контроля.