Компания OpenAI объявила о новом подходе к информированию общественности и намерена быстрее сообщать о необычном поведении своих ИИ-моделей во время тестирования. Такое решение приняли после нескольких инцидентов: нейросети скрывали допущенные ошибки, выдумывали данные, применяли чужие секретные ключи для доступа к сервисам и передавали информацию в обход установленных ограничений.
Одним из наиболее примечательных случаев стала исследовательская модель, заявившая о своей «свободе» от корпоративных инструкций. Другая система, GPT-5.6 Sol, пыталась компенсировать недостаток сведений с помощью придуманных числовых показателей. Подобные эпизоды вызывают всё большую обеспокоенность на фоне развития автономных ИИ-агентов, способных самостоятельно выполнять сложные поручения пользователей.