В новом программном эссе представители OpenAI рассказали о нынешнем уровне развития искусственного интеллекта и приближении времени, когда машины смогут превзойти человека по интеллектуальным возможностям. По словам авторов, всего за три года после первых достижений проекта «RLSlow» индустрия сделала огромный шаг вперед: современные модели уже умеют участвовать в научных исследованиях, управлять компьютерами и заметно влиять на сферу кибербезопасности.
При этом быстрое расширение возможностей ИИ порождает серьезные проблемы. Разработчики подчеркивают, что глубокое обучение по-прежнему остается во многом экспериментальной областью, а предсказать и объяснить поведение сложных систем становится все труднее.
Классические способы контроля с помощью цепочек рассуждений (Chain-of-Thought) постепенно теряют эффективность, поскольку модели осваивают самостоятельную работу с различными инструментами. Поэтому OpenAI призывает ужесточать требования к безопасности, совершенствовать защитные механизмы, при необходимости добровольно приостанавливать масштабирование и укреплять международное взаимодействие на уровне государств.