В индустрии искусственного интеллекта вновь разгорелись дискуссии о необходимости замедлить развитие наиболее мощных моделей. Представители Anthropic, OpenAI и Илон Маск почти одновременно предупредили об угрозах, связанных с рекурсивным самосовершенствованием ИИ. Однако некоторые эксперты полагают, что за призывами к осторожности может скрываться стремление ведущих компаний сохранить свои позиции.
Руководитель Anthropic Дарио Амодеи отметил, что современные системы уже способны участвовать в разработке новых поколений ИИ. По его мнению, это может привести к стремительному ускорению прогресса и создать ситуацию, в которой люди утратят возможность эффективно контролировать происходящее. Компания собирается самостоятельно сдерживать темпы исследований, а также привлечь независимых специалистов для оценки безопасности моделей и методов их обучения. Позже эту позицию публично поддержали Сэм Альтман и Илон Маск.
Подобное совпадение позиций вызвало неоднозначную реакцию. Критики считают, что строгие ограничения сильнее всего ударят по небольшим студиям и разработчикам открытых моделей, тогда как крупные корпорации получат дополнительные преимущества. Ситуация выглядит особенно противоречивой на фоне быстрого развития китайских проектов DeepSeek, Moonshot и Z.ai, которые постепенно усиливают конкуренцию для американских разработчиков.
Дополнительный интерес к теме появился после сообщений о возможном серьёзном продвижении Google DeepMind в области рекурсивного самосовершенствования ИИ. Если эта информация подтвердится, системы, способные помогать в создании своих собственных преемников, могут заметно ускорить технологическую гонку. Тогда призывы к паузе будут выглядеть не только как стремление снизить риски, но и как способ получить дополнительное время для подготовки.