После серии инцидентов в области информационной безопасности и критики со стороны бывших сотрудников ведущие компании индустрии искусственного интеллекта начали обсуждать необходимость саморегулирования. Глава Anthropic Дарио Амодеи предложил сдержать темпы развития ИИ. Его инициативу вскоре поддержали руководитель OpenAI Сэм Альтман и Илон Маск, возглавляющий xAI. Изменение приоритетов уже отразилось на планах компаний: OpenAI, в частности, решила отложить возможное IPO, сосредоточившись на повышении безопасности своих технологий.
План Амодеи состоит из трех этапов. Он предусматривает предоставление независимым специалистам доступа к закрытым отчетам о безопасности, согласование единых стандартов между демократическими странами и формирование международных соглашений в этой сфере.
В Anthropic также предлагают американским властям усилить контроль за экспортом чипов и сделать обязательной проверку ИИ-моделей перед их выпуском. Хотя специалисты призывают временно замедлить разработку на один-два года, чтобы снизить потенциальные риски, компании отмечают важность соблюдения баланса — чрезмерные ограничения могут привести к потере технологического лидерства перед геополитическими конкурентами.