Дарио Амодеи в эссе We Must Pace the Frontier предложил замедлить рост возможностей передовых ИИ-моделей и связал это с тем, что безопасность не успевает за прогрессом. При этом он прямо пишет, что замедление не означает остановку обучения моделей или технического развития.
Anthropic обязалась предоставить внешним проверяющим постоянный доступ уровня сотрудника к своим системам. Такой режим нужен, чтобы проверять соблюдение мер безопасности, сообщать об инцидентах и оценивать согласованность моделей во время обучения. Первый шаг плана Anthropic компания описывает как меру, которую можно запустить без ожидания отраслевого соглашения.
Дальше в эссе идет трехуровневая схема: внутренние меры компании, согласование стандартов между компаниями и глобальная координация. Anthropic выстраивает обсуждение контроля ИИ поэтапно и не сводит его к полной остановке разработки.