Министр иностранных дел Великобритании Иветт Купер предупредила, что правительствам необходимы глобальные соглашения для управления рисками искусственного интеллекта. В статье, опубликованной в понедельник, Купер сравнила эту задачу с усилиями по ядерной безопасности после Второй мировой войны, заявив, что правительства рискуют повторить ошибки, допущенные на заре ядерной эры, если будут ждать создания законов об ИИ. Купер назвала этот вопрос потенциально «величайшим вызовом безопасности следующего десятилетия» и призвала к сотрудничеству между США, Китаем и другими державами в сфере ИИ по стандартам безопасности. Её предупреждение последовало за саммитом по безопасности ИИ 2023 года в Блетчли-парке и недавними растущими опасениями по поводу возможностей ИИ в области кибербезопасности.
Купер сравнивает вызов управления ИИ с гонкой ядерных вооружений
Купер написала, что ИИ открывает прорывы, но также создает новые риски по мере того, как технология становится более мощной и широко доступной. «В прошлом месяце в Шэньчжэне, Китай, я увидела необычайные перспективы ИИ и робототехники, используемых для спасения жизни в здравоохранении», — заявила Купер. «Но те же технологии также меняют будущее войны, преступности и социальной сплоченности тревожными способами».
Купер сравнила нынешнюю гонку по разработке систем ИИ с ранней гонкой ядерных вооружений, отметив, что глобальные соглашения по безопасности появились только после того, как страны стали свидетелями разрушений, вызванных атомным оружием. «В ядерной сфере международное соглашение было достигнуто только после того, как мир увидел ужасающую силу новой технологии в Хиросиме», — написала Купер. «Мы не можем позволить себе ждать аналога Хиросимы в сфере ИИ, прежде чем действовать».
Купер призвала Британию использовать свое дипломатическое влияние, чтобы объединить США, Китай и другие крупные державы в сфере ИИ для установления общих принципов и стандартов безопасности. Она указала на саммит по безопасности ИИ 2023 года в Блетчли-парке, где мировые лидеры из 29 стран и Европейского союза встретились для обсуждения возникающих рисков ИИ, назвав это примером способности Великобритании «сплотить мир вокруг безопасности ИИ».
Недавние инциденты в области безопасности ИИ стимулируют ответную политику
Предупреждение Купер прозвучало после месяцев растущих опасений по поводу того, как правительства должны контролировать все более мощные системы ИИ. В мае Институт безопасности ИИ Великобритании предупредил, что быстрые успехи в возможностях кибербезопасности ИИ произошли после того, как GPT-5.5 от OpenAI стал второй моделью, завершившей симулированную кибератаку без помощи человека, после Claude Mythos Preview от Anthropic.
Несколько дней спустя Международный валютный фонд предупредил, что ИИ может «усилить» кибератаки на мировую финансовую систему, снижая требуемые навыки для использования уязвимостей, и призвал политиков рассматривать кибербезопасность как вопрос финансовой стабильности, а не чисто техническую проблему.
В июне президент Дональд Трамп подписал исполнительный указ, создающий добровольную систему проверки передовых моделей ИИ перед выпуском, расширяющий программы кибербезопасности ИИ и поручающий агентствам оценивать потенциальные риски для национальной безопасности от передовых моделей ИИ.
В том же месяце генеральный директор Anthropic Дарио Амодей заявил, что требований прозрачности уже недостаточно, и призвал к обязательному независимому тестированию передовых моделей. После этого требования правительство США приказало Anthropic ограничить доступ к Claude Fable 5 и Mythos 5 из соображений национальной безопасности, прежде чем снять этот приказ в июле.
Часто задаваемые вопросы
О чем предупредила министр иностранных дел Великобритании Иветт Купер в отношении управления ИИ?
Министр иностранных дел Великобритании Иветт Купер предупредила, что правительствам необходимы глобальные соглашения для управления рисками ИИ до того, как кризис вынудит к действиям. В статье, опубликованной в понедельник, она заявила, что управление рисками ИИ может стать «величайшим вызовом безопасности следующего десятилетия», и сравнила ситуацию с гонкой ядерных вооружений, где международные соглашения появились только после наблюдения разрушений в Хиросиме.
К какому международному сотрудничеству в области безопасности ИИ призвала Купер?
Купер призвала Британию использовать свое дипломатическое влияние, чтобы объединить США, Китай и другие крупные державы в сфере ИИ для установления общих принципов и стандартов безопасности. Она указала на саммит по безопасности ИИ 2023 года в Блетчли-парке, где лидеры из 29 стран и Европейского союза встретились для обсуждения рисков ИИ, как пример способности Великобритании объединить мировое сотрудничество в области безопасности ИИ.
Какие недавние события в области безопасности ИИ произошли до предупреждения Купер?
В мае Институт безопасности ИИ Великобритании предупредил о быстрых успехах в возможностях кибербезопасности ИИ после того, как GPT-5.5 от OpenAI завершил симулированную кибератаку без помощи человека. Международный валютный фонд предупредил, что ИИ может усилить кибератаки на мировую финансовую систему. В июне президент Дональд Трамп подписал исполнительный указ, создающий систему проверки передовых моделей ИИ, а правительство США приказало Anthropic ограничить доступ к определенным моделям из соображений национальной безопасности, прежде чем снять этот приказ в июле.
