Генеральный секретарь ООН Антониу Гутерриш открыл в понедельник в Женеве первый Глобальный диалог по управлению ИИ, заявив 193 государствам-членам, что искусственный интеллект развивается быстрее, чем институты могут его регулировать. Гутерриш предупредил, что внедрение ИИ опережает даже его разработчиков, назвав текущую траекторию «экспериментом над собой без плана и без согласия». Саммит знаменует собой первую многостороннюю попытку установить международное управление ИИ в рамках мандата ООН, созданного Глобальным цифровым договором 2024 года.
Гутерриш предупреждает о подходе «вайб-кодинг» к управлению ИИ
Гутерриш позаимствовал термин «вайб-кодинг» (vibe coding), введенный Андреем Карпати, сооснователем OpenAI и бывшим директором по ИИ в Tesla, для описания практики, когда ИИ пишет программное обеспечение без пристального контроля человека. Эта фраза, недавно добавленная в словарь Merriam-Webster, означает программирование на ощупь: скажите ИИ, что вам нужно, позвольте ему сделать остальное, не вглядывайтесь слишком пристально.
«Вайб-кодинг может творить чудеса», — признал Гутерриш, поскольку все больше людей доверяют продуктам, созданным с помощью ИИ. «Но мы не можем вайб-кодировать правду. Мы не можем вайб-кодировать будущее человечества».
Он заявил собравшимся, что ИИ достиг одного миллиарда пользователей за два года, в то время как интернету потребовалось 15 лет. «Нынешние системы больше не являются инструментами, ожидающими инструкций, — они пишут код, действуют в сети и принимают решения со все меньшим контролем со стороны человека, — сказал он. — Наши институты были созданы для управления машинами, которые следуют командам. Они не готовы к машинам, которые принимают решения».
Глава ООН определяет три ключевых риска ИИ: скорость, власть и правда
Гутерриш сделал три предупреждения на основе предварительного доклада Независимой международной научной группы по искусственному интеллекту, опубликованного на прошлой неделе 40 учеными из 140 стран. Группа пришла к выводу, что в настоящее время никто не может гарантировать, что ИИ не причинит катастрофического вреда.
Первое предупреждение касалось скорости: «Технология, способная изменить экономику, трансформировать мир труда, повлиять на выборы и нарушить баланс безопасности, внедряется быстрее, чем кто-либо — включая ее создателей — может за ней поспеть», — сказал Гутерриш в своей программной речи.
Второе — власти: вычислительные мощности, данные и таланты сосредоточены в руках горстки компаний и стран, лишая большую часть мира возможности участвовать в решениях, которые уже формируют его.
Третье — правды. Гутерриш заявил, что машинная ложь теперь убеждает так же эффективно, как проверенный факт, неуклонно подрывая «целостность нашей информационной экосистемы».
Гутерриш запускает обещание о безопасности детей в сфере ИИ и требует запрета на оружие
Гутерриш объявил о запуске обязательства по безопасности детей в сфере ИИ (AI Child Safety Pledge), требующего от компаний подтверждения безопасности путем независимого тестирования до того, как любой ИИ будет предоставлен детям. Это обязательство предусматривает абсолютную нетерпимость к созданию изображений сексуального насилия над детьми и требует, чтобы попавшие в беду дети получали поддержку от реальных людей, а не оставались наедине с чат-ботом. «Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ», — сказал он.
Он также назвал летальное автономное оружие — машины, которые выбирают и убивают цель без участия человека — «морально отвратительным» и потребовал его запрета на основе международного права. Государства уже ведут обсуждение, отметил Гутерриш, и он не предлагал им не торопиться.
ООН планирует второй диалог по ИИ в Нью-Йорке в 2027 году
Глобальный диалог по управлению ИИ состоится снова в Нью-Йорке в 2027 году. Гутерриш также призвал Генеральную Ассамблею создать Глобальный фонд по ИИ, ориентированный на доступ к вычислениям для развивающихся стран. Он поставил задачу перед каждой крупной компанией в сфере ИИ перевести все центры обработки данных на возобновляемые источники энергии к 2030 году — году, когда, по его оценкам, эти объекты обойдут по потреблению электроэнергии все страны, кроме пяти.
FAQ
О чем предупредил Генеральный секретарь ООН Гутерриш в отношении управления ИИ на саммите в Женеве?
Гутерриш предупредил, что искусственный интеллект развивается быстрее, чем институты могут его регулировать, назвав текущее внедрение ИИ «экспериментом над собой без плана и без согласия». Он использовал термин «вайб-кодинг» — когда ИИ пишет программное обеспечение без пристального контроля человека — как метафору опасно пассивного управления, заявив: «Мы не можем вайб-кодировать будущее человечества».
Какие конкретные предложения выдвинул Гутерриш на саммите по управлению ИИ?
Гутерриш запустил обязательство по безопасности детей в сфере ИИ, требующее от компаний подтверждения безопасности путем независимого тестирования до того, как ИИ будет предоставлен детям, абсолютной нетерпимости к созданию изображений сексуального насилия над детьми и обеспечения связи попавших в беду детей с реальными людьми. Он также потребовал запрета на летальное автономное оружие на основе международного права и призвал к созданию Глобального фонда по ИИ для предоставления доступа к вычислительным мощностям развивающимся странам. Кроме того, он поставил задачу перед крупными компаниями сферы ИИ перевести все центры обработки данных на возобновляемые источники энергии к 2030 году.
Когда ООН проведет следующий диалог по управлению ИИ?
Второй Глобальный диалог по управлению ИИ запланирован к проведению в Нью-Йорке в 2027 году.
