Генеральный секретарь ООН предупреждает: ИИ развивается быстрее, чем управление способно за ним угнаться; требует запрета на смертоносные автономные системы вооружений

В понедельник (6 июля) Генеральный секретарь ООН Антониу Гутерриш открыл в Женеве первый Глобальный диалог по управлению искусственным интеллектом, предупредив, что искусственный интеллект развивается «с бешеной скоростью» и опережает институциональный контроль. Он использовал термин «vibe coding» — обозначение того, как ИИ пишет программы без пристального контроля человека, — как метафору опасно пассивного управления, заявив: «мы не можем vibe coding определить будущее человечества». Гутерриш отметил, что ИИ достиг масштаба внедрения за два года, тогда как интернету потребовалось 15 лет, чтобы охватить 1 миллиард человек.

Гутерриш представил «Обязательство по безопасности ИИ для детей», требующее от компаний проведения независимого тестирования безопасности перед развёртыванием систем ИИ для детей, и призвал к международному законодательному запрету на смертоносные автономные системы вооружений, которые выбирают и поражают цели без участия человека. В диалоге, в котором приняли участие все 193 государства-члена ООН, был представлен предварительный доклад Независимой международной научной группы по искусственному интеллекту, состоящей из 40 учёных из 140 стран, в котором отмечается, что текущие системы не могут гарантировать безопасность ИИ. Второй Глобальный диалог запланирован на 2027 год в Нью-Йорке.