افتتح الأمين العام للأمم المتحدة أنطونيو غوتيريش أول حوار عالمي حول حوكمة الذكاء الاصطناعي في جنيف يوم الاثنين، قائلاً للدول الأعضاء البالغ عددها 193 دولة إن الذكاء الاصطناعي يتقدم بشكل أسرع مما تستطيع المؤسسات حوكمته. حذر غوتيريش من أن نشر الذكاء الاصطناعي يفوق حتى المطورين الذين يبنونه، واصفاً المسار الحالي بأنه "تجربة على نفسها دون خطة، وبدون موافقة". تمثل القمة أول جهد متعدد الأطراف لوضع حوكمة دولية للذكاء الاصطناعي بموجب ولاية الأمم المتحدة التي أنشأها الميثاق الرقمي العالمي لعام 2024.
غوتيريش يحذر من نهج "البرمجة بالإحساس" في حوكمة الذكاء الاصطناعي
استعار غوتيريش مصطلح "البرمجة بالإحساس" – الذي صاغه أندريه كارباثي، العضو المؤسس في شركة OpenAI والمدير السابق للذكاء الاصطناعي في تسلا – لوصف ممارسة السماح للذكاء الاصطناعي بكتابة البرمجيات دون تدقيق بشري وثيق. يشير المصطلح، الذي أُضيف مؤخراً إلى قاموس ميريام وبستر، إلى البرمجة بالشعور: أخبر الذكاء الاصطناعي بما تريد، دعه يتولى الباقي، لا تنظر عن كثب.
"يمكن للبرمجة بالإحساس أن تصنع العجائب"، اعترف غوتيريش، بينما يثق المزيد من الناس بمنتجات بنها الذكاء الاصطناعي. "لكن لا يمكننا برمجة الحقيقة بالإحساس. لا يمكننا برمجة مستقبل البشرية بالإحساس."
وقال للحاضرين إن الذكاء الاصطناعي وصل إلى مليار مستخدم في غضون عامين، مقارنة بـ 15 عاماً للإنترنت. "لم تعد الأنظمة الحالية مجرد أدوات تنتظر التعليمات – إنها تكتب الأكواد، وتتصرف عبر الإنترنت، وتتخذ خيارات بتدخل بشري أقل فأقل"، قال. "مؤسساتنا بُنيت لحوكمة آلات تتبع الأوامر. إنها ليست جاهزة لآلات تقرر."
رئيس الأمم المتحدة يحدد ثلاثة مخاطر أساسية للذكاء الاصطناعي: السرعة، والقوة، والحقيقة
استخلص غوتيريش ثلاثة تحذيرات من التقرير الأولي للفريق العلمي الدولي المستقل للذكاء الاصطناعي، الذي نُشر الأسبوع الماضي من قبل 40 عالماً من 140 دولة. وجد الفريق أنه لا يمكن لأحد حالياً ضمان عدم تسبب الذكاء الاصطناعي في ضرر كارثي.
التحذير الأول كان السرعة: "تكنولوجيا يمكنها إعادة تشكيل الاقتصادات، وتحويل عالم العمل، والتأثير على الانتخابات، وإمالة ميزان الأمن يتم نشرها بشكل أسرع مما يستطيع أي شخص – بما في ذلك الأشخاص الذين يبنونها – مواكبتها"، قال غوتيريش في كلمته الرئيسية.
الثاني كان القوة: موارد الحوسبة والبيانات والمواهب تتركز في حفنة من الشركات والدول، مما يستبعد معظم العالم من القرارات التي تشكله بالفعل.
الثالث كان الحقيقة. صرح غوتيريش بأن الكذبة المدعومة بالآلات تقنع الآن بفعالية بقدر ما تقنع الحقيقة المثبتة، مما يؤدي إلى تآكل "سلامة نظامنا المعلوماتي" بشكل مطرد.
غوتيريش يطلق تعهد سلامة الأطفال في الذكاء الاصطناعي ويدعو إلى حظر الأسلحة
أعلن غوتيريش عن تعهد سلامة الأطفال في الذكاء الاصطناعي الذي يتطلب من الشركات إثبات السلامة من خلال اختبار مستقل قبل وصول أي ذكاء اصطناعي إلى الأطفال. يفرض التعهد عدم التسامح مطلقاً مع توليد صور الاعتداء الجنسي على الأطفال، ويشترط ربط الأطفال المنكوبين بدعم بشري حقيقي بدلاً من تركهم مع روبوت محادثة. "لا ينبغي أن يكون أي طفل خنزير غينيا للذكاء الاصطناعي غير المنظم"، قال.
كما وصف الأسلحة الذاتية القاتلة – الآلات التي تختار وتقتل هدفاً دون حكم بشري – بأنها "بغيضة أخلاقياً"، وطالب بحظرها بموجب القانون الدولي. لاحظ غوتيريش أن الدول موجودة بالفعل على طاولة النقاش، ولم يقترح أن يأخذوا وقتهم.
الأمم المتحدة تحدد موعد الحوار الثاني للذكاء الاصطناعي في نيويورك عام 2027
سيعقد الحوار العالمي حول حوكمة الذكاء الاصطناعي مرة أخرى في نيويورك عام 2027. دعا غوتيريش أيضاً الجمعية العامة إلى إنشاء صندوق عالمي للذكاء الاصطناعي يركز على توفير الوصول إلى الحوسبة للدول النامية. وتحدى كل شركة كبرى في الذكاء الاصطناعي تشغيل جميع مراكز البيانات بالطاقة المتجددة بحلول عام 2030 – العام الذي يقدر أن تلك المرافق ستتفوق فيه على جميع الدول باستثناء خمس دول في استهلاك الكهرباء.
الأسئلة الشائعة
ما الذي حذر منه الأمين العام للأمم المتحدة غوتيريش بشأن حوكمة الذكاء الاصطناعي في قمة جنيف؟
حذر غوتيريش من أن الذكاء الاصطناعي يتقدم بشكل أسرع مما تستطيع المؤسسات حوكمته، واصفاً نشر الذكاء الاصطناعي الحالي بأنه "تجربة على نفسها دون خطة، وبدون موافقة". استخدم مصطلح "البرمجة بالإحساس" – السماح للذكاء الاصطناعي بكتابة البرمجيات دون تدقيق بشري وثيق – كاستعارة للحوكمة السلبية الخطيرة، قائلاً: "لا يمكننا برمجة مستقبل البشرية بالإحساس."
ما هي الاقتراحات الملموسة التي قدمها غوتيريش في قمة حوكمة الذكاء الاصطناعي؟
أطلق غوتيريش تعهد سلامة الأطفال في الذكاء الاصطناعي الذي يتطلب من الشركات إثبات السلامة من خلال اختبار مستقل قبل وصول الذكاء الاصطناعي إلى الأطفال، والحفاظ على عدم التسامح مطلقاً مع توليد صور الاعتداء الجنسي على الأطفال، وربط الأطفال المنكوبين بدعم بشري حقيقي. كما طالب بحظر الأسلحة الذاتية القاتلة بموجب القانون الدولي، ودعا إلى إنشاء صندوق عالمي للذكاء الاصطناعي لتوفير الوصول إلى الحوسبة للدول النامية. بالإضافة إلى ذلك، تحدى شركات الذكاء الاصطناعي الكبرى تشغيل جميع مراكز البيانات بالطاقة المتجددة بحلول عام 2030.
متى سيعقد الأمم المتحدة حوارها القادم حول حوكمة الذكاء الاصطناعي؟
من المقرر عقد الحوار العالمي الثاني حول حوكمة الذكاء الاصطناعي مرة أخرى في نيويورك عام 2027.
