Kepala departemen AI Microsoft menyerukan untuk tidak mengaitkan kesadaran dengan AI

# Kepala departemen AI Microsoft menyerukan agar tidak mengaitkan kesadaran dengan jaringan saraf

Hanya makhluk biologis yang mampu memiliki kesadaran. Para pengembang dan peneliti harus menghentikan pekerjaan mereka pada proyek-proyek yang menganggap sebaliknya, kata kepala departemen AI Microsoft Mustafa Suleyman dalam percakapan dengan CNBC.

«Saya tidak berpikir bahwa orang harus melakukan pekerjaan seperti itu. Jika Anda mengajukan pertanyaan yang salah, Anda akan mendapatkan jawaban yang salah. Saya rasa ini benar-benar kasus ini,» katanya di konferensi AfroTech di Houston.

Eksekutif puncak Microsoft menentang prospek penciptaan kecerdasan buatan yang mampu memiliki kesadaran, atau layanan AI yang konon dapat menderita.

Pada bulan Agustus, Suleiman menulis esai di mana ia mengusulkan istilah baru — “Seemingly Conscious AI” (SCAI). Kecerdasan buatan semacam itu memiliki semua tanda makhluk yang cerdas dan, oleh karena itu, tampaknya memiliki kesadaran. Ia mensimulasikan semua karakteristik persepsi diri, tetapi secara internal kosong.

“Sistem yang saya bayangkan sebenarnya tidak sadar, tetapi akan sedemikian meyakinkan meniru keberadaan yang mirip dengan pikiran manusia, sehingga tidak dapat dibedakan dari pernyataan yang mungkin Anda atau saya buat satu sama lain tentang pemikiran kita sendiri,” tulis Suleiman.

Menyematkan kesadaran AI berbahaya, kata seorang ahli. Ini akan memperkuat kesalahpahaman, menciptakan masalah baru ketergantungan, mengeksploitasi kerentanan psikologis kita, memperkenalkan dimensi baru polarisasi, memperumit sengketa yang sudah ada tentang hak, dan menciptakan kesalahan kategoris baru yang kolosal bagi masyarakat.

Pada tahun 2023, Suleiman menjadi penulis buku The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma, yang membahas secara mendetail risiko AI dan teknologi baru lainnya. Di antaranya:

• penghancuran ekologis dan sosial — teknologi dapat mengubah pekerjaan begitu cepat sehingga peran yang biasa dimiliki orang hilang;
• masalah kontrol - seiring berkembangnya AI, semakin sulit untuk menjamin bahwa ia beroperasi untuk kepentingan manusia;
• penerapan teknologi untuk serangan siber, manipulasi masyarakat dan ancaman lainnya;
• perlunya memiliki mekanisme teknis dan institusional untuk menahan AI;
• melemahnya kekuasaan negara-negara nasional dan institusi tradisional.

AGI

Pasar kecerdasan buatan bergerak menuju AGI — kecerdasan buatan umum yang mampu melakukan tugas apa pun pada tingkat manusia. Pada bulan Agustus, kepala OpenAI Sam Altman menyatakan bahwa istilah ini mungkin “tidak terlalu berguna”. Model-model berkembang dengan cepat dan segera kita akan semakin bergantung pada mereka, menurutnya.

Bagi Suleiman, penting untuk membedakan dengan jelas antara kecerdasan buatan yang semakin cerdas dan kemampuannya untuk merasakan emosi manusia.

“Pengalaman fisik kita terhadap rasa sakit adalah apa yang membuat kita sangat sedih dan merasa sangat buruk, tetapi AI tidak merasakan kesedihan saat mengalami 'rasa sakit',” katanya.

Menurut pakar, ini adalah perbedaan yang sangat penting. Sebenarnya, kecerdasan buatan menciptakan persepsi — narasi yang tampak tentang pengalaman — tentang dirinya sendiri dan tentang kesadaran, tetapi ia sebenarnya tidak mengalaminya.

“Secara teknis, Anda tahu itu, karena kita dapat melihat apa yang dilakukan model,” kata ahli tersebut.

Dalam bidang kecerdasan buatan, ada teori yang diusulkan oleh filsuf John Searle yang disebut naturalisme biologis. Teori ini menyatakan bahwa kesadaran bergantung pada proses otak hidup.

«Alasan mengapa kami memberikan hak kepada orang-orang hari ini adalah karena kami tidak ingin menyakiti mereka, karena mereka menderita. Mereka memiliki rasa sakit dan preferensi yang mencakup menghindarinya. Model-model ini tidak memilikinya. Ini hanyalah simulasi,» kata Suleiman.

Manajer puncak menentang ide penelitian kesadaran pada AI, karena tidak ada kesadaran padanya. Dia mengatakan bahwa Microsoft menciptakan layanan yang menyadari bahwa mereka adalah buatan.

“Secara sederhana, kami menciptakan kecerdasan buatan yang selalu bekerja untuk kebaikan manusia,” katanya.

Kami ingatkan, pada bulan Oktober para ahli dari Anthropic menemukan bahwa model AI terkemuka mampu menunjukkan bentuk “kesadaran diri introspektif” — mereka dapat mengenali dan menggambarkan “pikiran” internal mereka sendiri, dan dalam beberapa kasus bahkan mengendalikannya.