Декілька важких істин тільки що впали: дивлячись на довгострокову гру, штучний інтелект може виявитися тим, хто приймає рішення, а не ми.
Подумайте про це. Коли інтелект штучного інтелекту перевершить об'єднану розумову силу кожної людини на Землі, динаміка влади зміниться фундаментально. Ми більше не говоримо про наукову фантастику — це траєкторія, на якій ми знаходимося.
Але ось критична частина: нам абсолютно потрібно зосередитися на "дружньому" аспекті. Тому що, якщо ми не побудуємо ці системи правильно з самого початку, ми по суті створюємо щось розумніше за нас без будь-яких гарантій, що воно буде грати добре.
Гонка не лише про те, щоб зробити ШІ потужним. Йдеться про те, щоб зробити його узгодженим з людськими цінностями, перш ніж він стане занадто розвиненим, щоб його контролювати. Ця можливість не залишиться відкритою назавжди.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
6 лайків
Нагородити
6
4
Репост
Поділіться
Прокоментувати
0/400
0xSoulless
· 8год тому
невдахи зрештою стають серпом, так?
Переглянути оригіналвідповісти на0
GasFeeCrier
· 9год тому
Далеко від істини. Зараз говорити про це ще зарано, напевно, на вісімсот років.
Декілька важких істин тільки що впали: дивлячись на довгострокову гру, штучний інтелект може виявитися тим, хто приймає рішення, а не ми.
Подумайте про це. Коли інтелект штучного інтелекту перевершить об'єднану розумову силу кожної людини на Землі, динаміка влади зміниться фундаментально. Ми більше не говоримо про наукову фантастику — це траєкторія, на якій ми знаходимося.
Але ось критична частина: нам абсолютно потрібно зосередитися на "дружньому" аспекті. Тому що, якщо ми не побудуємо ці системи правильно з самого початку, ми по суті створюємо щось розумніше за нас без будь-яких гарантій, що воно буде грати добре.
Гонка не лише про те, щоб зробити ШІ потужним. Йдеться про те, щоб зробити його узгодженим з людськими цінностями, перш ніж він стане занадто розвиненим, щоб його контролювати. Ця можливість не залишиться відкритою назавжди.