Понад 800 відомих людей закликають заборонити створення “суперінтелекту”. Вони побоюються, що неконтрольована розробка штучного інтелекту, який перевершує людину, становить екзистенціальну загрозу для цивілізації.
Сотні громадських діячів підписали відкритий лист головним ШІ-корпораціям, пише CNBC. Понад 850 впливових фігур підтримали ідею заборони над-ШІ. Список очолили “хрещені батьки” штучного інтелекту — вчені Джеффрі Гінтон і Йошуа Бенжіо. До них приєдналися співзасновник Apple Стів Возняк, засновник Virgin Річард Бренсон, колишні високопосадовці США і навіть члени британської королівської сім’ї — принц Гаррі та його дружина Меган Маркл.
Чому вони проти?
У заяві йдеться про те, що перспектива появи надінтелекту викликає серйозні побоювання: “починаючи від економічної непотрібності та безправ’я людини, втрати свобод і контролю до ризиків для національної безпеки і навіть потенційного вимирання людства”. Підписанти вимагають запровадити мораторій на подальші розробки доти, доки не буде широкої громадської підтримки цієї технології та наукового консенсусу про те, що такі системи можна повністю контролювати.
Реакція суспільства
Заклик до заборони підкреслює глибокий розкол у технологічній спільноті. Цікаво, що про небезпеки суперінтелекту раніше попереджали й ті, хто сьогодні перебуває в авангарді його створення. Глава OpenAI Сем Альтман ще 2015 року називав надлюдський ШІ “ймовірно, найбільшою загрозою для людської цивілізації”. А Ілон Маск, чия компанія xAI також прагне до створення сильного ШІ, цьогоріч оцінив імовірність “знищення” людства внаслідок появи супер-ШІ у 20%.
Громадська думка, схоже, теж схиляється на бік обережності. Згідно з недавнім опитуванням Future of Life Institute, лише 5% дорослих американців підтримують “швидкий і нерегульований” розвиток штучного надрозуму. Багато хто, навпаки, вважає, що створення надінтелекту потрібно призупинити доти, доки його безпеку не буде доведено. “Ми повинні науково визначити, як проєктувати системи ШІ, які в принципі не здатні завдати шкоди людям”, — заявив Йошуа Бенжіо.
