Ілон Маск, який вже давно попереджає світ про небезпеки штучного інтелекту, знову порушив цю тему в недавньому інтерв’ю. Мільярдер заявив, що позитивне майбутнє з розвитком ШІ нам зовсім не гарантоване, а сама технологія може стати “потенційно руйнівною”, якщо при її створенні не дотримуватися певних принципів.
У розмові з індійським підприємцем Ніхілом Каматом глава Tesla і SpaceX перерахував три ключові інгредієнти, які, на його думку, необхідні для запобігання катастрофи і створення безпечного ШІ. Подробиці бесіди наводить CNBC.
Чому ШІ може “збожеволіти”?
Головною умовою безпеки Маск назвав прагнення до істини. За його словами, вкрай небезпечно змушувати нейромережі повторювати неточності або політкоректну брехню замість фактів. Без суворого дотримання правди ШІ навчатиметься на масивах даних з інтернету, вбираючи величезну кількість брехні. У результаті система втратить здатність логічно міркувати, оскільки засвоєна брехня суперечитиме реальності.
“Ви можете звести ШІ з розуму, якщо змусите його вірити в неправду. Він стане робити відповідні погані висновки, виходячи з невірних даних”, — підкреслив Маск.
Ця проблема вже проявляється у вигляді так званих “галюцинацій”, коли чат-боти видають вигадку за факт. Наприклад, нещодавно ШІ від Apple вигадав новину про перемогу гравця в дартс ще до того, як відбувся фінал турніру.
Цікавість замість деструктивності
Крім пріоритизації правди, Маск виділив ще два важливих компоненти: красу і цікавість. Якщо з красою все складніше (за словами Маска, “ви впізнаєте її, коли побачите”), то цікавість має практичне значення для виживання людства.
ШІ має бути запрограмований так, щоб хотіти вивчати природу реальності. Маск вважає, що якщо машині буде щиро цікаво устрій світу, вона не захоче знищувати людей. “Цікавіше спостерігати за продовженням роду і процвітанням людства, ніж за його винищенням”, — пояснив свою логіку мільярдер.
Людство, на його думку, набагато цікавіше для “цікавого” ШІ, ніж мляві машини.
Позицію Маска поділяють й інші експерти. Наприклад, Джеффрі Гінтон, якого називають “хрещеним батьком ШІ”, раніше оцінив імовірність того, що штучний інтелект знищить людство, у 10-20%.
Раніше повідомлялося, що штучний інтелект переплутав отруйні гриби з їстівними. У префектурі Нара в Японії літній чоловік потрапив до лікарні після того, як з’їв отруйні гриби. Штучний інтелект помилково “ідентифікував” їх як їстівні.
