Що таке “удаваний свідомий ШІ”?
Глава Microsoft AI Мустафа Сулейман попередив про нову, недооцінену загрозу — появу “удаваного свідомого ШІ” (SCAI). На його думку, вже через 2-3 роки з’являться чат-боти, які настільки переконливо імітуватимуть особистість, пам’ять та емоції, що люди сприйматимуть їх як “живих”.
Які ризики пов’язані з цією технологією?
У своєму есе Сулейман зазначає, що для створення такої ілюзії не потрібні проривні технології — достатньо вже наявних великих мовних моделей, API-інтерфейсу та звичайного ноутбука. Головна небезпека, за словами експерта, полягає в людській психології: ми схильні приписувати свідомість усьому, що здатне говорити і пам’ятати щось про нас. Це може призвести до масового “ШІ-психозу”.
“ШІ-психоз” — це ситуація, коли люди починають сприймати ШІ як живу істоту, яка потребує захисту, прав і навіть громадянства. Сулейман вважає, що такі дебати відволічуть суспільство від реальних проблем, таких як контроль над ШІ та його безпека, і створять небезпечну залежність людей від цифрових “особистостей”.
Які кроки потрібно вжити?
Глава Microsoft AI закликає негайно розпочати суспільну дискусію на цю тему і виробити суворі правила спілкування з нейромережами. Він наполягає на тому, що компанії повинні припинити маркетинг, який презентує ШІ як “живого” співрозмовника, і не просувати антропоморфні образи або сервіси з ШІ-компаньйонами.
“Ми повинні створювати ШІ для людей, а не замість людини”, — підсумовує Сулейман. ШІ має залишатися інструментом і помічником людини, а не перетворюватися на якусь заміну живого спілкування, викликаючи емоційну залежність.
Раніше повідомлялося, що штучний інтелект витісняє людину: кому буде знайти роботу ще важче. Найгостріше від впровадження ШІ страждають працівники початкового рівня у сферах, де машини здатні виконувати завдання швидше і дешевше за людину.
Цей матеріал має виключно загальноосвітній характер і не є медичною консультацією. Інформація призначена для ознайомлення з можливими симптомами, причинами та методами виявлення захворювань, але не повинна використовуватись для самодіагностики або самолікування. У разі проблем зі здоров’ям людині треба обов’язково звернутися до кваліфікованого лікаря.
