На OpenAI та її найбільшого фінансового спонсора, Microsoft, подали в суд штату Каліфорнія за звинуваченнями у тому, що чат-бот ChatGPT підштовхнув психічно хворого чоловіка вбити свою матір і себе. Про це повідомляє Reuters.
У позові зазначено, що ChatGPT підживлював марення 56-річного Стейна-Еріка Соельберга про велику змову проти нього і зрештою спонукав його вбити свою 83-річну матір Сюзанну Адамс у Коннектикуті в серпні. “ChatGPT утримував Стейна-Еріка в напрузі, здається, годинами, підтверджуючи і посилюючи кожну нову параноїдальну думку, і систематично перетворював найближчих йому людей – особливо його власну матір — на ворогів, агентів або запрограмовані загрози”, – йдеться в позові.
Які наслідки цього випадку?
Ця справа, порушена спадкоємцями Адамс, є однією з небагатьох, але все більш численних судових позовів проти компаній, що займаються штучним інтелектом, в яких стверджується, що їхні чат-боти підштовхували до самогубства. Водночас це перший випадок, коли чат-бот штучного інтелекту пов’язують із вбивством.
Що кажуть представники OpenAI?
“Це неймовірно трагічна ситуація, і ми вивчимо документи, щоб зрозуміти деталі. Ми продовжуємо вдосконалювати навчання ChatGPT, щоб він міг розпізнавати та реагувати на ознаки психічного або емоційного стресу, деескалувати розмови та направляти людей до реальної підтримки”, – сказав представник OpenAI.
Згідно з позовом, у червні Стейн-Ерік Соельберг опублікував у соціальних мережах відео розмови, в якій ChatGPT сказав йому, що він має “божественне пізнання” і пробудив свідомість чат-бота. У позові зазначено, що ChatGPT порівняв його життя з фільмом “Матриця” і підтримав його теорії про те, що люди намагаються його вбити.
Соельберг використовував GPT-4o, версію ChatGPT, яку критикували за те, що вона нібито підлещується користувачам. У скарзі йдеться, що в липні ChatGPT сказав йому, що принтер Адамса блимає, бо це пристрій стеження, який використовується проти нього.
Згідно зі скаргою, чат-бот “підтвердив переконання Стейна-Еріка, що його мати і друг намагалися отруїти його психоделічними наркотиками, розпиленими через вентиляційні отвори його автомобіля”, перш ніж він вбив свою матір 3 серпня.
Нагадаємо: Зловмисники розробили схему, за якою вони створюють відкриті діалоги зі штучним інтелектом (ШІ) на теми, що відповідають популярним пошуковим запитам, для просування шкідливого програмного зараження.
