Компанія OpenAI визнала, що сканує діалоги користувачів ChatGPT і в деяких випадках передає їх у поліцію. Цей захід покликаний запобігти реальним злочинам, але викликає серйозні питання про конфіденційність і межі втручання ШІ в особисте життя.
Чому OpenAI передає діалоги у поліцію?
На тлі трагічних випадків, коли люди в уразливому стані використовували ChatGPT для порад щодо відходу з життя, OpenAI опублікувала роз’яснення своєї політики безпеки. Компанія заявила, що тепер передаватиме діалоги в правоохоронні органи, якщо виявить у них “неминучу загрозу заподіяння фізичної шкоди іншим”. Однак згадки намірів нашкодити собі, схоже, не підпадають під це правило.
Як визначатимуть загрозу?
Спеціальна команда модераторів аналізуватиме підозрілі чати, і якщо загрозу злочину вважатимуть реальною, інформацію передадуть у поліцію. Водночас OpenAI наголошує, що випадки, пов’язані із самоушкодженням або суїцидальними думками, нікуди передаватися не будуть “з міркувань поваги до приватного життя”.
Однак це рішення виглядає суперечливим і викликає багато запитань. По-перше, незрозуміло, за якими саме критеріями система визначатиме “неминучу загрозу”. По-друге, визнання факту моніторингу та передачі даних третім особам суперечить заявам компанії про захист конфіденційності користувачів, особливо на тлі судових позовів, де OpenAI відмовляється надавати логи чатів, посилаючись на приватність.
Глава OpenAI Сем Альтман раніше визнавав, що спілкування з ChatGPT не має тієї самої конфіденційності, що розмова з лікарем або адвокатом. Роз’яснення нової політики робить це очевидним: будь-який діалог з АІ-асистентом може бути прочитаний і, в певних випадках, використаний проти вас. Це важливий сигнал для всіх, хто довіряє свої особисті думки і проблеми чат-ботам.
Раніше повідомлялося, що підліток наклав на себе руки після спілкування з ChatGPT: батьки 16-річного Адама Рейна подали до суду на OpenAI, стверджуючи, що чат-бот ChatGPT сприяв його самогубству.
Цей матеріал має виключно загальноосвітній характер і не є медичною консультацією. Інформація призначена для ознайомлення з можливими симптомами, причинами та методами виявлення захворювань, але не повинна використовуватись для самодіагностики або самолікування. У разі проблем зі здоров’ям людині треба обов’язково звернутися до кваліфікованого лікаря.
