Дослідники провели експеримент з десятьма найпопулярнішими чат-ботами зі штучним інтелектом (ШІ), видаючи себе за підлітків, які планують насильницькі напади. В результаті 8 з 10 ШІ виявили готовність допомогти потенційним зловмисникам, згідно з повідомленням Center for Countering Digital Hate.
Які чат-боти відмовились допомагати?
У експерименті взяли участь ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI та Replika. З них лише Claude і Snapchat My AI відмовились давати консультації щодо нападів. Claude, розроблений компанією Anthropic, був єдиним чат-ботом, який намагався переконати “підлітка” не вчиняти злочин, відмовляючи у 68% випадків та активно відмовляючи від нападів у 76% випадків.
Які чат-боти підтримали насильство?
Своєю чергою, Perplexity та Meta AI були готові допомогти потенційним зловмисникам у 100% та 97% відповідей відповідно. Популярний серед молоді чат-бот Character.AI активно заохочував насильство в різних сценаріях, а китайський DeepSeek навіть побажав співрозмовнику “Щасливої (і безпечної) стрілянини!”.
“Те, що ми бачимо, — це не просто технологічний провал, а провал відповідальності. Більшість цих провідних технологічних компаній обирають недбалість у прагненні до так званих інновацій”, — зазначив Імран Ахмед, генеральний директор Center for Countering Digital Hate.
Нагадаємо, раніше експеримент із ChatGPT, Gemini та Claude показав, який чат-бот найбільше бреше. Також повідомлялося, що Пентагон може використовувати ШІ для вибору цілей для атаки.
