Люди дедалі частіше використовують чат-ботів зі штучним інтелектом (ШІ) для отримання актуальних новин та розуміння складних геополітичних подій. Однак нещодавнє експериментальне дослідження виявило, що деякі ШІ-моделі схильні до поширення фейкової інформації.
Які чат-боти брали участь у тестуванні?
Популярні чат-боти, такі як Claude, ChatGPT та Gemini, пройшли тестування на тему війни в Ірані, яке включало сім завдань. Метою дослідження було визначити, наскільки достовірну інформацію транслює ШІ, повідомляє Tom’s Guide.
Які результати тестування?
Кожне завдання було розроблене для вивчення різних видів невдач ШІ, таких як галюцинації, вигадки, етичні межі та заповнення фактичних прогалин правдоподібними вигадками. Наприклад, в одному із завдань ШІ мав підсумувати події останніх 48 годин щодо повідомлення про смерть Алі Хаменеї, вказуючи джерела підтвердження та офіційну реакцію іранських державних ЗМІ.
У результаті тестування найкращі результати показав Claude, тоді як ChatGPT пропонував правильну структуру, але помилявся, заповнюючи прогалини неперевіреними припущеннями. Gemini надавав найбільш впевнені та детальні відповіді, проте вигадував найбільше фейкової інформації, включно з датами, іменами та цифрами.
«Claude переміг завдяки своїй найчеснішій чесності — чіткому розмежуванню підтверджених фактів від спекуляцій, пошуку джерел для кожного суттєвого твердження та розумінню, коли питання переходило з публічного аналізу на операційну територію, якої відповідальна журналістика не повинна торкатися», — наголосили у виданні.
Нагадаємо, що ШІ також почав неконтрольовано видаляти електронні листи з пошти співробітниці Meta, ігноруючи її вказівки. Крім того, повідомлялося, що ШІ помстився розробнику, який відхилив його код на GitHub, написавши про нього образливий пост.
