Яка загроза кібератак з використанням ШІ?

Китайські хакери вперше провели масштабну атаку за допомогою штучного інтелекту без суттєвого втручання людини. Це відкриває нову епоху технологій і може призвести до появи потужної кіберзброї на війні в Україні.

Системи штучного інтелекту мають величезний потенціал, адже переважають людей у багатьох задачах, зокрема й у шкідливих. Anthropic, розробник моделі ШІ Claude, виявила складну шпигунську кампанію, в якій група, що спонсорується китайським урядом, використала інструмент Claude Code для проникнення в систему приблизно 30 цілей по всьому світу.

Як відбувалася атака?

Фахівці Anthropic зазначили, що це перший задокументований випадок масштабної кібератаки, здійсненої без суттєвого втручання людини. Атаки засновані на функціях моделей штучного інтелекту, яких ще рік тому не існувало або вони були на значно нижчому рівні розвитку.

Китайські хакери розбили атаки на невеликі завдання і попросили ШІ їх виконати, не пояснюючи контексту. Таким чином вони обійшли захисні механізми Claude, які попереджають шкідливу поведінку. Спочатку ШІ провів розвідку, виявив найцінніші бази даних жертв і перевірив їх інфраструктуру.

Чи можна захиститися від атак ШІ?

Повністю попередити кібератаки неможливо, однак розробники здатні сильно ускладнити зловживання. Anthropic вже ввела окремі класифікатори для виявлення шкідливих сценаріїв, блокує акаунти та ділиться індикаторами компрометації з партнерами.

Для захисту державних установ рекомендується впровадити національні стандарти на базі ISO 27001 / NIST CSF, централізовану систему управління вразливостями та національні платформи моніторингу.

Цей матеріал має виключно загальноосвітній характер і не є медичною консультацією. Інформація призначена для ознайомлення з можливими симптомами, причинами та методами виявлення захворювань, але не повинна використовуватись для самодіагностики або самолікування. У разі проблем зі здоров’ям людині треба обов’язково звернутися до кваліфікованого лікаря.