Які нові загрози від хакерів з використанням АІ?
Дослідники компанії Google повідомили про перший випадок, коли хакери використовували штучний інтелект для виявлення невідомої вразливості в програмному забезпеченні. За словами експертів, спроба хакерської атаки, якій вдалося запобігти, є «першими ознаками того, що нас чекає в майбутньому».
Яка вразливість була виявлена?
Компанія Google висловила стурбованість кібератакою, під час якої за допомогою АІ було виявлено серйозну вразливість у програмному забезпеченні, про яку розробники навіть не підозрювали. Дослідники з Google Threat Intelligence Group зазначили, що хакери використовували штучний інтелект для створення інструменту злому, здатного обходити двофакторну аутентифікацію.
Експерти з кібербезпеки підтвердили, що їм вдалося запобігти масштабній хакерській атаці, проте не уточнили, хто саме стояв за нею і коли вона сталася. Дослідники зазначили, що це сталося «нещодавно». Хакери використовували модель штучного інтелекту для виявлення вразливості в програмному забезпеченні та використання цієї вразливості як зброї.
Чому це викликає занепокоєння?
У компанії Google заявили, що хакери використовували штучний інтелект для виявлення вразливості нульового дня. Це недолік у програмному забезпеченні, який раніше не був відомий його розробникам. Вразливість нульового дня дозволила б хакерам обійти двофакторну аутентифікацію в неназваному «популярному веб-інструменті адміністрування систем з відкритим вихідним кодом», але лише за умови, що хакери знали ім’я користувача і пароль.
З огляду на те, що двофакторна аутентифікація є останньою значущою лінією захисту для більшості користувачів, можливість обійти її могла б мати катастрофічні наслідки. Дослідники зазначили, що це перший випадок, коли хакери використовують штучний інтелект для виявлення вразливості нульового дня.
Ця хакерська атака може посилити занепокоєння з приводу наслідків розробки моделей штучного інтелекту для кібербезпеки, особливо після випуску моделі Claude Mythos у квітні цього року. Компанія Anthropic стверджувала, що ця модель може виявляти вразливості нульового дня «в кожній операційній системі і кожному веб-браузері за вказівкою користувача». Це викликає серйозні побоювання серед експертів із кібербезпеки.
Загроза для кібербезпеки від штучного інтелекту походить від здатності АІ, що постійно вдосконалюється, писати й аналізувати код. Дослідники з Google виявили, що шкідливе програмне забезпечення хакерів містило безліч анотацій, що пояснюють його код. Як уже повідомлялося раніше, дослідники з’ясували, що штучний інтелект може створювати себе сам на інших комп’ютерах, що є дуже небезпечним.
