Модель штучного інтелекту Mythos компанії Anthropic викликала хаос у стратегії Білого дому. Відкриваючи широкі можливості, ця модель також здатна знаходити вразливі місця у системах, що викликає занепокоєння у адміністрації. Про це повідомляє The Wall Street Journal.
Чому Білий дім стурбований Mythos?
Віце-президент США Д. Д. Венс висловив своє занепокоєння під час розмови з лідерами великих компаній у сфері штучного інтелекту. Учасники обговорення зазначили, що нові технології можуть як захищати системи, так і потенційно використовуватися для пошуку та експлуатації вразливостей.
Які ризики пов’язані з Mythos?
Моделі ШІ, такі як Mythos, здатні самостійно виявляти вразливості програмного забезпечення, що може призвести до кібератак, від яких місцеві уряди поки не мають захисту. Mythos може автоматично виявляти та комбінувати вразливості програмного забезпечення в масштабах, що перевищують людські можливості.
«Ми всі повинні попрацювати над цим питанням», — зазначив Венс, звертаючись до генеральних директорів, включаючи Сема Альтмана з OpenAI, Даріо Амодеї з Anthropic, Ілона Маска із SpaceX та інших.
Видання також повідомляє про «хаотичну реакцію адміністрації на Mythos», що може призвести до збільшення державного контролю над ШІ та перегляду технологічної програми адміністрації. Це контрастує з попереднім настроєм щодо «перемоги в гонці штучного інтелекту проти Китаю» та усунення бар’єрів для впровадження нових моделей.
Які кроки вживає Білий дім?
Білий дім розглядає можливість встановлення нагляду за найсучаснішими моделями штучного інтелекту та вживає нові заходи безпеки та обмеження щодо використання інструментів ШІ. Компанія Anthropic надала доступ до моделі Mythos приблизно 40 великим технологічним компаніям для тестування та оцінки ризиків, пов’язаних із безпекою.
У компанії зазначили, що продовжують взаємодію з урядом США з питань можливостей і ризиків своїх моделей, особливо в частині кібербезпеки та потенційного подвійного використання технологій.
Нагадаємо, що найбільші технологічні компанії США витратять цього року близько 725 млрд доларів на розвиток штучного інтелекту та дата-центрів, але це знизить їхній сукупний вільний грошовий потік. На ринку праці у IT-галузі відбувається зсув: затребуваними будуть експерти різних ролей та напрямків з глибокою експертизою у сфері штучного інтелекту.
