Кіберзлочинці намагалися обійти багатофакторний захист в інструменті системного адміністрування.
Фахівці з безпеки Google повідомили, що вперше зафіксували випадок, коли кіберзлочинці застосували штучний інтелект для розробки та підготовки атаки експлойту “нульового дня”. Як зазначає Bloomberg, йдеться про раніше невідомий недолік в інструменті для системних адміністраторів, який дозволяв обходити багатофакторну автентифікацію.
У Google зазначили, що мають “високий рівень впевненості” в тому, що штучний інтелект був залучений для виявлення вразливостей та їх перетворення на ефективний інструмент кібератаки. За словами дослідників, цей випадок став першим, коли команда розвідки загроз Google виявила використання ШІ для створення подібного експлойту.
Компанія стверджує, що встигла попередити розробника програмного забезпечення до того, як зловмисники змогли атакувати користувачів. Вразливості “нульового дня” є особливо небезпечними, оскільки розробники зазвичай не знають про їх існування до моменту атаки та не мають можливості випустити виправлення.
Компанія не розкрила назву хакерського угруповання, ураженого програмного забезпечення чи моделі штучного інтелекту, яка могла бути використана. Водночас представник Google одразу спростував можливість застосування моделі Mythos від Anthropic або системи Gemini для цієї атаки.
У Google підкреслили, що новий інцидент демонструє реальність таких ризиків вже сьогодні. За інформацією компанії, хакерська група використала ШІ для виявлення невідомого недоліку, який дозволяв обходити багатофакторну автентифікацію — один із основних механізмів захисту корпоративних систем.
Нагадаємо, Anthropic у квітні повідомила, що не планує широко відкривати доступ до моделі Mythos через ризики використання ШІ для виявлення та експлуатації вразливостей програмного забезпечення. Після цього у США відбулися зустрічі представників Білого дому та технологічних компаній щодо потенційних загроз від великих мовних моделей, зокрема в рамках однієї з таких зустрічей Anthropic заборонили масштабувати Mythos для 120 організацій.