Команда Calif за п’ять днів розробила експлойт, використовуючи інструменти Mythos від Anthropic.
Фахівці з американської компанії Calif оголосили про новий метод обходу системи захисту MacOS, який вони виявили під час тестування ранньої версії штучного інтелекту Mythos від Anthropic. На їхню думку, така атака дозволяє отримати підвищені привілеї в системі та потенційно захопити контроль над комп’ютером Apple, повідомляє The Wall Street Journal.
Проблеми були виявлені у квітні під час тестування програмного забезпечення Mythos. Дослідники стверджують, що їм вдалося поєднати дві вразливості в MacOS із кількома техніками пошкодження пам’яті, що дозволило отримати доступ до частин системи, які мають бути ізольованими від користувача. У поєднанні з іншими атаками так званий експлойт ескалації привілеїв може дати змогу хакерам повністю захопити контроль над пристроєм.
Особливу увагу дослідників привернуло те, що атаку вдалося реалізувати проти MacOS, оскільки цю систему вважають однією з найскладніших цілей для злому в індустрії.
Фахівці Calif настільки серйозно поставилися до свого відкриття, що особисто приїхали з Пало-Альто до штаб-квартири Apple у Купертіно, щоб передати компанії 55-сторінковий звіт із описом виявлених помилок. Вони зазначили, що оприлюднять деталі атаки лише після того, як Apple випустить необхідні оновлення безпеки.
“Безпека є нашим головним пріоритетом, і ми дуже серйозно ставимося до повідомлень про потенційні вразливості”, — заявили в Apple, додавши, що вже розглядають звіт Calif.
За словами Calif, створення робочого коду для атаки за допомогою Claude Mythos зайняло лише п’ять днів. Водночас генеральний директор компанії Тай Дуонг підкреслив, що Mythos вперше продемонструвала здатність винаходити нові методи зламу, а не просто відтворювати задокументовані атаки. На його думку, такий прорив став можливим завдяки залученню досвіду професійних хакерів з Каліфорнії. Раніше ШІ не демонстрував подібної автономності у створенні унікальних кіберзагроз.
Останніми місяцями експерти дедалі частіше попереджають про можливий Bugmageddon — різке зростання кількості виявлених вразливостей через розвиток моделей штучного інтелекту. Зокрема, раніше цього року ШІ Anthropic за два тижні виявив понад 100 критичних помилок у браузері Firefox — приблизно стільки ж, скільки фахівці зазвичай знаходять за два місяці.
Нещодавно дослідники також виявили, що моделі штучного інтелекту можуть автономно зламувати комп’ютери, переносити власні файли на нові машини та продовжувати атаки без участі людини. Автори експерименту вважають, що це перша відома демонстрація самовідтворення ШІ через використання вразливостей у системах безпеки.
Тема безпеки нових моделей ШІ вже викликала занепокоєння у Вашингтоні. Білий дім раніше виступав проти поступового розширення доступу до Mythos, а зараз чиновники розглядають можливість запровадження додаткового державного контролю за найпотужнішими системами штучного інтелекту.