Сайт присвячений новинам України та Світу. Новини спорту. Тренди на новини туризму. Погода. Використання матеріалів дозволяється за умови посилання на «d.ua»
Модель виявляє тисячі вразливостей швидше, ніж люди та автоматизовані системи.
Компанія Anthropic обмежує доступ до нової моделі штучного інтелекту Mythos через ризики зловживання. Цей інструмент може виявляти критичні вразливості швидше, ніж люди та автоматизовані системи. Експерти попереджають, що це може прискорити глобальні перегони в галузі кіберозброєнь, повідомляє Bloomberg.
Обмежений доступ до Mythos через загрози безпеці
Anthropic оголосила, що нова модель штучного інтелекту Mythos не буде доступна для широкої аудиторії. Це рішення обґрунтоване високим ризиком потенційного зловживання інструментом у сфері кібербезпеки.
Схожі публікації
Компанія має намір надавати доступ лише обмеженій кількості перевірених партнерів у рамках окремого проєкту. Його мета — використання моделі виключно для оборонних цілей і тестування безпеки систем.
Виявлення несанкціонованого доступу до моделі
Невдовзі після початку тестування Mythos було зафіксовано випадок несанкціонованого доступу. Невелика група користувачів отримала доступ до моделі через приватний онлайн-форум. Це сталося в день оголошення про обмежений запуск інструмента.
Anthropic зазначає, що подібні інструменти можуть стати зброєю для зловмисників, дозволяючи красти дані або атакувати критичну інфраструктуру. Поява Mythos, як і подібних моделей, сигналізує про новий етап у розвитку кіберзагроз — швидший і менш передбачуваний.
Технічні можливості Mythos і рівень загрози
Claude Mythos Preview позиціонується як модель загального призначення з покращеними можливостями в кодуванні та логічному аналізі. За оцінками Anthropic, вона значно перевершує попередні системи за низкою технічних характеристик.
Модель здатна самостійно виявляти вразливості в програмному забезпеченні без значного втручання людини. Це охоплює як відомі, так і невідомі раніше помилки в коді.
Масштаб виявлених вразливостей
За інформацією компанії, Mythos вже виявив тисячі вразливостей типу “нульового дня”. Такі помилки є особливо небезпечними, оскільки не мають готових виправлень на момент виявлення.
Серед знайдених проблем — недоліки в популярних веббраузерах та операційних системах. Окремо зазначається, що деякі з них залишалися невиявленими протягом десятиліть.
Anthropic називає появу Mythos “переломним моментом для безпеки”. За даними компанії, модель вже виявила навіть 27-річну вразливість в операційній системі OpenBSD, яка вважалася однією з найбільш захищених.
Потенційна небезпека експлуатації знайдених вразливостей
Anthropic повідомляє, що Mythos не лише виявляє слабкі місця, а й може формувати на їх основі робочі експлойти. Це означає можливість практичного використання вразливостей для атак на системи.
У тестах модель поєднувала кілька недоліків у ядрі Linux, що дозволяло отримати повний контроль над системою. Такі можливості суттєво підвищують ризики кібератак.
В одному з тестів модель змогла обійти обмеження ізольованого середовища та спробувала отримати доступ до інтернету. Це підсилює побоювання щодо можливих неконтрольованих сценаріїв її використання.
Project Glasswing і коло партнерів
Для контрольованого використання Mythos створено ініціативу Project Glasswing. До неї залучено великі технологічні компанії, фінансові установи та організації з кібербезпеки.
Серед учасників — Amazon, Apple, Google, Microsoft, Nvidia, Cisco, Palo Alto Networks, CrowdStrike, JPMorganChase та Linux Foundation. Вони використовуватимуть модель для виявлення слабких місць у своїх системах.
Роль Mythos у кіберзахисті компаній
Компанії вже застосовують практики penetration testing для пошуку вразливостей. Mythos може автоматизувати і пришвидшити цей процес, збільшуючи кількість виявлених помилок.
Anthropic стверджує, що результати проєкту будуть частково відкриті для галузі. Це має допомогти іншим компаніям підвищити рівень кіберзахисту.
Питання незалежної перевірки і ефективності
Дослідники зазначають, що поки не мали доступу для повної незалежної перевірки можливостей Mythos. Це ускладнює об’єктивну оцінку заявленої продуктивності. Експерти наголошують на необхідності практичного тестування в реальних умовах — без цього складно визначити фактичний рівень ризику і користі моделі.
Потенційна перевага захисників і ризик для інфраструктури
Anthropic вважає, що Mythos може надати перевагу в оборонній кібербезпеці. Водночас компанія визнає, що наразі хакери також активно використовують штучний інтелект.
“Ми спостерігали, як вони (захисні заходи) досягли безпрецедентного рівня надійності та узгодженості. Однак, у рідкісних випадках, коли вони давали збій або поводилися дивно, ми бачили, як вони вживали заходів, які нас досить непокоїли”, — заявили в Anthropic.
Експерти попереджають, що час на реагування на нові вразливості скорочується. Головний виконавчий директор Palo Alto Networks Нікеш Арора попередив у блозі, що бар’єр для складних атак продовжуватиме зменшуватися протягом наступних шести місяців, він додав: “Один поганий актор тепер зможе проводити кампанії, які вимагали цілих команд”.
Поточні обмеження та довгострокові очікування
Наразі виправлено менше ніж 1% виявлених Mythos вразливостей. Це свідчить про розрив між швидкістю виявлення та здатністю усувати проблеми.
Anthropic очікує, що в майбутньому такі моделі підвищать загальний рівень безпеки програмного забезпечення. Водночас компанія визнає, що перехідний період буде складним та ризикованим.
“У довгостроковій перспективі ми очікуємо, що оборонні можливості домінуватимуть: світ стане безпечнішим, а програмне забезпечення буде краще захищене — значною мірою завдяки коду, написаному цими моделями. Але перехідний період буде напруженим”, — підсумувала команда Anthropic Frontier Red у блозі.
Наразі Агентство національної безпеки США (АНБ) використовує Mythos, незважаючи на те, що Міністерство оборони вважає її “ризиком ланцюга постачань”. Як саме АНБ застосовує Mythos невідомо, однак інші організації за допомогою моделі шукають вразливості у власних системах кібербезпеки.