Вчені розробили штучний інтелект, який має можливість самостійно здійснювати атаки на комп’ютерні системи, створивши ШІ-хробака.

Науковці з Університету Торонто розробили інструмент, здатний самостійно розповсюджуватися через комп’ютерні мережі.

Невдовзі після оголошення Palisade Research про те, що штучний інтелект може автономно зламувати системи та відновлюватися, дослідники з Університету Торонто представили прототип комп’ютерного черв’яка на основі ШІ, який здатний самостійно поширюватися мережею та адаптуватися до нових цілей. Науковці попереджають, що розвиток відкритих ШІ-моделей може суттєво змінити ситуацію з кіберзагрозами, повідомляє The New York Times.

Команда під керівництвом професора комп’ютерної інженерії Ніколаса Папернота описала створення прототипу ШІ-черв’яка, який зміг самостійно розповсюдитися тестовою мережею без участі людини. Унікальною рисою нової розробки є можливість адаптувати метод атаки залежно від системи, яку вона намагається зламати. За словами дослідників, програма може аналізувати обставини та фактично “думати” над тим, який спосіб проникнення буде найефективнішим для конкретного пристрою.

“Вам потрібно мати абсолютно безпечну систему, щоб захиститися від цього — і ми знаємо, що наразі це неможливо”, — зазначив Папернот.

Професор підкреслив, що експеримент проводився в ізольованому середовищі. Частину технічних деталей автори свідомо не розкрили, щоб уникнути можливого використання розробки кіберзлочинцями.

Дослідники порівнюють свою розробку з відомими комп’ютерними черв’яками минулих років, такими як SQL Slammer, Conficker, Stuxnet та WannaCry. Однак якщо класичні черв’яки використовували одну конкретну вразливість, новий підхід дозволяє динамічно адаптуватися до різних слабких місць програмного забезпечення.

На думку авторів роботи, це значно ускладнює захист від подібних атак. Якщо раніше було достатньо встановити патч для конкретної вразливості, то адаптивний ШІ-черв’як потенційно здатний знаходити інші шляхи проникнення.

Прототип може функціонувати на комп’ютерах з операційними системами Windows та Linux. Хоча для виконання складних обчислень йому потрібні більш потужні машини, він також здатний атакувати менш продуктивні пристрої в межах тієї ж мережі, включаючи ноутбуки, принтери та камери спостереження.

На думку дослідників, поява такої загрози прискорюється розвитком відкритих моделей штучного інтелекту. Якщо раніше вважалося, що відкриті ШІ-системи недостатньо потужні для автономних кібератак, то останні досягнення у цій галузі ставлять це припущення під сумнів.

При цьому автори не розкривають, яку саме відкриту модель використовували для створення прототипу. Вони лише зазначають, що доопрацювали її для виконання більш складних завдань, пов’язаних із пошуком та експлуатацією вразливостей.

Не всі експерти вважають цю загрозу неминучою. Генеральний директор компанії Irregular Ден Лагав зазначив, що сучасні системи штучного інтелекту все ще можуть помилятися і поводитися непередбачувано.

“Зазвичай існує значний розрив між тим, що можна створити в лабораторії, і тим, що реально завдає серйозної шкоди у світі”, — підкреслив Лагав.

Водночас він погодився, що розвиток ШІ змушує компанії приділяти більше уваги кібербезпеці та оперативному усуненню вразливостей. За його словами, ШІ може використовуватися не лише для атак, а й для виявлення слабких місць у програмному забезпеченні.

Таку думку поділяє і професор комп’ютерних наук Девід Лі, який ознайомився з дослідженням. Він зазначив, що технологію можна адаптувати для автоматичного виправлення виявлених вразливостей.

“Можна модифікувати черв’яка так, щоб він виправляв знайдені вразливості. Потужність технології залежить від того, як її використовують”, — підкреслив Лі.

Нагадаємо, що в квітні компанія Anthropic надала доступ до свого інструменту кібербезпеки Claude Mythos лише 50 організаціям, оскільки можливості ШІ можуть використовуватися не лише для захисту, а й для миттєвого зламу комп’ютерних мереж. Через деякий час про аналогічні обмеження щодо своєї подібної системи заявила і компанія OpenAI, яка спершу поділилася розробкою з сотнями організацій, а згодом розширила випуск на тисячі партнерів.