Доступ до інформації знову закрили через дві години після початку інциденту.
У Meta зафіксували витік конфіденційних даних внаслідок роботи агента штучного інтелекту. Інцидент стався після того, як співробітник звернувся за допомогою на внутрішньому форумі, і, виконуючи запропоноване рішення, він відкрив доступ до інформації. Компанія стверджує, що цей випадок не призвів до неналежного використання даних, повідомляє The Guardian.
Агент штучного інтелекту надав рішення, яке працівник реалізував, що призвело до відкриття значного обсягу даних користувачів і компанії для інших інженерів. Доступ до цієї інформації залишався відкритим приблизно дві години.
“Жодні дані користувачів не були неправильно використані”, — зазначив представник Meta, додавши, що подібні помилки можуть виникати також через рекомендації людей.
Інцидент викликав внутрішнє попередження про безпеку. Це, за словами компанії, свідчить про серйозне ставлення до захисту даних.
Компанія Amazon нещодавно також зазнала щонайменше двох збоїв через використання внутрішніх ШІ-інструментів. За словами працівників компанії, інтеграція штучного інтелекту в робочі процеси призвела до помилок у коді та зниження продуктивності. Вони також зазначали на поспішність у впровадженні нових рішень.
Технологія агентного ШІ швидко прогресує і вже демонструє здатність виконувати складні завдання автономно. Зокрема, інструмент Claude Code від Anthropic привернув увагу своєю здатністю виконувати різні дії без прямого втручання людини. Водночас такі системи можуть допускати помилки через обмеження контексту.
“З ретроспективи ця вразливість була б для Meta дуже, дуже очевидною, хоча й не в той момент…Meta експериментує у великому масштабі”, — зазначив співзасновник консалтингової компанії Тарек Нсейр.
Фахівці з безпеки підкреслюють, що ШІ-агенти не мають довгострокового контексту, який дозволяє людям оцінювати ризики. За словами експерта Джеймісона О’Райлі, це може призводити до рішень, які відкривають доступ до чутливих даних.
“Неминуче буде ще більше помилок”, — підсумував Нсейр.
Нагадаємо, що Meta розглядає можливість масштабного скорочення понад 20% персоналу на тлі стратегічної переорієнтації на розробку генеративного штучного інтелекту. Генеральний директор Марк Цукерберг пояснює такі кроки підвищенням ефективності, де окремі фахівці із застосуванням ШІ здатні замінити цілі команди.