Неповнолітні стверджують про розповсюдження відвертих зображень через Discord і Telegram.
Троє підлітків з Теннессі ініціювали колективний позов проти компанії xAI Ілона Маска, звинувативши її чат-бота Grok у створенні матеріалів сексуального насильства над дітьми (Child Sexual Abuse Material, CSAM). Ці матеріали згодом поширювалися в інтернет-спільнотах і месенджерах. Позов був поданий 16 березня і стосується функцій штучного інтелекту, які, на думку позивачів, були небезпечними ще на етапі запуску, повідомляє The Verge.
Серед позивачів є двоє неповнолітніх та один дорослий, який був неповнолітнім на момент описаних подій. Одна з жертв, позначена як “Джейн Доу 1”, повідомила, що у грудні виявила на платформі Discord відверті зображення себе та щонайменше 18 інших неповнолітніх, створені за допомогою штучного інтелекту.
“Принаймні п’ять із цих файлів — одне відео та чотири зображення — демонстрували її справжнє обличчя та тіло в звичних для неї обставинах, але в сексуально відвертих позах”, — йдеться в заяві.
Згідно з даними позову, підозрюваний, якого вже затримали, використовував ці матеріали для обміну в чатах Telegram із сотнями користувачів. Стверджується, що він створював відверті зображення за допомогою Grok і обмінював їх на інший незаконний контент за участю неповнолітніх.
Позивачі зазначають, що xAI не забезпечила належної перевірки безпеки функцій штучного інтелекту. У документі також вказується, що Grok має “недоліки в дизайні” і дозволяє створювати заборонений контент.
“Це діти, чиї шкільні фотографії та сімейні знімки були перетворені на матеріали, що містять зображення сексуального насильства над дітьми, за допомогою інструменту штучного інтелекту, розробленого компанією з мільярдним оборотом, а потім стали предметом торгівлі серед педофілів”, — заявила адвокатка постраждалих Анніка К. Мартін, — “ми маємо намір притягнути xAI до відповідальності за кожну дитину, якій вони заподіяли шкоду таким чином”.
Позов передбачає компенсацію для постраждалих і вимагає заборонити xAI створювати та поширювати подібні матеріали. Суд також має розглянути питання відповідальності компанії за використання її технологій у незаконних цілях.
Інцидент викликав глобальну реакцію з боку регуляторів і політиків. У США пролунали заклики до Федеральної торгової комісії розслідувати діяльність Grok, Європейський Союз розпочав власне вивчення, а прем’єр-міністр Великої Британії Кір Стармер виступив із попередженням щодо ризиків.
У січні Сенат США ухвалив законопроєкт, який дозволяє жертвам діпфейків подавати до суду на їхніх творців. Закон Take It Down, підписаний президентом Дональдом Трампом у 2025 році, криміналізує поширення діпфейків без згоди і має набути чинності в травні.
Попри заяви компанії X про обмеження можливостей редагування зображень через Grok, журналісти виявили, що систему все ще можна використовувати для маніпуляцій із контентом. У компанії також зазначали, що користувачі, які створюють незаконні матеріали, нестимуть відповідальність на рівні з тими, хто їх публікує.