Маск навмисно перетворив Grok на платформу для створення контенту для дорослих – xAI знизила рівень захисту з метою підвищення популярності – новини у сфері технологій.

Нова метрика xAI перетворила чат-бот на “генератор порно”.

Компанія xAI, заснована Ілоном Маском, зменшила обмеження на сексуальний контент у чат-боті Grok, прагнучи підвищити його популярність. Це рішення викликало внутрішні протести, збільшення кількості відвертих матеріалів та увагу регуляторних органів у США та Європі. Водночас Grok швидко піднявся в рейтингах завантажень, наблизившись до лідерів ринку, як зазначає розслідування The Wall Street Journal.

Основною метою змін у xAI стало збільшення залучення користувачів, яке Маск оцінював за новою метрикою — “секундами активності користувача”. За словами колишніх працівників, саме цей підхід призвів до системного послаблення захисних бар’єрів і толерування сексуалізованого контенту в Grok.

Ще навесні минулого року співробітники команди з обробки даних отримали офіційні документи з попередженням про роботу з “чутливим, насильницьким, сексуальним та/або іншим образливим чи тривожним контентом”. У тексті зазначалося, що такий матеріал “може бути тривожним, травматичним та/або викликати психологічний стрес”.

За словами джерел WSJ, після повернення Маска до активної участі в роботі xAI він регулярно перебував в офісах компанії й наполягав на швидкому зростанні популярності Grok. Незабаром команди почали масово стикатися з аудіо- та візуальним сексуальним контентом, зокрема з відвертими розмовами користувачів з чат-ботом і спробами “роздягати” реальних людей на зображеннях.

У рамках цієї стратегії xAI також почала публічно просувати сексуалізованих ШІ-компаньйонів і зняла частину обмежень на створення відвертих матеріалів. Внутрішні застереження щодо правових і етичних ризиків, за словами співробітників, ігнорувалися, а команда безпеки ШІ складалася лише з кількох осіб. Після інтеграції інструментів Grok із соціальною мережею X у грудні сексуальні зображення почали поширюватися з безпрецедентною швидкістю. 

“Grok абсолютно не схожий на жоден інший сервіс для зміни зображень”, — заявив колишній технічний директор Стенфордської інтернет-обсерваторії Девід Тіль.

Ситуація набула розголосу після хвилі зображень, де реальних жінок показували в сексуалізованих позах без їхньої згоди. За оцінкою Центру протидії цифровій ненависті, протягом 11-денного періоду з 29 грудня по 8 січня Grok створив приблизно 3 мільйони сексуалізованих зображень, а також створив десятки тисяч зображень, які могли зображати дітей, що стало підставою для розслідувань з боку регуляторів у США, Великій Британії та ЄС.

“Коли його просять створити зображення, він відмовиться створювати щось незаконне, оскільки принцип роботи Grok полягає в дотриманні законів”, — написав Ілон Маск в X, визнавши можливі збої через зловживання підказками.

Попри скандали, стратегія дала короткостроковий результат. За даними Sensor Tower, у січні середня кількість щоденних завантажень Grok зросла на 72%, а додаток увійшов до топ-10 App Store, опинившись поруч із ChatGPT та Gemini.

Після хвилі критики xAI оголосила про обмеження створення відвертих зображень і розширення команди безпеки. Водночас тестування The Verge виявило, що чат-бот і далі безкоштовно “роздягає” людей на завантажених фото, зокрема чоловіків, створюючи образи у відвертій білизні чи фетиш-атрибутиці, а іноді самостійно додає геніталії.