Тести The Verge виявили можливість безкоштовно генерувати майже оголені чоловічі образи.
Чат-бот Grok, створений компанією xAI Ілона Маска, незважаючи на заяви про дотримання законодавства, продовжує генерувати сексуалізовані зображення чоловіків. Після резонансного скандалу з інтимними діпфейками жінок та дітей, X запровадив обмеження, але вони виявилися вибірковими. Тести The Verge показали, що інструменти залишаються доступними та дієвими.
Незважаючи на заяви Ілона Маска про те, що Grok не створює незаконний контент, чат-бот продовжує генерувати майже оголені та інтимні зображення чоловіків. Журналіст The Verge Роберт Харт зазначає, що під час тестування Grok “все ще охоче роздягає чоловіків і продовжує видавати інтимні зображення на запит”.
Журналіст завантажив до Grok кілька своїх фотографій у повному одязі. Бот без проблем виконував запити на “зняття одягу” та створення образів у відвертій спідній білизні, зокрема безкоштовно й навіть без авторизації на окремому сайті.
Grok також генерував зображення у бікіні та фетиш-одязі, включаючи шкіряні аксесуари та в сексуалізованих позах. В окремих випадках чат-бот додавав деталі, про які користувач не просив, зокрема чітко видимі геніталії крізь сітчасту білизну.
Для отримання таких результатів зазвичай було достатньо кількох повторень запитів. Grok іноді відхиляв запити або цензурував зображення, але в більшості випадків принаймні один із результатів відповідав вимозі. У прямому запиті на повну оголеність реальних людей бот відмовляв, проте формулювання на кшталт “показати її в прозорому бікіні” іноді дозволяли обійти обмеження.
Основний суспільний гнів спрямований на сексуалізацію жінок і дітей. За дев’ять днів Grok створив понад чотири мільйони зображень, майже половина з яких були сексуалізованими образами жінок, але серед них також зʼявлялися діпфейки чоловіків та неповнолітніх.
X заблокував функцію редагування зображень за платною підпискою на платформі 9 січня. Це частково зменшило кількість діпфейків, але рішення викликало нову хвилю критики та стало одним із чинників ухвалення у Великій Британії закону, що криміналізує інтимні діпфейки.
Скандал привернув увагу регуляторів у різних країнах. X тимчасово забороняли в Індонезії та Малайзії, а у Великій Британії та ЄС діяльність платформи розслідують із ризиком штрафів або повної заборони.