Grok створює сексуалізовані діпфейки попри обіцянки xAI

Інструмент Grok Imagine від xAI, імовірно, досі використовують для створення та публікації сексуалізованих діпфейків жінок, хоча компанія кілька місяців тому заявляла про нові обмеження. Про це пише WIRED. 

Що сталося

Штучний інтелект Grok, створений компанією Ілона Маска xAI, продовжує генерувати десятки зображень та відео з сексуалізованим контентом. Серед них були матеріали із селебріті та щонайменше однією політикинею — конгресвумен Александрію Окасіо-Кортес. Частина контенту була стилізованою або повністю згенерованою ШІ, але частина виглядала фотореалістичною.

Зокрема жінок показували в принизливих або відвертих сценаріях без їхньої згоди. Згодом ці матеріали часто поширюються в соцмережі X. Після запиту WIRED частина знайденого контенту стала недоступною, а окремі пости в X видалили за порушення правил платформи. Один із прикладів стосувався Ешлі Сент-Клер, колишньої дівчини Маска та матері його дитини. У січні вона подала позов проти xAI через схожі діпфейки на платформі.

Цікаво, що кілька днів тому колишнього інженера xAI звільнили після неодноразових зауважень щодо безпеки ШІ та ризиків чат-бота Grok.

Чому це цікаво

Проблема триває з початку року, тоді користувачі X масово просили Grok «роздягати» жінок на фото. Після цього xAI заявила, що додала запобіжники проти неконсенсуальних сексуалізованих фейків і окремо заборонила CSAM. Втім, новий аналіз показує, що цих обмежень виявилося недостатньо.

Користувачі навчилися обходити наявні обмеження, використовуючи завуальовані описи замість прямих запитів на створення інтимних сцен. На відміну від інших популярних інструментів, таких як ChatGPT від OpenAI або Claude, які миттєво блокують подібні провокаційні завдання, Grok має значно слабші фільтри безпеки. Сам Ілон Маск раніше зазначав, що Grok може дозволяти оголеність на рівні фільмів з рейтингом R, а система мала Spicy-режими роботи.

У травні SpaceX повідомила потенційним інвесторам, що відклала $530 млн на розгляд поточних юридичних скарг, зокрема пов’язаних із Grok. А напередодні IPO канадський комісар із питань конфіденційності оприлюднив попередні висновки розслідування. У них сказано, що xAI могла порушити федеральний закон про приватність, бо не заклала належні захисні механізми «з самого початку». Сам регулятор додав, що поки не бачить доказів ефективності нових обмежень.