Мільйони жінок роздягають у нейромережах за два-три кліки - потрапити в халепу може кожен

Уявіть собі ранок звичайної одинадцятикласниці. Вона викладає в соцмережі нешкідливе селфі у шкільній формі. Через п'ятнадцять хвилин це фото потрапляє до закритого чату класу, але на знімку вона повністю оголена. Зображення настільки реалістичне, що виправдатися неможливо. Для однокласників вона – об'єкт глузування, для вчителів – ганьба школи. Це не сценарій антиутопії. Це будні сотень тисяч дівчат по всьому світу, які стали можливими завдяки індустрії «ШІ-роздягання».

Про нову гостру проблему, пов'язану з розвитком нейромереж пише американське видання Wired Magazine

Історія Сари: коли алгоритм ламає життя

Щоб зрозуміти масштаб біди, погляньте на випадок, який стався нещодавно в одній із шкіл Нью-Джерсі. Група підлітків використовувала популярний сервіс «нудифікації», щоб «роздягнути» понад 30 своїх однокласниць. Серед жертв були дівчатка 13–14 років.

Коли батьки звернулися до поліції, з'ясувалося: сервіс працює легально, рекламується в соцмережах, а оплата підписки проходить через ті самі системи, якими ми платимо за каву. Фотографії розлетілися по мережі миттєво. Видалити їх неможливо – інтернет пам'ятає все. Для цих дівчаток школа перетворилася на пекло, а їхня цифрова репутація була знищена ще до отримання атестату.

Це і є «цифрове зґвалтування» — акт насильства, скоєний не у підворітті, а на серверах, які коштують мільярди доларів.

Хто «гріє» сервери для ґвалтівників?

Ми звикли вважати ШІ-гігантів світочами прогресу. Але дослідження групи Indicator зриває з них маски. Виявляється, за ширмою інновацій ховається банальне пособництво.

З 85 найбільших майданчиків, що спеціалізуються на створенні інтимних дипфейків:

62 сайти використовують потужності Amazon Web Services та Cloudflare. Без цих «хмар» сайти просто впали б під напливом трафіку.

54 платформи дозволяють входити через обліковий запис Google. Це найвищий ступінь цинізму: корпорація, яка декларує безпеку дітей, дає ключ від свого будинку власникам порноботів.

Чому вони це роблять? Відповідь проста — $36 мільйонів на рік. Це лише верхівка айсберга, «консервативна оцінка» доходів індустрії, яка зростає швидше, ніж законодавці дописують абзаци в кодексах.

Технологія обману: як вони оминають заборони

Корпорації виправдовуються:

"Ми блокуємо порушників"

Але розслідування показує протилежне. Творці «роздягальня» використовують хитрі схеми «проміжних сторінок». Коли модератор Google перевіряє посилання, він бачить невинний лендинг. Але варто користувачеві натиснути кнопку «Увійти», як він провалюється в кролячу нору незаконного контенту.

Експерт із дипфейків Генрі Адждер прямо каже: це більше не кустарні вироби. Це професійний незаконний бізнес. Сайти наймають дорослих акторів для реклами, запускають партнерські програми та навіть використовують російських хакерів для просування. Вони поводяться як легальні стартапи, тому що Кремнієва долина дозволяє їм почуватися як удома.

Пастка «ліберального підходу»

Алексіос Манцарліс з Indicator називає це "ліберальним підходом Долини до ШІ". Насправді це означає: «Ми дамо вам інструменти, а що ви ними робитимете — різати хліб або розкривати вени сусідові — не наша турбота, поки ви платите за хостинг».

Цей токсичний продукт епохи ШІ неможливо просто скасувати, але його можна знекровити. Якщо Amazon відключить сервери, а Google заблокує авторизацію, аудиторія цих сайтів зруйнується. Однак поки що прибуток переважає етичні витрати, корпорації будуть оброблятися черговими фразами про «постійну роботу над безпекою».

Час жорстких рішень

У травні президент США Дональд Трамп підписав закон Take It Down, а Великобританія повністю криміналізувала створення таких дипфейків. Це важливі кроки, але закон завжди повільніший за код.

Проблема не в тому, що нейромережі «навчилися» роздягати. Проблема в тому, що ми збудували цифрову економіку, де приниження жінки коштує $9.99 за передплату, а найбільші компанії світу не соромляться брати з цих грошей свій відсоток.

Якщо ми не змусимо технологічних гігантів нести відповідальність за «бруд», який вони хостять, то завтра до цифрового прицілу потрапить кожен із нас. І виправдатись перед світом буде неможливо.