Неконсенсуальне ШІ-порно зробить жертвами всіх нас: чи встигне закон?

Ця стаття була спільно опублікована з The 19th, некомерційною редакцією, що висвітлює гендерну тематику, політику та державну політику. Підпишіться на розсилку The 19th тут.

\ Понад два десятки студентів старшої школи Вестфілд у Нью-Джерсі були жахливо вражені минулого року, дізнавшись, що їхні оголені зображення циркулюють серед однолітків. За даними школи, деякі студенти використовували штучний інтелект (ШІ) для створення порнографічних зображень інших з оригінальних фотографій. І вони не єдині дівчата-підлітки, які стають жертвами підроблених оголених фото: студенти у штаті Вашингтон та Канаді також повідомили про подібні ситуації, оскільки можливість реалістично змінювати фотографії стає більш доступною через веб-сайти та застосунки.

\ Зростаюче занепокоєння навколо діпфейків—зображень або відео, згенерованих ШІ—загалом посилилося ще більше в січні, коли один з них, що стосувався суперзірки Тейлор Свіфт, швидко поширився через соціальні мережі.

\ Керрі Голдберг, адвокат, яка представляє жертв порнографії без згоди—зазвичай званої помстою порно—вже понад десять років, сказала, що почала чути від жертв комп'ютерно згенерованих зображень лише нещодавно.

\ "Моя фірма бачить жертв діпфейків вже приблизно п'ять років, і це переважно були знаменитості," сказала Голдберг. "Тепер це стають діти, які роблять це дітям, щоб бути злими. Це, ймовірно, дуже занижено повідомлено, тому що жертви можуть не знати, що існує правовий захист, і не зовсім зрозуміло в усіх випадках, чи він є."

\ Керівні органи намагаються наздогнати. За минулий рік або близько того 10 штатів прийняли законодавство для криміналізації створення або поширення діпфейків конкретно. Ці штати—включаючи Каліфорнію, Флориду, Джорджію, Гаваї, Іллінойс, Міннесоту, Нью-Йорк, Південну Дакоту, Техас та Вірджинію—визначили покарання від штрафів до ув'язнення. Індіана, ймовірно, незабаром приєднається до зростаючого списку, розширивши свій поточний закон про порнографію без згоди.

\ Представник Індіани Шерон Негел, республіканка, створила запропоноване розширення. Існуючий закон визначає "помсту порно" як розкриття інтимного зображення, такого як будь-яке, що зображує статевий акт, відкриті геніталії, сідниці або груди жінки, без згоди особи, зображеної на зображенні. Запропонований законопроєкт Негел пройшов через обидві палати і зараз очікує підпису губернатора.

\ Негел сказала, що її мотивувало оновити кримінальний кодекс Індіани, коли вона почула історію вчительки старшої школи, яка виявила, що деякі з її студентів поширювали діпфейк зображення її. Це було "неймовірно руйнівним" для особистого життя вчительки, і Негел була здивована, побачивши, що винні не можуть бути притягнуті до відповідальності за чинним законодавством.

\ "Це почалося з моєї освіти щодо розуміння технології, яка зараз доступна, і читання про інцидент за інцидентом обличь людей, прикріплених до вигаданого тіла, яке виглядає неймовірно реальним і реалістичним," сказала Негел. "Це просто тривожно. Будучи мамою та бабусею і думаючи про те, що може статися з моєю сім'єю та мною—це шокує. Ми повинні випередити такі речі."

\ Голдберг, чия юридична фірма спеціалізується на сексуальних злочинах, сказала, що очікує, що більше штатів продовжать розширювати своє існуюче законодавство, щоб включити мову ШІ.

\ "Десять років тому лише три штати мали закони про помсту порно або сексуальне насильство на основі зображень," сказала Голдберг. "Тепер 48 штатів заборонили помсту порно, і це справді створило величезне зменшення помсти порно—не дивно—саме так, як ми, адвокати, і казали. Весь підйом діпфейків заповнив прогалини, ставши новим способом сексуально принижувати когось."

\ У 2023 році понад 143 000 нових відео, згенерованих ШІ, було розміщено в Інтернеті, згідно з Associated Press. Це величезний стрибок з 2019 року, коли веб-сайти або застосунки "nudify" були менш поширеними, і все ще було майже 15 000 цих підроблених відео онлайн, згідно зі звітом Deeptrace Labs, компанії візуальної розвідки загроз. Навіть тоді ці відео—96 відсотків яких містили порнографію без згоди жінок—набрали понад 100 мільйонів переглядів.

\ Голдберг сказала, що політики та громадськість однаково здаються більш мотивованими заборонити згенеровані ШІ оголені зображення саме тому, що практично будь-хто може стати жертвою. Є більше емпатії.

\ "З помстою порно, у першій хвилі обговорень, всі звинувачували жертву і змушували їх здаватися якимось збоченцем за те, що зробили зображення або дурними за те, що поділилися ним з іншою особою," сказала Голдберг. "З діпфейками ви не можете дійсно звинувачувати жертву, тому що єдине, що вони зробили, це мали тіло."

\ Аманда Маньяме, радник з цифрових прав з Південної Африки для Equality Now, міжнародної правозахисної організації, зосередженої на допомозі жінкам та дівчатам, сказала, що практично немає захисту для жертв діпфейків у Сполучених Штатах. Маньяме вивчає політику та закони по всьому світу, аналізує, що працює, і надає юридичні поради щодо цифрових прав, особливо щодо сексуальної експлуатації та насильства, які полегшуються технологіями.

\ "Найбільша прогалина полягає в тому, що США не мають федерального закону," сказала Маньяме. "Виклик полягає в тому, що питання регулюється штат за штатом, і природно, немає єдності чи координації, коли йдеться про захист."

\ Однак зараз є просування на Капітолійському пагорбі: двопартійна група сенаторів представила в січні Закон про протидію явним підроблених зображень та редагувань без згоди 2024 року—також відомий як Закон DEFIANCE. Запропоноване законодавство має на меті зупинити розповсюдження сексуально відвертого контенту без згоди.

\ "Ніхто—ні знаменитості, ні звичайні американці—не повинні коли-небудь знаходити себе представленими в ШІ-порнографії," сказав республіканський сенатор Джош Голі, співавтор законопроєкту, у заяві. "Невинні люди мають право захищати свою репутацію та притягувати винних до відповідальності в суді." Представник Александрія Окасіо-Кортес представила партнерський законопроєкт у Палаті представників.

\ Згідно з новим опитуванням від Data for Progress, 85 відсотків ймовірних виборців по всьому політичному спектру сказали, що підтримують запропонований Закон DEFIANCE—з 72 відсотками жінок у сильній підтримці порівняно з 62 відсотками чоловіків.

\ Але молодші чоловіки більш схильні протистояти Закону DEFIANCE, приблизно один з п'яти чоловіків віком до 45 років (22 відсотки) сказав, що вони рішуче або дещо протистоять законодавству, що дозволяє суб'єктам явних діпфейків без згоди подавати в суд на творця.

\ Даніель Дейзерот, виконавчий директор Data for Progress, сказала, що це питання показало один з "більш гострих контрастів" між молодими чоловіками та жінками, який вона бачила за деякий час.

\ "Ми можемо впевнено сказати, що жінки та чоловіки віком до 45 років мають різні думки щодо цієї політики," сказала Дейзерот. "Це питання непропорційно впливає на жінок, особливо молодих жінок, які більш схильні бути жертвами помсти порно. І я думаю, що це справді основна причина тут."

\ Голдберг сказала, що створення політики для криміналізації поганих акторів є хорошим початком, але в кінцевому підсумку недостатньо. Хорошим наступним кроком, за її словами, буде вжиття юридичних дій проти онлайн-дистриб'юторів, таких як App Store та Google Play, які надають продукти, в основному використовувані для злочинної діяльності. Платформи соціальних мереж та застосунки миттєвих повідомлень, де ці відверті зображення поширюються, також повинні бути притягнуті до відповідальності, додала Голдберг.

\ Засновники #MyImageMyChoice, низової організації, яка працює над допомогою жертвам зловживання інтимними зображеннями, погодилися, що більше повинно бути зроблено приватними компаніями, залученими до створення та розповсюдження цих зображень.

\ Засновники—Софі Комптон, Рубен Хемлін та Елізабет Вудворд—вказали, що пошукові системи, такі як Google, забезпечують більшість загального веб-трафіку на сайти діпфейк порно, тоді як компанії кредитних карток обробляють їх платежі. Інтернет-провайдери дозволяють людям отримувати до них доступ, тоді як основні сервіси, такі як Amazon, Cloudflare та Github Microsoft, розміщують їх. І соціальні мережі, такі як X, дозволяють контенту циркулювати в масштабі. Google змінив свою політику в 2015 році і почав дозволяти жертвам подавати запит на видалення окремих фрагментів контенту з результатів пошуку і відтоді розширив політику на зловживання діпфейками. Однак компанія не систематично виключає сайти сексуального насильства на основі зображень та зловживання діпфейками.

\ "Технологічні компанії мають владу блокувати, деіндексувати або відмовляти в обслуговуванні цих сайтів—сайтів, чиє ціле існування побудоване на порушенні згоди та отриманні прибутку від травми," сказали Комптон, Хемлін та Вудворд у заяві для The 19th. "Але вони вирішили не робити цього."

\ Голдберг вказала на швидкість, з якою діпфейки Тейлор Свіфт поширювалися. Одне зображення, поширене в X, раніше відоме як Twitter, було переглянуто 47 мільйонів разів до того, як обліковий запис, який його опублікував, був призупинений. Зображення продовжували поширюватися, незважаючи на зусилля компаній соціальних мереж видалити їх.

\ "Жорстокі, жіноненависницькі фотографії Тейлор Свіфт, закривавленої та оголеної на футбольному матчі Kansas City Chiefs, є символічними проблеми," сказала Голдберг. "Масштаб цього розповсюдження, включаючи на дійсно основних сайтах, посилає повідомлення всім, що це нормально створювати цей контент. Для мене це був дійсно ключовий і досить страшний момент."

\ Враховуючи високопрофільну природу жертви, інцидент викликав виражене та широке обурення з боку фанатів Свіфт і привернув увагу громадськості до проблеми. Голдберг сказала, що вона перевірила, чи видалили будь-які з онлайн-дистриб'юторів продукти зі своїх онлайн-магазинів, які полегшують та здешевлюють створення сексуально відвертих діпфейків—і вона була полегшена, побачивши, що вони це зробили.

\ Оскільки політики та суди країни продовжують намагатися реагувати на швидко розвиваючу та все більш доступну технологію, Голдберг сказала, що важливо, щоб законодавці продовжували звертатися до експертів та тих, хто працює безпосередньо з жертвами, таких як адвокати, соціальні працівники та адвокати. Законодавці, які регулюють абстрактні ідеї або швидко розвиваються технології, можуть бути "рецептом катастрофи" інакше, додала вона.

\ Маньяме також підкреслила важливість безпосереднього спілкування з тими, хто вижив, при прийнятті політичних рішень, але додала, що законодавці також повинні думати більш цілісно про проблему і не застряти надто сильно на конкретній технології—під ризиком завжди бути позаду. Наприклад, Маньяме сказала, що широка громадськість лише зараз починає розуміти ризики, що представляються ШІ та діпфейками—щось, про що вона допомогла написати звіт ще в 2021 році. Дивлячись вперед, Маньяме вже думає про Метавсесвіт—простір віртуальної реальності—де користувачі починають стикатися з випадками зґвалтування, сексуального домагання та насильства.

\ "Багато законів щодо сексуального насильства на основі зображень трохи застарілі, тому що вони говорять про помсту порно конкретно," сказала Маньяме. "Помста порно історично була більше питанням домашнього насильства, оскільки це інтимний партнер, який ділиться сексуально експлуататорським зображенням свого колишнього або існуючого партнера. Це не завжди випадок з діпфейками, тому ці закони можуть не забезпечувати достатнього захисту."

\ Крім того, Маньяме стверджувала, що багато з цих політик не змогли розширити визначення "інтимного зображення", щоб врахувати різноманітні культурні або релігійні походження. Для деяких мусульманських жінок, наприклад, може бути так само порушуючим і принизливим створення та розповсюдження зображень їхньої відкритої голови без хіджаба.

\ Коли йдеться про рішення, Маньяме вказала на дії, які можуть бути вжиті творцями застосунків, регуляторами платформ та законодавцями.

\ На етапі проектування можна вбудувати більше заходів безпеки для обмеження шкоди. Наприклад, Маньяме сказала, що є деякі застосунки, які можуть робити фотографії жінок і автоматично видаляти їхній одяг, тоді як та сама функція не працює на фотографіях чоловіків. Є способи на задній стороні цих застосунків зробити важче видалення одягу від будь-кого, незалежно від їхньої статі.

\ Однак, коли підступні діпфейки вже створені та опубліковані, Маньяме сказала, що платформи соціальних мереж та повідомлень повинні мати кращі механізми для видалення контенту після того, як жертви повідомляють про нього. Багато разів окремі жертви ігноруються. Маньяме сказала, що вона помітила, що ці великі компанії соціальних мереж більш схильні видаляти ці діпфейки в країнах, таких як Австралія, які мають сторонніх регуляторів для захисту інтересів жертв.

\ "Необхідно включити механізми моніторингу та виконання в будь-яке рішення," сказала Маньяме. "Одна з речей, які ми чуємо від багатьох тих, хто вижив, полягає в тому, що вони просто хочуть, щоб їхнє зображення було зняте. Це навіть не про проходження юридичного процесу. Вони просто хочуть, щоб цей контент зник."

\ Маньяме сказала, що це не надто велике прохання для багатьох технологічних компаній та урядових регуляторів, тому що багато вже швидко реагують на видалення неприйнятних фотографій, що стосуються дітей. Це просто питання розширення такого захисту на жінок, додала вона.

\ "Моя занепокоєність полягає в тому, що була поспішність у впровадженні законів та політики щодо ШІ без урахування того, які деякі з корінних причин цих шкод. Це багатошарова проблема, і є багато інших шарів, які потрібно розглянути."

Автори

• Маріель Паділла для The 19th

Ілюстрація

• Рена Лі

Редагування

• Флора Пейр для The 19th

\ Також опубліковано тут

\ Фото Стіва Джонсона на Unsplash