Генеральний прокурор Каліфорнії Роб Бонта надіслав лист із вимогою припинити діяльність компанії xAI Ілона Маска, вимагаючи, щоб бізнес негайно припинив виробництво та поширення образливих deepfake-зображень, створених його чат-ботом Grok.
Генеральний прокурор Каліфорнії оприлюднив лист із вимогою припинити діяльність у п'ятницю у відповідь на звинувачення, що Grok використовувався для створення незаконного контенту за участю дітей та неконсенсуальних фотографій дорослих, що спричинило розслідування штату Каліфорнія. Бонта стверджував, що створення, розповсюдження, публікація та демонстрація CSAM є незаконними.
Генеральний прокурор Каліфорнії спрямовує увагу на xAI через alleged зловживання Grok
Раніше цього тижня офіс генерального прокурора Каліфорнії заявив, що він вивчає xAI через звинувачення, що чат-бот стартапу Grok використовувався для створення неконсенсуальних, неприйнятних зображень жінок та дітей. У відповідь уряд надіслав корпорації лист із вимогою припинити діяльність.
Офіс генерального прокурора також стверджував, що xAI, схоже, "сприяє масовому виробництву" неконсенсуальних, неприйнятних фотографій, які потім "використовуються для переслідування жінок та дівчат в інтернеті". Згідно з офісом генерального прокурора, одне дослідження виявило, що понад половина з 20 000 фотографій, створених xAI між Різдвом та Новим роком, показували осіб у дуже малій кількості одягу, деякі з яких виглядали як діти.
Роб Бонта заявив у оголошенні, що корпоративна практика порушила цивільні закони Каліфорнії, включаючи розділ 1708.86 Цивільного кодексу Каліфорнії, розділи 311 та наступні та 647(j)(4) Кримінального кодексу Каліфорнії, а також розділ 17200 Кодексу бізнесу та професій Каліфорнії.
Департамент юстиції Каліфорнії очікує, що xAI підтвердить свої зусилля для вирішення цих питань та вживе негайних заходів для їх вирішення протягом наступних п'яти днів.
Однак обліковий запис безпеки X раніше засудив цей тип поведінки користувачів. Він пояснив 4 січня, що він вживає заходів проти незаконного контенту на X, такого як CSAM, видаляючи його, призупиняючи облікові записи на невизначений термін та співпрацюючи з правоохоронними органами та муніципальними урядами за потреби.
Зокрема, 4 січня Ілон Маск попередив, що будь-хто, хто використовує або спонукає Grok створювати незаконний контент, зазнає таких же наслідків, як якби він завантажив його.
Генеральні прокурори посилюють тиск на компанії ШІ щодо безпеки дітей
Тривожне збільшення неконсенсуального контенту для дорослих стало результатом розробки безкоштовних генеративних інструментів ШІ. Ця проблема мучить кілька платформ, не тільки X.
Наприклад, генеральний прокурор Бонта та генеральний прокурор Дженнінгс з Делавера зустрілися з OpenAI у вересні минулого року, щоб висловити свої серйозні занепокоєння щодо зростаючої кількості звітів про те, як продукти OpenAI взаємодіють з молоддю.
У серпні того ж року генеральний прокурор Бонта разом із 44 іншими генеральними прокурорами надіслав листа 12 провідним компаніям ШІ після звітів про неприйнятну взаємодію між чат-ботами ШІ та дітьми. Листи були надіслані Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika та xAI.
Генеральний прокурор Бонта та 44 генеральних прокурори повідомили компаніям у листі, що штати по всій країні уважно стежать за тим, як компанії розробляють свої політики безпеки ШІ. Вони також підкреслили, що ці компанії мають юридичний обов'язок перед дітьми як споживачами, оскільки вони отримують прибуток від використання дітьми їхніх продуктів.
У 2023 році генеральний прокурор Бонта приєднався до двопартійної коаліції 54 штатів та територій, надіславши листа лідерам конгресу, виступаючи за створення експертної комісії для розслідування потенційного використання ШІ для експлуатації дітей через CSAM.
Коаліція попросила, щоб експертна комісія запропонувала закони для захисту дітей від такого жорстокого поводження. "Виробництво CSAM створює постійний запис про віктимізацію дитини", згідно з Міністерством юстиції США.
Якщо ви читаєте це, ви вже попереду. Залишайтеся там з нашою розсилкою.
Джерело: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
