Німеччина попереджає соціальні платформи через поширення фальшивих ШІ-зображень Голокосту

Німеччина попередила платформи соціальних мереж про поширення фальшивих зображень Голокосту, створених ШІ. Уряд та інституції меморіалу Голокосту попросили платформи соціальних мереж припинити поширення фальшивих зображень, які, на їхню думку, спотворюють та банализують історію.

Меморіальні місця концентраційних таборів та центри документації висловили занепокоєння в нещодавньому листі, критикуючи зростання кількості так званих низькоякісних зображень ШІ або фальсифікованих зображень, пов'язаних з вбивством нацистами понад шести мільйонів євреїв у Німеччині під час Другої світової війни. Ці зображення включають емоційні ілюстрації вигаданих подій, таких як зустрічі в'язнів концентраційних таборів з їхніми визволителями або дітей за колючим дротом.

Німеччина хоче зупинити поширення фальшивих зображень Голокосту, створених ШІ

У листі, надісланому організаціями, вони зазначили, що контент, створений ШІ, спотворює історію, банализуючи серйозні події, які відбулися давно. Вони згадали, що такі зображення можуть підживлювати недовіру серед користувачів до автентичних історичних документів. Вольфрам Веймер, державний міністр Німеччини з питань культури та медіа, згадав, що він підтримав кроки та зусилля, вжиті меморіальними інституціями в цій справі, виявляючи, що це правильний крок.

Вольфрам також згадав, що він підтримав їхнє рішення позначати зображення стародавніх подій, створені ШІ, та, у випадках, коли це необхідно, видаляти їх з платформ соціальних мереж. Він згадав, що це питання поваги до мільйонів людей, які були вбиті та переслідувані за нацистського терористичного режиму Німеччини. Згідно з листом меморіальних інституцій, вони зазначили, що творці зображень, схоже, використовують їх для привернення уваги в Інтернеті та заробітку грошей.

Організації також згадали, що зловмисники частково мали намір розмити факти, змінити ролі жертв та винуватців і поширювати ревізіоністські наративи. Інституції включають меморіальні центри Бельзена, Бухенвальда, Дахау та інших концентраційних таборів, де були вбиті євреї, а також інші, включаючи народи рома та сінті. Вони попросили платформи соціальних мереж проактивно діяти проти фальшивих зображень Голокосту, створених ШІ, замість того, щоб чекати повідомлень від користувачів.

Організації Голокосту хочуть, щоб зображення, створені ШІ, були позначені

Крім того, вони попросили платформи чітко позначати їх, оскільки вони вважають, що це запобіжить можливості користувачів, які створили зображення, монетизувати їх. Поширення низькоякісного контенту ШІ, який включає фальшивий текст, зображення або відео, викликало тривогу серед багатьох експертів. Вони вважають, що це забруднить інформаційний ландшафт і ускладнить відокремлення правди від неправди користувачами. Інцидент слідує за тим, з яким зараз борються компанії ШІ, зокрема xAI Ілона Маска, яка володіє чат-ботом Grok.

Компанія перебувала під тиском протягом останніх кількох тижнів через те, що деякі користувачі генерували тисячі сексуалізованих дипфейк-зображень жінок та неповнолітніх і поширювали їх на кількох платформах соціальних мереж. Ця загроза призвела до того, що кілька лідерів країн закликали компанію до порядку, а інші просили їх розробити відповідні засоби захисту для боротьби з інцидентами. Такі країни, як Індонезія, також оголосили тимчасову заборону на чат-бот, поки все не буде вирішено.

Тим часом платформа підтвердила, що вона геоблокує можливість користувачів Grok та X генерувати дипфейки людей у місцях, де такі дії визнані незаконними. Однак залишається побачити, чи застосовуватимуться нові засоби захисту до його автономного додатка чи веб-сайту. Також залишається побачити, чи зупинять заходи користувачів від генерування таких зображень, чи підштовхнуть їх шукати нові способи доступу до сервісу.

Не просто читайте криптоновини. Розумійте їх. Підпишіться на нашу розсилку. Це безкоштовно.