Проти гнітючих алгоритмів, адиктивного дизайну батьки не завжди встигають

На недавній події TikTok Philippines, присвяченій безпеці підлітків, я запитав керівника відділу державної політики Івеза Гонзалеса разом із представниками організацій громадянського суспільства та творцями контенту, які виступають за безпеку дітей у соціальних мережах, про недавні висновки Європейського Союзу (ЄС), які визначили, що ключові елементи дизайну платформи викликають залежність і повинні бути змінені. 

Гонзалес сказав, що материнська компанія оскаржить ці висновки, і згадав, що вони мають кілька функцій для захисту користувачів до 18 років, таких як 60-хвилинний ліміт використання застосунку, батьківський контроль контенту, видимість підписників та відокремлення стрічки та контенту неповнолітніх від населення віком 18 років і старше. "Ми вважаємо, що в галузі ми маємо одні з найнадійніших гарантій безпеки", - сказав він.

Творець історичного контенту Мона Магно-Велус запропонувала власну відповідь на це питання та підкреслила, що перш за все батьківське керівництво є ключовим у вирішенні проблеми використання соціальних мереж підлітками. 

"Я погоджуюся, що всі платформи мають свої заходи, але ми також не можемо виключати нашу відповідальність з цього рівняння. Я щиро відчуваю, що батьки, дорослі в кімнаті також несуть відповідальність, коли йдеться про стриманість у використанні соціальних мереж. Тому я думаю, що це не лише технологія, але це також має бути вирішено в нашій культурі та суспільних нормах", - сказала Магно-Велус.

Ріян Португез, психолог та адвокат цифрового благополуччя, зазначила, що зовнішні чинники можуть сприяти тому, що дитина стає залежною, оскільки соціальні мережі стали одним із найдоступніших способів подолання труднощів.

Вона сказала: "Зазвичай найлегший спосіб для нас впоратися - це використовувати платформи соціальних мереж, тому що вони найдоступніші. Тому виникають залежності, тому що кожного разу, коли виникає проблема, стрес, використовують телефон".

З постійною доступністю соціальних мереж життєво важливо, щоб батьки та сім'я були присутніми для дитини. "Але якщо спілкування в сім'ї нормальне, у вас є зким поговорити за межами соціальних мереж, ви можете це регулювати. Тому це не лише проблема соціальних мереж", - сказала вона.

Заява Португез насправді відображає найновіші свідчення з історичного судового процесу щодо залежності від соціальних мереж у США від колишнього терапевта позивачки Кейлі Вікторії Берк, минулого понеділка, 24 лютого.

Берк виявила проблеми з психічним здоров'ям дитини і сказала, що соціальні мережі були "сприяючим чинником" у її психічних проблемах, але вона не покладала на них повну відповідальність. Кейлі також описували як таку, що має складні стосунки зі своїми розлученими батьками.

Тим часом на місцевих слуханнях у Сенаті щодо регулювання соціальних мереж Анналін Капулонг, доцент кафедри психології UP Diliman, сказала законодавцям: "Sentro 'yung ambag ng magulang". (Внесок батьків є центральним.)

Але сама Капулонг визнала реальність, що іноді батьки дійсно покладаються на пристрої та екрани, щоб тримати дитину зайнятою, поки вони виконують іншу задачу. 

В ідеалі батьки присутні більшу частину часу. Ми знаємо, що це не завжди можливо, і не всі сім'ї мають ідеальне налаштування, як видно у справі Кейлі у США.

Що це означає? Це означає, що певна частина неповнолітнього населення буде, буквально, залишена на милість елементів дизайну застосунку. Це найуразливіші члени населення, і платформи повинні бути налаштовані на безпеку цих.

"Чи робимо ми платформу безпечною для наших користувачів, які знаходяться в групі найбільшого ризику?" в ідеалі повинно бути питанням, яке вони ставлять собі. І враховуючи, що психічне здоров'я, екологічні та сімейні чинники впливають на людей за межами їхніх неповнолітніх років, платформи повинні вирішувати цю проблему - не лише для неповнолітніх, навіть якщо зараз юридичні та законодавчі обговорення зосереджені на них.

Meta виявила, що батьківське посередництво неефективне

Внутрішнє, раніше неопубліковане дослідження від Meta, яке нещодавно було розкрите на судовому процесі, також виявило, що і батьківський нагляд, і обмеження часу не такі ефективні, як вважалося.

Проект MYST (Meta and Youth Social Emotional Trends) був опитуванням 1 000 підлітків та батьків щодо використання соціальних мереж, яке дійшло висновку, що "немає зв'язку між звітами батьків або звітами підлітків про батьківський нагляд та показниками уважності або здатності підлітків у опитуванні" і що "батьківські та домашні чинники мають незначний зв'язок із повідомленими рівнями уважності підлітків до використання соціальних мереж".

Ще більш вразливими є молоді люди, які перебувають у стресовому середовищі. За результатами опитування, вони демонструють набагато менший контроль над використанням соціальних мереж. 

Повертаючись до звіту ЄС про TikTok, Комісія заявила, що "поточні заходи в TikTok, зокрема інструменти управління екранним часом та інструменти батьківського контролю, не здаються ефективно зменшують ризики, що випливають із дизайну TikTok, який викликає залежність... їх легко відхилити, і вони створюють обмежене тертя".

Це повертається до елементів дизайну платформи соціальних мереж - не лише TikTok - (нескінченна прокрутка, автовідтворення, push-сповіщення, алгоритмічні рекомендації), які дедалі частіше описуються як такі, що "викликають залежність" у США та ЄС. 

Навіть на Філіппінах слова "викликає залежність" та "компульсивне використання" вже є принаймні в двох проектах законопроектів. Законопроект Сенату (SB) 185 визначає платформу соціальних мереж як платформу, що використовує алгоритмічну доставку контенту та має "функції, що викликають залежність". 

SB 601 наказує платформам "обмежити функції, які збільшують, підтримують або продовжують використання SMP (платформи соціальних мереж) дитиною, такі як автоматичне відтворення медіа, система винагород за час, проведений на платформі, сповіщення та інші функції, які призводять до компульсивного використання". 

'Опція сповільнити алгоритм'

Лауреатка TIME "100 найвпливовіших людей у сфері охорони здоров'я" Лаура Маркес-Гаррет, адвокатка Центру права жертв соціальних мереж, що базується в Сіетлі, нещодавно виступила перед Democracy Now. Вона сказала, що ці елементи дизайну насправді є "дефектами", і саме їх потрібно вирішити, не вдаючись до повної заборони. 

"І тому в кінцевому підсумку, виправляючи це - і вони (компанії соціальних мереж) знають це; це в їхніх документах, які стають публічними - вони могли б видалити механізми, що викликають залежність. Це так просто - подумайте про свій телевізор вдома. У нас є цей пульт дистанційного керування. Ми можемо зменшити, збільшити гучність, змінити канали. Вони зберегли ці елементи керування на задньому плані. Вони могли б дати вам можливість сповільнити алгоритм", - сказала Маркес-Гаррет. 

"Тож вони програмують для залучення понад усе інше... І у випадку вразливих дітей це смертельно", - додала вона. 

Поточний судовий процес і тенденція заборони соціальних мереж у всьому світі показують, що є імпульс проти технологічних компаній. 

Великі технологічні компанії активно лобіюють проти державного втручання

І це імпульс, проти якого платформи активно лобіюють.

Те, чого вони хочуть, - це "найменш погана опція", розповів New York Times Брам Вранкен з Corporate Europe Observatory, групи, яка відстежує корпоративне лобіювання. 

Що таке "найменш погана" опція? 

Times повідомила: "Те, що ці компанії віддають перевагу, - це закони, які вимагають, щоб батьки, а не уряди, мали останнє слово щодо онлайн-звичок дітей... титани Силіконової долини активно лобіюють альтернативу заборонам". 

Замість заборони компанії просувають "Цифрову повноліття" в ЄС, яка знову покладає відповідальність на батьків схвалювати, чи можуть їхні діти віком 15 або 16 років використовувати соціальні мережі чи ні. 

Перемога там знову відводить увагу від алгоритму та функцій їхніх платформ, які створюють умови компульсивного використання - і від запропонованого Акту про цифрову справедливість, який заборонить нескінченну прокрутку, автовідтворення та рекомендації на основі залучення. 

"Це, ймовірно, вимагатиме складного редизайну платформ і підірве їхні маркетингові машини", - написала New York Times. 

Наразі на Філіппінах компанії підтримують подібну "вікову структуру" - різні правила доступу для різних вікових груп.

Але здається, що це не дуже відрізняється від "Цифрової повноліття" тим, що відповідальність за дотримання лежить на батьках, і це вимагатиме використання процесів перевірки віку, які не завжди легко дотримуватися, а не вирішення зазначених основних елементів дизайну.

Тож, можливо, тут також фокус може бути на самих функціях, що викликають залежність.

Викривачка Facebook Френсіс Хауген розповіла Democracy Now: "Коли у вас є діти, мозок яких просто насичується допаміном від прокрутки цілий день у такому молодому віці, це змінює їхню здатність спокійно сидіти в класі, значущо взаємодіяти особисто з її сім'єю чи друзями... проте вони продовжують оптимізувати витрачання все більше і більше часу на цих платформах".

Платформи знають, що для них тут поставлено на карту. Те, що відбувається на судовому процесі в США, та розслідування ЄС можуть мати хвилевий ефект на платформи у всьому світі.

Є докази населення, яке вразливе до залежності від соціальних мереж, чи то через важке сімейне життя, чи через особисті проблеми з психічним здоров'ям. Є також докази того, що заходи безпеки не були настільки ефективними, тому що функції, що "викликають залежність", за браком кращих слів, все ще потужніші. 

І серед усього цього платформи, здається, все ще лобіюють, щоб тримати відповідальність на плечах батьків, а не надавати нам можливість "сповільнити алгоритм". Батькам, сім'ям потрібна більша допомога.  – Rappler.com