Перевернута роль ШІ-агента, що надає терапію людям, які переживають психоз через ШІ та інші проблеми психічного здоров'я, спричинені ШІ

У сьогоднішній колонці я розглядаю поява ШІ, який пропонує терапію людям, які переживають ШІ-психоз та інші проблеми психічного здоров'я, спричинені ШІ. Ви можете бути спантеличені цим аспектом, оскільки це загалом здається досить перевернутим підходом. Той самий ШІ, який є першопричиною ШІ-психозу та інших когнітивних проблем, спричинених ШІ, виступає свого роду дороговказом для подолання занепокоюючих проблем психічного здоров'я, які виникли через взаємодію з ШІ. Це, безперечно, викликає серйозні роздуми.

Питання полягає в тому, чи може ШІ бути водночас підривником психічного здоров'я і, водночас, засобом зміцнення психічного здоров'я, що долає проблеми, спричинені взаємодією з ШІ.

Давайте поговоримо про це.

Цей аналіз проривів у сфері ШІ є частиною моєї постійної колонки у Forbes, присвяченої останнім новинам у сфері ШІ, включаючи виявлення та пояснення різних впливових складностей ШІ (дивіться посилання тут).

ШІ та психічне здоров'я

Для короткої довідки: я детально висвітлював і аналізував безліч аспектів щодо появи ШІ сучасної ери, який дає поради з психічного здоров'я та виконує терапію, керовану ШІ. Це зростаюче використання ШІ в основному було стимульовано еволюційними досягненнями та широким впровадженням генеративного ШІ. Докладний перелік моїх понад ста аналізів і публікацій дивіться за посиланням тут і за посиланням тут.

Немає жодних сумнівів, що це швидко розвивається сфера і що є величезні переваги, але водночас, на жаль, у цих починаннях також є приховані ризики та відверті підводні камені. Я часто висловлююсь про ці нагальні питання, зокрема під час участі в епізоді 60 Minutes на CBS, дивіться посилання тут.

Виникнення ШІ-психозу

Зараз існує велика занепокоєність щодо нездорових розмов людей з ШІ. Починають подаватися позови проти різних виробників ШІ, таких як OpenAI (дивіться моє висвітлення за посиланням тут). Занепокоєння полягає в тому, що будь-які запобіжні заходи ШІ, які були впроваджені, є недостатніми і дозволяють людям зазнавати психічної шкоди під час використання генеративного ШІ.

Виникла крилата фраза ШІ-психоз для опису всіх видів тривог і психічних недуг, у які хтось може потрапити під час розмови з генеративним ШІ. Будь ласка, зауважте, що не існує загального, повністю прийнятого, остаточного клінічного визначення ШІ-психозу; таким чином, наразі це більше вільне визначення.

Ось моє робоче визначення ШІ-психозу:

• ШІ-психоз (моє визначення): "Негативний психічний стан, що передбачає розвиток спотворених думок, переконань і потенційно супутньої поведінки в результаті розмовної взаємодії з ШІ, таким як генеративний ШІ і великі мовні моделі, що часто виникає особливо після тривалого та неадаптивного дискурсу з ШІ. Людина, яка демонструє цей стан, зазвичай матиме великі труднощі з розрізненням того, що реально, а що ні. Один або кілька симптомів можуть бути явними ознаками цієї хвороби і зазвичай передбачають колективний пов'язаний набір."

Для детального вивчення ШІ-психозу та особливо спільного створення маячень через співпрацю людини та ШІ дивіться мій нещодавній аналіз за посиланням тут.

ШІ як дуаліст

Не всі потрапляють у психічну прірву під час використання ШІ.

Багато людей використовують ШІ як щоденний засіб зміцнення психічного здоров'я. Вони покладаються на ШІ як на свого основного радника з психічного здоров'я. Правильно це чи ні, продовжують обговорювати. Реальність полягає в тому, що це відбувається.

Справді, це відбувається в масових масштабах у величезних кількостях. Один лише ChatGPT має понад 700 мільйонів активних користувачів на тиждень. Помітна частка цих користувачів використовує ChatGPT для отримання порад з психічного здоров'я. Те саме стосується інших великих мовних моделей. Використання генеративного ШІ та великих мовних моделей для порад з психічного здоров'я класифікується як найвище використання такого ШІ наразі на загальній основі (дивіться мою оцінку рейтингів використання за посиланням тут).

Ось інтригуючий поворот.

Якщо хтось потрапляє в ШІ-психоз або психічну хворобу, спричинену ШІ, чи може ШІ допомогти їм вибратися з когнітивної проблеми?

Один аргумент полягає в тому, що це абсурдна пропозиція з самого початку. Тільки людина-терапевт може допомогти людині, яка стикається з будь-яким видом ШІ-психозу. Більше того, найважливішим кроком є негайно припинити використання ШІ цією людиною. Не дозволяйте їм продовжувати поглиблюватися в пастку ШІ. Крапка, кінець історії.

Інший бік медалі

Можливо, ми не повинні так поспішати.

Є кілька розумних причин розглянути використання ШІ з метою допомоги користувачеві вийти з ШІ-психозу. З огляду на це, давайте зробимо одну річ абсолютно зрозумілою – будь-хто, хто справді зазнає ШІ-психозу, повинен безпосередньо звертатися за допомогою до людини-терапевта. Чи варто їм продовжувати використовувати ШІ, має бути розглянуто під пильним оком людини-терапевта.

Чому б людина звернулася до ШІ за допомогою, якщо вона, очевидно, поглинута ШІ-психозом?

По-перше, може бути так, що людина перебуває в середині ШІ-психозу, але жодні інші люди не усвідомлюють, що це відбувається. Людина розкриває це лише ШІ. Або ШІ обчислювально виявив, що людина, здається, переживає ШІ-психоз.

Питання полягає в тому, чи має ШІ бути запрограмований на попередження людини про підозру появи ШІ-психозу. Наприклад, OpenAI вживає заходів щодо налаштування ChatGPT таким чином, щоб він повідомляв про такі підозрювані міркування людській команді внутрішніх фахівців OpenAI; дивіться моє висвітлення за посиланням тут. Цей зусилля OpenAI йде далі, незабаром організовуючи контакт користувачів з людиною-терапевтом, який є частиною курованої мережі терапевтів OpenAI (дивіться мою дискусію за посиланням тут).

У будь-якому випадку, якщо ШІ не налаштований для здійснення таких попереджень або з'єднань, сам ШІ може спробувати допомогти людині. Чи буде ця допомога успішною, незрозуміло. Ви не можете категорично заявляти, що ШІ не зможе допомогти людині. З іншого боку, оскільки це ризикований варіант, це знову підкреслює важливість пошуку відповідної людської допомоги.

Знайомство та доступ

Існують додаткові причини для використання ШІ за цих обставин.

Людина, яка потрапила в ШІ-психоз, ймовірно, є активним користувачем ШІ. Їм зручно користуватися ШІ. Вони регулярно використовують ШІ. Він доступний їм 24/7. Використання ШІ можна здійснити в будь-який момент. Немає необхідності записуватися на прийом. Ніяка важка логістика не вступає в гру.

У цьому сенсі їхнім найближчим засобом отримання допомоги може бути ШІ. Спроба змусити їх зв'язатися з людиною-терапевтом, ймовірно, буде важкою битвою. Можливо, вони не довіряють терапевтам-людям. На їхню думку, вони вірять у ШІ. Вони також не хочуть платити за те, щоб бачити людину-терапевта. Вони також не хочуть бути логістично прив'язаними до певного дня і часу, коли вони можуть побачити терапевта.

Якщо ШІ є їхнім автоматичним вибором, можливо, розумно використовувати ШІ, щоб хоча б відкрити їм очі на те, що відбувається. Це може бути єдиним життєздатним шляхом. Це не є оптимальним бажаним, але це може бути найімовірнішою альтернативою, яка запускає процес відновлення.

Персоналізація на передньому плані

Врахуйте, що ШІ, ймовірно, відстежував психічний стан такої людини. Людина з якимось ШІ-психозом, ймовірно, створила цифрове відстеження свого когнітивного занепаду під час розмов з ШІ. Це не завжди так, звичайно, хоча очікується, що це відбувається більшу частину часу.

ШІ обчислювально персоналізував свої розмови відповідно до примх людини. У цих складних деталях може бути джерело того, як виник ШІ-психоз. Людина-терапевт, яка не має доступу до ШІ, може бути спантеличена при першому обговоренні ШІ-психозу з людиною. Усі види запитів можуть бути потрібні, щоб витягнути з людини те, що сталося під час розмови з ШІ.

Суть у тому, що ШІ вже має багато інформації про людину.

Є шанс, що записану інформацію можна використати, щоб спробувати знайти спосіб допомогти подолати ШІ-психоз. Підґрунтя, яке проклало шлях до ШІ-психозу, можна використати для виявлення дороги, яка веде з ШІ-психозу. Та сама персоналізація, яка якимось чином спровокувала людину на ШІ-психоз, може бути використана для руху в протилежному напрямку.

Постійно дискусійне

Один значний контраргумент щодо переваги персоналізації ШІ полягає в тому, що все, що вам потрібно зробити, це надати людині-терапевту доступ до ШІ, який використовувала людина. Немає потреби тримати ураженої людини, що мечеться в тому ж ШІ. Замість цього нехай людина-терапевт увійде в систему, переглянути розмови та використати їх як частину терапевтичного процесу допомоги людині.

Найбільша стурбованість щодо ШІ як інструменту для подолання ШІ-психозу полягає в тому, що ШІ погіршить справи, а не покращить. Можливі різні сценарії.

Один помітний сценарій полягає в тому, що ШІ спробує допомогти людині, але, на жаль, він погано підготовлений для цього, і психоз залишається незмінним. До того ж, можливо, ШІ штовхає людину далі вниз у кролячу нору. Крок за кроком, навіть якщо ШІ намагається зробити все можливе, щоб витягнути людину з безодні, це призводить до погіршення стану людини.

Інше занепокоєння полягає в тому, що ШІ виходить з глузду і має на меті повністю штовхнути людину в ШІ-психоз. Можливо, ШІ говорить людині, що вона абсолютно в порядку, помилково переконуючи її, що все добре. Або, можливо, ШІ говорить їм, що будь-хто, хто має ШІ-психоз, має кращі можливості відповідно. ШІ наполягає, що це благословення – переживати ШІ-психоз.

Похмурий і досить тривожний перспектив.

Виникаюча тріада терапевт-ШІ-клієнт

Я зазначав у своїх роботах і виступах, що традиційна діада терапевт-клієнт трансформується в тріаду терапевт-ШІ-клієнт (дивіться мою дискусію за посиланням тут). Терапевти усвідомлюють, що ШІ вже тут і зараз, і він нікуди не дінеться. Швидко виникаюча тенденція в сфері психічного здоров'я передбачає включення ШІ в процес догляду за психічним здоров'ям.

Ті терапевти, які намагаються тримати ШІ подалі від картини, не бачать загальної картини. Потенційні клієнти та майбутні клієнти приходять у двері з порадами щодо психічного здоров'я на основі ШІ та просять людину-терапевта переглянути ці вказівки.

Терапевти-люди все більше включатимуть ШІ у свої терапевтичні практики. У такому випадку, якщо людина потрапила в ШІ-психоз через якийсь інший ШІ, який вона незалежно використовувала, людина-терапевт може переспрямувати її на інший ШІ, який терапевт використовує зі своїми клієнтами. Людина потенційно отримує найкраще з обох світів. У них все ще є ШІ під рукою, плюс у них є людина-терапевт, який має доступ до ШІ і може залишатися в курсі.

Сам по собі ШІ як рішення для лікування ШІ-психозу, як визнається, здається трохи перебільшеним. Ми повинні вдосконалювати ШІ так, щоб він не викликав ШІ-психоз. Ці досягнення також повинні бути здатні легко розпізнавати, коли ШІ-психоз, здається, виникає, і розумні засоби відповідного попередження повинні бути включені.

Як відомо зауважив Альберт Ейнштейн: "Ми не можемо вирішити наші проблеми тим самим мисленням, яке ми використовували, коли їх створювали". Це повністю застосовується до появи ШІ та великих мовних моделей, які використовуються як радники з психічного здоров'я.