[Tech Thoughts] Не забывайте: работа с ИИ требует контроля со стороны человека

На этой неделе Южная Африка отозвала проект национальной политики в области искусственного интеллекта из-за очевидной проблемы — список источников в документе содержал ссылки, сфабрикованные ИИ.

Явление фабрикации источников в обычной документации становится всё более серьёзной проблемой: случаев галлюцинаций ИИ при указании источников накопилось достаточно, чтобы появилась база данных судебных разбирательств, сорванных из-за галлюцинаций ИИ.

Некоторые читатели Tech Thoughts могут счесть забавным, что люди, некритично использующие генеративный ИИ, получают по заслугам, однако следует подчеркнуть: если только не произойдёт какого-то апокалиптического события, уничтожившего ИИ, нам всем рано или поздно придётся иметь дело с той или иной формой автоматизации на основе ИИ и работать с ней бок о бок — вне зависимости от нашего отношения к самому факту существования ИИ в любом его виде.

Это означает, что людям необходимо научить себя одновременно работать рядом с ИИ и не доверять его результатам.

Почему это важно?

В феврале Международная организация труда (МОТ) опубликовала доклад о генеративном ИИ и степени его влияния на рынок труда Филиппин, оценив, что около 12,7 миллиона работников страны (то есть четверть занятого населения) подвержены воздействию генеративного ИИ.

ИИ не столько замещает рабочие места, сколько автоматизирует определённые задачи в рамках уже существующих профессий.

МОТ указывает, что лишь 3,6% рабочих мест относятся к категории с наибольшим уровнем воздействия генеративного ИИ и повышенным риском вытеснения с рынка труда. «Наиболее значимым последствием генеративного ИИ для рынка труда Филиппин, вероятнее всего, станет не полная автоматизация, а трансформация рабочих мест, возможный рост производительности и повышение качества занятости», — говорится в докладе.

Кроме того, МОТ отмечает, что воздействие генеративного ИИ на рабочие места не является гендерно нейтральным и в большей мере затрагивает женщин. «Женщины подвержены воздействию генеративного ИИ вдвое чаще, чем мужчины, что отражает их более высокую концентрацию в профессиях с высоким уровнем такого воздействия. Женщины с высшим образованием сталкиваются с особенно высоким потенциальным риском вытеснения под влиянием генеративного ИИ», — отмечает МОТ.

МОТ указывает: если ИИ становится неизбежностью, нам лучше всего научиться работать с ним бок о бок — хотя разумнее относиться к нему как к часам, требующим починки и не всегда показывающим правильное время, а потому необходимо перепроверять его результаты.

Выгорание и «перегрев мозга»

Труд в мире, пронизанном ИИ, может означать необходимость выполнять работу за двоих — или по меньшей мере когнитивный эквивалент попытки делать что-то самому, одновременно снова и снова проверяя чужую работу, пока задача не будет выполнена.

Конкретнее: вам нужно делать собственную работу, а при использовании ИИ — ещё и проверять его результаты, чтобы убедиться, что они действительно пригодны для текущей задачи.

Как выразили исследователи в статье, опубликованной в Harvard Business Review, изучавшие влияние ИИ на работу: «Вопреки обещанию освободить время для содержательной работы, жонглирование задачами и многозадачность могут стать определяющей чертой работы с ИИ.»
Этот «перегрев мозга» — когнитивное истощение от интенсивного надзора за ИИ-агентами (то есть от постоянной проверки работы ИИ) — вполне реален. Исследователи определили его как «умственную усталость от чрезмерного использования инструментов ИИ или надзора за ними сверх когнитивных возможностей человека».

Это связанное с ИИ умственное напряжение влечёт за собой значительные издержки в виде роста числа ошибок сотрудников, усталости от принятия решений и намерения уволиться.

В то же время использование ИИ для выполнения рутинных задач способно снизить выгорание — то есть эмоциональное напряжение от работы. Исследователи предположили, что передача монотонного труда ИИ позволяет работникам сосредоточиться на более творческой деятельности — той, которой они сами хотят заниматься. Судя по всему, избавившись от скучных задач, некоторые сотрудники «сообщили о более высоком уровне вовлечённости и мотивации; более позитивных эмоциональных ассоциациях с ИИ; и меньшем числе негативных эмоциональных ассоциаций с ИИ по сравнению с другими».

Выгорание и «перегрев мозга» — две стороны одной медали в контексте работы. Если выгорание представляет собой эмоционально обусловленную усталость, то «перегрев мозга» от ИИ — это ментально обусловленное когнитивное напряжение.

«Будущее» труда

Не вдаваясь в подробности, скажу, что сейчас я работаю с одним человеком над тем, чтобы с помощью ИИ упростить некоторые аспекты работы. Тем не менее признаю, что меня пугает потенциальный «перегрев мозга» от проверки примерно 100 результатов, выданных ИИ.

Это потребует проверки точности данных в результатах ИИ, а также творческой работы по исправлению стилистических проблем, чтобы текст не выглядел как роботизированная распечатка.

С творческой частью я справлюсь, но задача проверки работы ИИ совсем не кажется приятной. Тем не менее она необходима. Предоставленный сам себе, ИИ неизбежно допустит какую-нибудь ошибку, а это нанесёт ущерб моей репутации и репутации Rappler в целом.

Как сказал министр связи и цифровых технологий ЮАР Солли Малатси по поводу допущенного ими промаха с политикой ИИ: «Этот сбой — не просто техническая неполадка, он поставил под угрозу целостность и достоверность проекта политики».

Если вы работаете с ИИ, это означает, что ответственность за то, чтобы ИИ не допускал глупостей, неизбежно ляжет на плечи наблюдающего за ним человека. Поэтому будьте внимательны и держитесь в тонусе — и помните: добро пожаловать в «будущее» труда. – Rappler.com