Правительство Великобритании ужесточает регулирование использования чат-ботов с искусственным интеллектом, чтобы лучше защитить детей от вредного и незаконного контента.
Премьер-министр Кир Стармер представил процесс ликвидации правового вакуума, который позволял поставщикам чат-ботов действовать вне основных законов об онлайн-безопасности. Это заставит компании, которые создают и управляют ИИ-чат-ботами, активно пресекать незаконный контент и обеспечивать безопасность своих платформ для молодых пользователей.
Теперь правительство заявляет, что изменит порядок применения Закона об онлайн-безопасности и уточнит, как чат-боты должны соблюдать закон. Регулирование было разработано гораздо раньше, но в основном адаптировано к требованиям платформ социальных медиа и публичных форумов, где люди могут публиковать свой контент. Ни те, кто управляет частными ИИ-чат-ботами, ни те, кто их использует, не получили равного охвата, и их обязанности остаются неясными. Стармер пообещал закрыть эту лазейку в ближайшее время.
Он предупредил, что компании, производящие чат-боты, должны соблюдать те же юридические обязательства, что и другие онлайн-компании, или быть оштрафованными. Правительство заявляет, что это изменение должно гарантировать, что поставщики чат-ботов активно контролируют свои системы и блокируют незаконные материалы. Перед своим заявлением Стармер сказал, что ни одна технологическая компания не будет освобождена от закона.
Правительство также опасается, что отношение к ИИ-чат-ботам иначе, чем к платформам социальных медиа, может сделать детей уязвимыми для вредного или неподходящего контента. Чиновники считают, что если ИИ-чат-боты должны охватить свою целевую аудиторию, особенно подростков и молодых пользователей, необходима более жесткая защита.
Новые полномочия для борьбы с быстро меняющимися технологиями
Помимо устранения правовых пробелов, правительство создаст новые полномочия, которые позволят быстрее действовать при возникновении рисков. Вместо того чтобы ждать, пока парламент примет совершенно новые законы, регуляторы будут быстрее реагировать на технологии.
Это способ обеспечить, чтобы защита шла в ногу с быстрым прогрессом в области искусственного интеллекта. Инструменты ИИ быстро совершенствуются и переходят в новые области. В результате риски могут проявляться внезапно, и регуляторам требуется гибкость для их решения.
Стармер недавно указал на риски вредного контента, созданного ИИ, например, в случаях, когда технология используется для создания сексуализированных изображений людей без их согласия.
Он назвал такое использование неприемлемым и заявил, что существующие законы должны применяться против них. Правительство заявило, что улучшенное правоприменение заставит компании разрабатывать более безопасные системы с самого начала.
Это может включать защиту, встроенную в программное обеспечение чат-ботов, для выявления и предотвращения незаконного контента до того, как пользователи его увидят. Технологические компании также должны нести ответственность за поведение своих ИИ-систем.
Это означает, что им необходимо отслеживать результаты, улучшать функции безопасности, чтобы сделать системы более безопасными, и быстро реагировать при обнаружении неисправностей.
Правительство принимает меры для защиты детей от вреда
Ужесточение контроля над ИИ-чат-ботами является частью более широкой задачи обеспечения безопасности детей практически на любой цифровой платформе. Правительство рассматривает новые действия, которые могут еще больше снизить риски.
Одно из предложений в разработке — требование о достижении пользователями определенного возраста для доступа к социальным медиа. Чиновники также изучают, как ограничение таких функций, как бесконечная прокрутка, может способствовать чрезмерному экранному времени, а также затруднять молодым людям отключиться от вредного или вызывающего привыкание контента.
Эти изменения могут произойти после публичных консультаций о благополучии детей в интернете. Родители, педагоги и эксперты по безопасности обеспокоены влиянием цифровых платформ на психическое здоровье молодых людей и уровнем воздействия неподходящего контента.
Более широкая цель правительства — создать более безопасную онлайн-среду, где дети могут извлекать пользу из технологий, не подвергаясь серьезному вреду.
Источник: https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
