Компанія OpenAI заявила, що створить прямий контактний пункт з канадськими правоохоронними органами та покращить виявлення порушників своєї політики щодо «насильницьких дій» після масової стрілянини, вчиненоної цього місяця в школі 18-річною трансгендеркою.
Компанія OpenAI заявила, що створить прямий контактний пункт з канадськими правоохоронними органами та покращить виявлення порушників своєї політики щодо «насильницьких дій» після масової стрілянини, вчиненоної цього місяця в школі 18-річною трансгендеркою.
Як передає Reuters, ці кроки компанія анонсувала у своєму листі до міністра штучного інтелекту та цифрових інновацій Канади Евана Соломона.
Лист направила віцепрезидент OpenAI з питань глобальної політики Енн О’Лірі. Це сталося після того, як канадські міністри закликали розробника ChatGPT швидко посилити свої протоколи безпеки та попередили, що Канада внесе законодавчі зміни щодо роботи чатбота, якщо компанія цього не зробить.
Речник міністра Соломона повідомив, що Оттава розглядає лист від OpenAI та прокоментує його найближчими днями.
Канадські міністри цього тижня також викликали команду безпеки OpenAI після того, як компанія заявила, що не зверталася до поліції щодо облікового запису, який належить підозрюваній у стрілянині Джессі Ван Рутселаар.
Відомо, що 18-річна ван Рутселаар народилася хлопчиком, але з певного віку почала ідентифікувати себе як дівчину. Її підозрюють у вбивстві восьми людей 10 лютого у містечку Тамблер-Ридж перед тим, як покінчити життя самогубством. Перед масовою стріляною в школі вона вбила матір і брата.
При цьому OpenAI заявила, що минулого року заблокувала її обліковий запис ChatGPT за порушення правил, адже цей обліковий запис був позначений системами, які виявляють «зловживання моделями для сприяння насильницькій діяльності». Водночас, OpenAI заявила, що цей кейс не відповідав її внутрішнім критеріям для повідомлення правоохоронним органам.
Втім, вже зараз О’Лірі заявила, що згідно з «розширеним протоколом», вона би передала інформацію про блокування цього облікового запису до поліції, якби це було виявлено зараз.
Компанія також виявила, що Ван Рутселаар використовувала другий обліковий запис у чатботі після блокування попереднього, дані про який вона надала правоохоронним органам.
Поліція, в результаті, повідомила, що у Ван Рутселаар були проблеми з психічним здоров’ям.
Як повідомляв dev.ua, студент зі США подав позов на OpenAI і заявив, що ChatGPT підштовхнув його до психозу. Тим часом, гендиректор OpenAI Сем Альтман шукає кандидата на топ-позицію у компанії, у фукціонал якої буде входити широке коло питань безпеки — як для користувачів, так і щодо критичних вразливостей самого продукту.
