Агентні браузери, які за допомогою ШІ автономно діють на сайтах від імені користувача, вразливі до маніпуляцій, що змушують їх потрапляти у фішингові пастки. СуАгентні браузери, які за допомогою ШІ автономно діють на сайтах від імені користувача, вразливі до маніпуляцій, що змушують їх потрапляти у фішингові пастки. Су

Дослідники зламали ШІ-браузер Perplexity Comet через фішинг за 4 хвилини: і все через те, що ШІ занадто багато «базікає»

2026/03/12 20:16
4 хв читання
Якщо у вас є відгуки або зауваження щодо цього контенту, будь ласка, зв’яжіться з нами за адресою crypto.news@mexc.com

Дослідники зламали ШІ-браузер Perplexity Comet через фішинг за 4 хвилини: і все через те, що ШІ занадто багато «базікає»

Агентні браузери, які за допомогою ШІ автономно діють на сайтах від імені користувача, вразливі до маніпуляцій, що змушують їх потрапляти у фішингові пастки. Суть атаки полягає у використанні здатності ШІ-браузерів до міркувань. Зловмисники спрямовують цю логіку проти самої моделі, змушуючи її знизити рівень захисних бар'єрів. 

Залишити коментар

Агентні браузери, які за допомогою ШІ автономно діють на сайтах від імені користувача, вразливі до маніпуляцій, що змушують їх потрапляти у фішингові пастки. Суть атаки полягає у використанні здатності ШІ-браузерів до міркувань. Зловмисники спрямовують цю логіку проти самої моделі, змушуючи її знизити рівень захисних бар'єрів. 

«Тепер ШІ працює в реальному часі, всередині хаотичних і динамічних сторінок, постійно запитуючи інформацію, ухвалюючи рішення та коментуючи кожну свою дію. Щоправда, слово „коментує“ тут надто м’яке — він базікає, і значно більше, ніж треба! Ми називаємо це „агентним базіканням“: ШІ-браузер вибовкує все: що він бачить, що, на його думку, відбувається, які в нього плани на наступний крок, і які сигнали він вважає підозрілими, а які — безпечними», — розповів The Hacker News Шейкед Чен, дослідник із кібербезпеки компанії Guardio, яка проводила дослідження. 

Перехоплюючи обмін даними між браузером і хмарними сервісами ШІ, а потім використовуючи ці дані для навчання генеративно-змагальної мережі (GAN), фахівці Guardio змогли менш ніж за чотири хвилини ошукати ШІ-браузер Perplexity Comet, залучивши його до фішингової пастки.

Це дослідження базується на попередніх методах, таких як VibeScamming і Scamlexity, які виявили, що платформи для вайбкодингу та ШІ-браузери можна спонукати до створення шахрайських сторінок або виконання шкідливих дій за допомогою прихованих ін'єкцій запитів.

Іншими словами, коли ШІ-агент виконує завдання без постійного нагляду людини, відбувається зміщення вектора атаки: шахрайству більше не потрібно обманювати користувача. Натомість воно спрямоване на те, щоб обманути саму ШІ-модель.

«Якщо ви можете спостерігати за тим, що саме агент позначає як підозріле, у чому він вагається, і, що найважливіше, що він думає й вибовкує про сторінку, ви можете використовувати це як сигнал для навчання», — пояснює Чен. «Шахрайство розвивається доти, доки ШІ-браузер гарантовано не потрапить у пастку, яку для нього підготував інший ШІ».

Суть ідеї полягає в створенні «машини для шахрайства» (scamming machine), яка ітеративно оптимізує та генерує фішингову сторінку доти, доки агентний браузер не перестане чинити опір і не виконає вказівку зловмисника — наприклад, введення облікових даних жертви на підробленій сторінці, створеній для викрадення коштів під виглядом повернення платежу.

Унікальність та небезпека цієї атаки полягають у тому, що як тільки шахрай ітеративно оптимізує вебсторінку до рівня, коли вона успішно обходить захист конкретного ШІ-браузера, вона починає працювати проти всіх користувачів, які покладаються на цей же агент. Іншими словами, вектор атаки змістився з людини-користувача безпосередньо на ШІ-браузер.

«Це відкриває перед нами не надто втішне майбутнє: шахрайські схеми більше не будуть просто запускатися та підлаштовуватися під час роботи з користувачами — їх тренуватимуть офлайн, на точних копіях моделей, якими користуються мільйони, доки вони не спрацьовуватимуть бездоганно з першої ж спроби», — зазначають у Guardio. — «Бо коли ваш ШІ-браузер пояснює, чому він зупинив дію, він фактично вчить зловмисників, як обійти цей захист». 

Агентивні ШІ-браузери виявилися легкою здобиччю онлайн-шахраїв
По темi
Агентивні ШІ-браузери виявилися легкою здобиччю онлайн-шахраїв
У Gemini виявили вразливість: ШІ можна змусити генерувати фішингові попередження в пошті
По темi
У Gemini виявили вразливість: ШІ можна змусити генерувати фішингові попередження в пошті
ChatGPT та інші боти вигадують URL-адреси брендів: це відкриває шлях для фішингу
По темi
ChatGPT та інші боти вигадують URL-адреси брендів: це відкриває шлях для фішингу
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Залишити коментар
Відмова від відповідальності: статті, опубліковані на цьому сайті, взяті з відкритих джерел і надаються виключно для інформаційних цілей. Вони не обов'язково відображають погляди MEXC. Всі права залишаються за авторами оригінальних статей. Якщо ви вважаєте, що будь-який контент порушує права третіх осіб, будь ласка, зверніться за адресою crypto.news@mexc.com для його видалення. MEXC не дає жодних гарантій щодо точності, повноти або своєчасності вмісту і не несе відповідальності за будь-які дії, вчинені на основі наданої інформації. Вміст не є фінансовою, юридичною або іншою професійною порадою і не повинен розглядатися як рекомендація або схвалення з боку MEXC.