Хакеры научились обманывать ИИ, заставляя его выдавать номера мошенников вместо настоящей техподдержки

Исследователи Aurascape предупредили о новой схеме, в которой хакеры заставляют ИИ-сервисы вроде Perplexity и Google AI Overview выдавать мошеннические номера техподдержки.

Уязвимость не связана с джейлбрейками моделей — атакуют не сам ИИ, а источники, из которых он собирает ответы.

Злоумышленники взламывают авторитетные сайты — университетские, государственные, крупные WordPress-порталы — и загружают туда PDF и текст с якобы «официальными» номерами.

Параллельно они используют YouTube и Yelp, оставляя комментарии ботов с теми же телефонами. Благодаря высокой репутации площадок, такие страницы попадают в индекс и выглядят для алгоритмов достоверными.

Когда пользователь спрашивает, например, номер Emirates или British Airways, ИИ объединяет найденные фрагменты в единый ответ — и уверенно выдает мошеннический контакт как настоящий.

Эксперты называют это новым классом атак: преступники учатся работать не с поисковой выдачей, а с генеративными системами, которые формируют один «правильный» ответ.