Что обнаружили исследователи
По данным отчёта, опубликованного 27 сентября 2026 (источники: DarkReading и Gizmodo), аналитики зафиксировали десятки тысяч вредоносных страниц, постов, PDF-файлов и поддельных страниц поддержки, оптимизированных так, чтобы их индексировали и цитировали ИИ-системы. Кампания получила название Dark Sourcery.
Атака затронула контакты как минимум 374 известных брендов — среди них авиакомпании Delta, Lufthansa и Emirates, сервис Airbnb, банки Chase и Wells Fargo. Пользователь, спрашивающий у ИИ номер службы поддержки, с высокой вероятностью получал фальшивый контакт, подготовленный мошенниками заранее.
Как работает схема
Атакующие не взламывают сами языковые модели — они «отравляют» источники, из которых ИИ берёт информацию: массово публикуют оптимизированные под поисковые системы и ИИ посты, отзывы, PDF-документы и фейковые страницы поддержки с фальшивыми номерами телефонов, email-адресами и ссылками на фишинговые страницы входа.
Когда пользователь обращается к ChatGPT, Gemini или AI Overview за контактом службы поддержки, модель — не различая настоящий источник от подделанного — нередко цитирует именно отравленную страницу. Дальше оператор мошеннического колл-центра под видом поддержки обещает решить проблему, но требует данные банковской карты или взимает завышенную плату за «услугу».
Масштаб и первые пострадавшие
Исследователи уже зафиксировали реальные случаи, когда пользователи теряли деньги, введя данные карты по номеру, полученному от ИИ-ассистента. Специалисты подчёркивают: проблема не в уязвимости конкретной модели, а в том, что любой LLM, опирающийся на открытый веб как источник знаний, уязвим для целенаправленного «загрязнения» контента (AI contamination).
Что это значит для пользователей ИИ-инструментов
Для обычных пользователей вывод простой: номер телефона, email или ссылку на вход, полученные от ИИ-ассистента, нельзя считать автоматически проверенными — их стоит сверять с официальным сайтом компании напрямую, а не через ответ чат-бота.
Для бизнеса риск шире. Компании, чьи бренды фигурируют в подобных кампаниях, теряют доверие клиентов, даже если сами не допустили утечки. Разработчикам корпоративных ИИ-решений это напоминание, что источники данных, на которые опирается ассистент, нуждаются в отдельном контроле — будь то whitelist доменов, верификация контактных данных или ограничение выдачи только проверенными базами компании.
Крупные AI-провайдеры пока не раскрыли детали технических мер против таких атак, но подтвердили, что работают над улучшением фильтрации источников для ответов, связанных с финансовыми и контактными данными.
Хотите получать проверяемые, объяснимые ответы ИИ?
Попробовать ИИ-генератор ответов
