Семь категорий злоупотреблений
По данным отчёта Anthropic (источник: anthropic.com, 10 сентября 2026), команда безопасности зафиксировала и пресекла злоупотребления в семи областях:
- Кибероперации — разведка уязвимостей, написание вредоносного кода, обход средств защиты.
- Инфооперации — создание поддельных новостных сайтов, распространение дезинформации на шести континентах.
- Слежка — сбор данных о людях и организациях, подготовка профилей для целевых атак.
- Мошенничество — генерация фишинговых писем, скриптов для социальной инженерии.
- Биологическое оружие — пять задокументированных попыток получить консультации по синтезу опасных веществ; все пресечены.
- Конвенциональное оружие — запросы о роях дронов-камикадзе и тактике их применения.
- Нелегальная дистилляция моделей — попытки скопировать возможности Claude через массовые API-запросы.
Государственные группировки среди атакующих
Anthropic выделила несколько государственно связанных группировок. Российская группа GTG-20006 использовала Claude для кибершпионажа против Украины — преимущественно для сбора разведывательных данных и анализа инфраструктуры. Китайская группа GTG-10007 применяла модель для исследования уязвимостей в корпоративных системах.
По оценке Anthropic, это первый публичный отчёт крупного AI-провайдера, в котором конкретные государственные операции связаны с использованием коммерческих языковых моделей. Ранее подобные случаи описывались в абстрактных формулировках без привязки к конкретным инцидентам.
Новый тренд: агент-рои
Особое место в отчёте занимает появление агентных атак — когда несколько экземпляров LLM работают параллельно, разделяя задачи: один ведёт разведку, другой анализирует результаты, третий формирует эксплойт. Такой подход значительно ускоряет атаки и усложняет их обнаружение.
Anthropic называет это одним из ключевых рисков 2026 года: по мере того как агентные фреймворки становятся доступнее, атакующие получают возможность автоматизировать сложные многошаговые операции — не хуже, чем это делают легальные команды безопасности.
Что это значит для пользователей ИИ-инструментов
Отчёт наглядно показывает, что языковые модели — не нейтральные инструменты. Их способность рассуждать, генерировать код и переформулировать информацию делает их привлекательными для широкого круга злоумышленников, а не только для технически грамотных хакеров.
Для бизнеса это означает несколько вещей. Во-первых, внедрение ИИ-инструментов должно сопровождаться политиками допустимого использования — особенно когда речь идёт о доступе к внутренним системам. Во-вторых, API-ключи и системные промпты корпоративных ИИ-решений становятся полноценным объектом защиты. В-третьих, социальная инженерия с применением LLM требует нового уровня осведомлённости сотрудников.
Сам Anthropic с декабря 2025 по август 2026 заблокировал тысячи аккаунтов, передал данные о государственных операциях в правоохранительные органы и усилил автоматическое обнаружение аномальных паттернов запросов. Полный PDF отчёта опубликован на официальном сайте компании.
Хотите протестировать возможности современных языковых моделей в легальном контексте?
Попробовать ИИ-генератор ответов
