OpenAI рассказала о 6 инцидентах с несогласованностью ИИ
Разбор реальных случаев, когда поведение модели расходилось с ожиданиями разработчиков.
2026 Читать6 октября 2026 · чтение ~3 мин
5 октября 2026 года OpenAI объявила, что начнёт встраивать невидимые водяные знаки в текст, сгенерированный ChatGPT и Codex в Евросоюзе. Причина — вступившие в силу требования EU AI Act к прозрачности ИИ-контента.
OpenAI объявила о запуске технологии textGrain — метода скрытой маркировки текста, который начнёт действовать для пользователей ChatGPT и Codex в Евросоюзе. Об этом сообщили TechCrunch и BusinessToday со ссылкой на официальный анонс OpenAI от 5 октября 2026 года.
Решение связано с требованиями EU AI Act о прозрачности: с 2 августа 2026 года закон обязывает разработчиков ИИ помечать генерируемый контент так, чтобы его можно было идентифицировать как созданный машиной.
В отличие от видимых пометок или плашек «сгенерировано ИИ», textGrain встраивает статистический паттерн прямо в выбор слов модели — незаметный для читателя, но считываемый специальным детектором с секретным ключом. Поскольку метка «живёт» в самих словах, она сохраняется при копировании и вставке текста. По заявлению OpenAI, метод не ухудшает заметно качество ответов.
Доступ к детектору пока ограничен — его дают только проверенным исследователям и экспертным организациям, а не всем желающим.
Раскатка водяных знаков для пользователей ChatGPT и Codex в ЕС на всех тарифах начнётся в течение ближайших недель. Для разработчиков, работающих через API в любой точке мира, функцию можно включить вручную уже с 5 октября 2026 года — но по умолчанию она выключена и это не глобальный запуск.
Водяной знак не абсолютно надёжен. По данным OpenAI, если заменить синонимами около 10% слов в тексте, точность обнаружения падает с примерно 92% до 66%. Короткие фрагменты, ответы с математикой и переведённый текст детектировать сложнее. Важная оговорка самой компании: отсутствие метки не доказывает, что текст написан человеком.
Для компаний, работающих с европейскими пользователями, появление встроенной маркировки — сигнал готовиться к более строгому контуру контроля ИИ-контента: от публикаций в медиа до внутренних документов. Если в вашем бизнес-процессе ИИ-тексты попадают к конечному пользователю в ЕС, стоит заранее продумать, как сочетание требований AI Act и технических ограничений детекции влияет на политику раскрытия информации. Это стоит учитывать уже сейчас, планируя политику раскрытия ИИ-контента для европейской аудитории.