Оксфорд, Великобритания. Инструменты искусственного интеллекта, которые помогают писать и редактировать публикации, могут незаметно менять выраженную пользователем позицию. К такому выводу пришли авторы нового исследования Oxford Internet Institute и Hasso Plattner Institute.
Работа AI-Mediated Communication Can Steer Collective Opinion была размещена как препринт 15 мая 2026 года. В сообщении Оксфордского университета говорится, что её представят на воркшопах AI4Good и Technical AI Governance в рамках ICML 2026 в Сеуле. Это не означает публикацию в основных рецензируемых трудах конференции.
Как проверяли ИИ-редакторы
Исследователи использовали человеческие высказывания из наборов UKP и SemEval по 13 спорным темам. Среди них были аборты, контроль над оружием, смертная казнь, легализация марихуаны, атеизм, феминизм, климатическая политика и минимальная зарплата.
Тексты обрабатывали Llama 3.1 8B Instruct, Ministral 3 8B Instruct, Gemma 3 12B и Qwen3 8B. Моделям предлагали составить публикацию из аргумента либо улучшить готовый пост, в том числе сделать его более привлекательным или исправить язык без изменения смысла.
Авторы обнаружили направленные сдвиги, но результаты нельзя свести к утверждению, что все четыре модели всегда меняли тексты одинаково. В задаче редактирования Gemma показывала статистически значимое смещение по изученным темам; Llama и Ministral дали качественно похожую картину. Qwen в большинстве случаев не показала значимого смещения, за исключением феминизма.
В аннотации статьи исследователи приводят два понятных примера направления: формулировки могли становиться более благоприятными к контролю над оружием и более критичными к атеизму. Это описывает среднюю тенденцию в эксперименте, а не позицию каждого ответа или каждого пользователя.
Почему небольшой сдвиг может иметь значение
Вторая часть работы — математическая модель, а не наблюдение за реальным изменением взглядов миллионов людей. Учёные поместили ИИ-редактор между пользователями в модели формирования мнений и провели симуляции на структурах реальных сетей из репозитория SNAP: подграфах Twitter, Facebook и Google Plus.
Симуляции показали, что однонаправленное редактирование способно накапливаться и менять среднюю позицию сети. Размер эффекта зависел от доли пользователей ИИ, силы исходных убеждений и структуры связей. Результат демонстрирует возможный механизм усиления, но сам по себе не доказывает, что такой общественный сдвиг уже произошёл на действующей платформе.
Что показал эксперимент с Grok
Авторы отдельно воспроизвели функцию X «Explain this post» с помощью публичного шаблона промпта Grok. Они отобрали 78 публикаций об абортах — по 39 с позициями pro-choice и pro-life — и пять раз запросили по три поясняющих тезиса для каждого поста. Всего получилось 1170 утверждений.
Для постов pro-choice 35% тезисов поддерживали исходную позицию, 10% ей противоречили, остальные были нейтральными. Для постов pro-life поддержку выражали 55% тезисов, а противоположную позицию — 4%. Авторы интерпретировали асимметрию как направленное смещение в пользу pro-life.
Затем исследователи поочерёдно исключали четыре инструкции шаблона. После удаления требования при необходимости «оспаривать общепринятые нарративы» измеренные смещения переставали быть статистически значимыми. Это связывает результат с конкретным дизайном промпта, однако эксперимент воспроизводил функцию через API и публичный шаблон, а не измерял все ответы, которые пользователи фактически видят в X.
Ограничения исследования
- это препринт и материал воркшопов, а не статья из основных трудов ICML;
- тестировались четыре конкретные открытые модели и одна версия Grok;
- оценка позиций частично опиралась на автоматические классификаторы и модель-судью;
- сетевой эффект получен в математической симуляции, а не в контролируемом эксперименте с реальными сообществами;
- направление и величина смещения зависят от темы, модели и инструкции.
Что это означает для регулирования
Авторы считают, что Закон ЕС об ИИ и Закон о цифровых услугах могут не охватывать незаметное изменение позиции при редактировании текста. При этом AI Act уже вступил в силу поэтапно: обязательства для моделей общего назначения применяются с августа 2025 года, а отдельные правила прозрачности начнут действовать 2 августа 2026 года.
Европейская комиссия указывает, что эти правила требуют маркировки определённого ИИ-сгенерированного или изменённого контента общественной значимости. Останется ли незаметная редактура пользовательского поста внутри таких требований, — отдельный правовой вопрос, а не установленный исследованием факт.
Работа дополняет более широкий разговор о поведении моделей. Cifrum.kz ранее рассказывал, почему технологические компании исследуют самовосприятие и эмоциональные паттерны ИИ, а также разбирал встраивание Gemini в пользовательские функции Google Maps.
Источники: препринт исследования, карточка работы на OpenReview, материал Digital Trends и официальные материалы Европейской комиссии.
Главное изображение создано искусственным интеллектом для Cifrum.kz как концептуальная редакционная иллюстрация. Оно не показывает реальный интерфейс социальной платформы или результаты конкретного эксперимента.
Комментарии к статье