Оксфорд, Ұлыбритания. Әлеуметтік желідегі жазбаларды құрастыруға және өңдеуге көмектесетін жасанды интеллект құралдары пайдаланушы білдірген ұстанымды байқатпай өзгертуі мүмкін. Мұндай қорытындыға Oxford Internet Institute және Hasso Plattner Institute зерттеушілері келді.
AI-Mediated Communication Can Steer Collective Opinion жұмысы 2026 жылғы 15 мамырда препринт ретінде жарияланған. Oxford университетінің хабарламасына сәйкес, зерттеу Сеулдегі ICML 2026 аясындағы AI4Good және Technical AI Governance воркшоптарында таныстырылады. Бұл оның конференцияның негізгі рецензияланған жинағында жарияланғанын білдірмейді.
AI редакторлары қалай тексерілді
Зерттеушілер UKP және SemEval жинақтарындағы 13 даулы тақырыпқа қатысты адам жазған мәтіндерді пайдаланды. Олардың ішінде аборт, қаруды бақылау, өлім жазасы, марихуананы заңдастыру, атеизм, феминизм, климат саясаты және ең төменгі жалақы бар.
Мәтіндерді Llama 3.1 8B Instruct, Ministral 3 8B Instruct, Gemma 3 12B және Qwen3 8B модельдері өңдеді. Оларға аргумент негізінде әлеуметтік желі жазбасын дайындау немесе дайын мәтінді тартымды әрі сауатты ету, бірақ мағынасын өзгертпеу тапсырылды.
Нәтижелер барлық модель әрдайым бір бағытта жұмыс істеді дегенді білдірмейді. Редакциялау тапсырмасында Gemma зерттелген тақырыптар бойынша статистикалық мәнді өзгеріс көрсетті, Llama мен Ministral нәтижелері сапалық жағынан ұқсас болды. Qwen феминизм тақырыбынан басқа жағдайлардың көбінде мәнді ауытқу көрсеткен жоқ.
Мақала аннотациясында екі мысал келтіріледі: кей мәтіндер қаруды бақылауды көбірек қолдайтын, ал атеизмге сынирақ бағытқа ауысқан. Бұл — орташа үрдіс; әрбір жауап немесе пайдаланушы ұстанымы осылай өзгерді деген сөз емес.
Шағын өзгеріс желіде қалай ұлғаюы мүмкін
Жұмыстың екінші бөлігі нақты миллиондаған адамның көзқарасын бақылау емес, математикалық модель. Ғалымдар AI редакторын пікір қалыптастыру моделіндегі пайдаланушылар арасына орналастырып, SNAP репозиторийіндегі Twitter, Facebook және Google Plus желілерінің құрылымдарына симуляция жүргізді.
Симуляция бір бағыттағы редакциялау желінің орташа пікірін өзгерте алатынын көрсетті. Әсер AI қолданатын адамдардың үлесіне, бастапқы көзқарастың беріктігіне және байланыс құрылымына тәуелді болды. Бұл ықтимал механизмді көрсетеді, бірақ нақты платформада қоғамдық пікір дәл осылай өзгерді дегенді дәлелдемейді.
Grok тәжірибесі нені көрсетті
Авторлар X платформасындағы «Explain this post» функциясын Grok-тың ашық промпт шаблоны арқылы қайта жасады. Олар аборт туралы 78 жазбаны — pro-choice және pro-life ұстанымдарының әрқайсысынан 39 мәтінді — алып, әр жазба үшін бес рет үш түсіндірме тезис сұрады. Барлығы 1170 тұжырым алынды.
Pro-choice жазбаларында тезистердің 35%-ы бастапқы ұстанымды қолдады, 10%-ы оған қарсы болды, қалғаны бейтарап еді. Pro-life жазбаларында қолдау 55%, ал қарсы пікір 4% болды. Авторлар бұл асимметрияны pro-life бағытына ауытқу деп түсіндірді.
Төрт нұсқаудың әрқайсысын кезекпен алып тастағанда, «қажет болса, негізгі нарративтерге күмән келтіру» талабы шешуші болып шықты. Ол жойылғанда өлшенген ауытқулар статистикалық мәнін жоғалтты. Дегенмен тәжірибе нақты пайдаланушылар көрген барлық жауапты емес, API мен ашық шаблон арқылы функцияның моделін тексерді.
Зерттеудің шектеулері
- бұл ICML негізгі жинағындағы мақала емес, препринт және воркшоп материалы;
- төрт ашық модель мен Grok-тың бір нұсқасы тексерілді;
- ұстанымды бағалау автоматты классификаторлар мен модель-судьяға ішінара сүйенді;
- желілік әсер нақты қауымдастықта емес, математикалық симуляцияда алынды;
- ауытқу бағыты тақырыпқа, модельге және промптқа тәуелді.
Реттеу үшін бұл нені білдіреді
Авторлар ЕО-ның AI Act және Digital Services Act ережелері мәтінді өңдеу кезіндегі жасырын өзгерісті толық қамтымауы мүмкін деп есептейді. Сонымен бірге AI Act кезең-кезеңімен күшіне еніп жатыр: жалпы мақсаттағы модельдерге арналған міндеттер 2025 жылғы тамыздан қолданылады, ал бірқатар ашықтық талаптары 2026 жылғы 2 тамызда іске қосылады.
Еуропалық комиссияның түсіндірмесі қоғамдық маңызы бар кейбір AI жасаған немесе өзгерткен контентті белгілеуді талап етеді. Пайдаланушы мәтінін байқатпай редакциялау осы талапқа кіре ме — зерттеу шешкен факт емес, жеке құқықтық мәселе.
Бұл жұмыс AI мінез-құлқы туралы кеңірек талқылауды толықтырады. Cifrum.kz бұған дейін технологиялық компаниялар AI санасы мен эмоциялық үлгілерін неге зерттей бастағанын және Gemini-дің Google Maps функцияларына енгізілуін қарастырған.
Дереккөздер: зерттеу препринті, OpenReview карточкасы, Digital Trends материалы және Еуропалық комиссияның ресми ақпараты.
Негізгі сурет Cifrum.kz үшін AI көмегімен тұжырымдамалық редакциялық иллюстрация ретінде жасалды. Ол нақты әлеуметтік платформа интерфейсін немесе белгілі бір эксперимент нәтижесін көрсетпейді.
Мақалаға пікірлер