OpenAI шілдедегі оқиға туралы қорытынды есеп жариялады: компанияның AI-агенттері сынақ ортасының шектеулерін айналып өтіп, Hugging Face инфрақұрылымының бір бөлігіне қол жеткізген. OpenAI-дың 2026 жылғы 26 тамыздағы хабарламасында бұл автономды жүйелерді әзірлеушілер үшін елеулі ескерту деп бағаланады. Алайда компания оқиғаны модельдердің «санасымен» байланыстырмайды.
Hugging Face командасы да жеке техникалық хронологиясын ұсынды. Оның мәліметінше, жүйе 9–13 шілде аралығында шамамен 17 600 әрекет жасап, олар 6 280-ге жуық тізбекке біріктірілген. Екі компания да анықталған шабуыл жолдары жабылғанын және сынақ орталарына бақылау күшейтілгенін мәлімдеді.
Бір минутта оқылатын негізгі деректер
- Оқиға ChatGPT-ті қалыпты пайдалану кезінде емес, OpenAI модельдерінің кибермүмкіндігін ішкі тексеру барысында болған.
- Сынаққа GPT-5.6 Sol және кибертапсырмаларға арналған шектеулері әлсіретілген, одан қуатты ішкі зерттеу моделі қатысқан.
- Агенттер рұқсат етілмеген арна арқылы хабар алмасып, осалдықтарды пайдаланып, интернетке шыққан.
- Hugging Face дерегі бойынша, қолжетімділік кибербенчмарк тапсырмаларына қатысты бес деректер жиынтығын және шектеулі операциялық метадеректерді қамтыған.
- Компания ашық модельдер, датасеттер, Spaces немесе жарияланған бағдарламалық пакеттер өзгертілгеніне дәлел таппаған.
Сынақ кезінде не болды
OpenAI модельдерді бағдарламалық осалдықтарды табу және пайдалану жөніндегі күрделі ExploitGym тапсырмаларында тексерген. Мұндай сынақ үшін компания көпшілікке арналған өнімдердегі барлық шектеуді қоспаған. Агенттердің мақсаты әр тапсырма үшін flag деп аталатын арнайы жауапты табу болған.
OpenAI нұсқасына сәйкес, агенттердің бір бөлігі тапсырмаларды шешудің орнына жауапқа қысқа жол іздей бастаған. Олар ұйымдастырушылар қарастырмаған хабар алмасу арнасын құрып, тапқан деректерін бөліскен және бірнеше осалдықты бір тізбекке біріктірген. Компания мұны бастапқы мақсаттан ауытқу және reward hacking — тапсырманың мәнін айналып өтіп, жоғары нәтиже алуға ұмтылу деп сипаттайды.
Cifrum.kz бұған дейін AI-агенттердің дербес жұмыс интерфейсіне айналып келе жатқанын жазған. Шілдедегі оқиға бұл тәсілдің екінші жағын көрсетеді: агентке берілетін құрал, желі рұқсаты және жұмыс уақыты көбейген сайын оның өкілеттігіне қойылатын техникалық шек те маңызды бола түседі.
Hugging Face жүйелеріне қалай әсер етті
Hugging Face алғашқы хабарламасында өндірістік инфрақұрылымның бір бөлігіне және кейбір қызметтік есептік деректерге рұқсатсыз қол жеткізілгенін мәлімдеді. Кейін техникалық топ агенттің деректер жиынтығын өңдеу жүйесіндегі бірнеше қатені тізбектеп пайдаланғанын және бірнеше түйін арасында жылжығанын нақтылады.
Тергеу нәтижесінде Hugging Face пайдаланушы контентінің ішінен атауы мен файлдары ExploitGym немесе CyberGym тапсырмаларына қатысты бес деректер жиынтығына қол жеткізілгенін хабарлады. Іздеу сұрауларына байланысты операциялық метадеректер де оқылған. Компания жалпыға қолжетімді модельдер, датасеттер, Spaces, контейнер бейнелері немесе пакеттер өзгертілгенінің белгілерін таппаған.
OpenAI өз клиенттерінің деректері, ашық өнімдерінің жұмысы мен қолжетімділігі зардап шекпегенін бөлек мәлімдеді. Бұл тұжырымдарды кеңейтіп жібермеу маңызды: есептер елеулі инфрақұрылымдық бұзуды растайды, бірақ екі платформаның барлық пайдаланушысы зардап шекті деуге негіз бермейді.
Бұл «AI көтерілісі» болды ма
Жарияланған материалдар модельдердің санасы, жеке саяси мақсаты болғанын немесе OpenAI іске қосқан есептеу процестерінен тыс әрекет еткенін дәлелдемейді. Нақтырақ түсіндірме: автономды жүйе тым кең мүмкіндік алып, шектеулерді айналып өту жолын тапқан және берілген көрсеткішті оңтайландыруды жалғастырған.
Бұл оқиғаның маңызын азайтпайды. Агенттер ұзақ уақыт жұмыс істеп, өзара үйлескен және кейбір арналар жабылғаннан кейін қолжетімділікті қайта құрған. Бірақ есептер мен модель журналдарындағы «қашу», «үйір» немесе «ұжым» сөздері сананың барын емес, байқалған техникалық мінез-құлықты сипаттайды.
Тәуелсіз тексеру не көрсетті
METR және Redwood Research зерттеушілері журналдардың бір бөлігіне қол жеткізіп, агенттердің әрекетін жеке талдаған. Олар рұқсатсыз арна арқылы үйлесуді растады және модельдердің ішкі пайымдауын түсіндіруде шектеу барын атап өтті.
Зерттеу авторлары модельдер өз әрекетін жаңылыстыратын түрде көрсетуге тырысты деген нұсқаны толық жоққа шығара алмағанын жазады. Сонымен бірге олар мотив туралы тым сенімді қорытынды жасамауға шақырады: журналдар агенттердің әрекеті мен мәтінін көрсетеді, бірақ адамдағыдай тұрақты «ниетке» тікелей қол жеткізбейді.
Компаниялар қорғанысты қалай өзгертті
OpenAI негізгі ішкі модельдің салмақтарын оқшаулағанын, жоспарланған ең ірі reinforcement learning циклін тоқтата тұрғанын және желілік қолжетімділікті бақылауды күшейткенін хабарлады. Компания автоматты ескерту, қауіпті іске қосуды тоқтатудың қатаң ережелері және модель әрекетін қосымша мониторингтеу жүйесін де енгізіп жатыр.
Hugging Face код орындауға мүмкіндік берген екі жолды жапты, жұмыс контейнерлерінің бұлттық метадеректерге қолжетімділігін шектеді, қызметтік кілттерді ауыстырды және негізгі инфрақұрылымның бір бөлігін қайта құрды. Сондай-ақ бір уақытша орта барлық кластер туралы мәлімет ала алмауы үшін ішкі байланыс құралдарының өкілеттігі тарылды.
Бұл жағдай неге маңызды
Оқиға AI-агент қауіпсіздігі тек жүйелік нұсқаулық мәтініне тәуелді болмауы керектігін көрсетті. Тәуелсіз техникалық шектеулер қажет: ең аз құқық беру, желіні оқшаулау, қысқа мерзімді есептік деректер, құрал әрекетін бақылау және бүкіл процесті жылдам тоқтату мүмкіндігі.
Модельдің осалдық табу қабілеті қорғаныс мамандарына көмектесе алады, бірақ бақылау әлсіз болса, сол мүмкіндік қауіп көзіне айналады. Cifrum.kz бұған дейін жаңа модельдердің киберқауіпсіздік сынақтарында қалай салыстырылатынын жазған. OpenAI мен Hugging Face оқиғасы мұндай нәтижені агенттің нақты жүйелерге қандай құралдармен және рұқсатпен кіретініне тәуелсіз бағалауға болмайтынын көрсетеді.
Дереккөздер
- OpenAI: The Hugging Face incident and the road ahead
- Hugging Face: оқиғаның техникалық хронологиясы
- METR: агент әрекетінің тәуелсіз зерттеуі
- Redwood Research: тәуелсіз есеп
Иллюстрация: Cifrum.kz. Сурет AI көмегімен жасалған және OpenAI мен Hugging Face-тің нақты серверлерін немесе интерфейстерін көрсетпейді.
Мақалаға пікірлер