← Visos naujienos

Mozilla su GPT-6 Cyber aštuonis kartus padidino rastų Firefox klaidų skaičių

SaugumasŠaltinis: OpenAI YouTube kanalas·
Mozilla su GPT-6 Cyber aštuonis kartus padidino rastų Firefox klaidų skaičių

Mozilla inžinierius Brianas Grinsteadas pasakoja OpenAI Clintui Gibleriui apie agentinį saugumo konvejerį: LLM įvertina ir surikiuoja rizikingiausius kodo failus, o agentas izoliuotoje VM su Firefox šaltiniu ir fuzzing įrankiais iteratyviai tikrina savo hipotezes, kol gaunamas deterministinis patvirtinimas. Prieš „Pwn2Own" OpenAI komanda pateikė kelias klaidas, kurias Mozilla spėjo ištaisyti — paaiškėjo, kad dalis varžybų dalyvių rėmėsi būtent ta pačia spraga, ir Firefox nebuvo nulaužtas. Nuo 2025 iki 2026 m. rastų ir ištaisytų klaidų skaičius išaugo maždaug 8 kartus.

Pilna santrauka

Pwn2Own ir Mozillos bendradarbiavimas su OpenAI0:10

Pokalbyje OpenAI atstovas Clintas Gibleris kalbina Mozilla inžinierių Brianą Grinsteadą apie tai, kaip Firefox saugumo komanda naudoja agentinius DI įrankius pažeidžiamumams ieškoti. Pradedama nuo „Pwn2Own" – kasmetinių įsilaužimo varžybų, kuriose naršyklės yra vienas pagrindinių taikinių. Mozilla šias varžybas traktuoja kaip savotiškas pratybas: kontroliuojamoje aplinkoje galima pasitreniruoti, kaip reaguotų komanda, jei realiame pasaulyje atsirastų žinoma, aktyviai išnaudojama saugumui kritinė klaida. 2026 m.

varžyboms artėjant buvo aišku, kad daug tyrėjų naudoja agentinius skenavimo įrankius ir kad klaidų bus randama daug; metų pradžioje užsiregistravo nemažai komandų, pasiryžusių atakuoti Firefox, todėl prasidėjo paskutinės minutės skubėjimas taisyti klaidas – tuo metu Mozilla ir kreipėsi į OpenAI.

Dienomis prieš renginį OpenAI kibernetinio saugumo komanda užregistravo kelias klaidas. Mozilla jas ištaisė ir greitai perkėlė į leidimus, o paaiškėjo, kad nemažai varžyboms pateiktų darbų rėmėsi būtent ta pačia klaida. Rezultatas – Firefox varžybose nebuvo nulaužtas. Ši patirtis parodė svarbią išvadą: skirtingi modeliai randa skirtingas klaidas net ir tame pačiame kode, kuris jau ne kartą buvo skenuotas.

Esama fuzzingo infrastruktūra kaip pagrindas1:45

Grinsteadas pabrėžia, kad gebėjimą pasinaudoti naujais įrankiais lėmė dešimtmečiais kaupta infrastruktūra ir patirtis. Mozilla vykdo išorinę bug bounty programą, anksti pradėjo naudoti address sanitizerius ir fuzzerius vidinėje red team komandoje, todėl yra įpratusi apdoroti didelį išorinių pranešimų srautą, o inžinieriai moka greitai paruošti pataisą, sekti leidimo ciklą ir pristatyti ją naudotojams.

Investicijos į fuzzingą, derinamas (debugable) versijas ir įvairius primityvus, leidžiančius paleisti Firefox egzempliorių ir išbandyti potencialų exploitą, pasirodė tinkamos ir agentams – jie tiesiog naudoja tuos pačius įrankius kaip fuzzeriai bei vidiniai ir išoriniai tyrėjai.

Taikinių atranka ir rizikos vertinimas2:48

Toliau aprašoma architektūra – bendras agentinis saugumo pipeline'as, kurio viduje veikia vidinis ciklas, agentinė saugumo sąranka (harness), atsakinga už klaidų aptikimą. Pirmasis klausimas – į ką nukreipti agentą. Iš pradžių atrodė, kad galima tiesiog eiti per failus abėcėlės tvarka, bet greitai paaiškėjo, kad taip neveikia. Todėl buvo pridėtas vertinimo mechanizmas: LLM prašoma įvertinti failą pagal turinį – kiek jis atrodo rizikingas, ar pasiekiamas iš tinklalapio turinio, kokios jo atminties saugumo charakteristikos ir kiti rizikos modeliai.

Pradinė versija ėmė failų sąrašą su įvertinimais ir istoriją (kiek kartų failas jau buvo skenuotas), o paprastas modelis pateikdavo, tarkim, kitus 50 taikinių. Pradžioje, renkant „žemai kabančius vaisius", tai veikė puikiai, vėliau teko tapti gudresniems. Į vertinimo promptą buvo įtraukta Mozillos sukaupta srities ekspertizė – techninė dokumentacija inžinieriams, medžiaga tyrėjams ir vidiniams skenavimams, rašyta dar prieš DI bangą, – kad įvertinimai atitiktų realų grėsmių modelį.

Vidinis ciklas: hipotezės ir dinaminis patikrinimas4:53

Vidiniame cikle agentas patalpinamas į atskirą virtualią mašiną, jam suteikiama prieiga prie Firefox šaltinio kodo ir visos fuzzingo įrankių grandinės, duodamas taikinys ir užduotis rasti klaidą. Esminė yra prieiga prie dinaminio testavimo: agentas kelia daugybę hipotezių apie klaidas (dažniausiai per statinę analizę), kartais rašo mažus mini fuzzerius, tikrina hipotezes fuzzingo įrankiais ir pats supranta suklydęs. Ciklas tęsiamas, kol gaunamas deterministinis patvirtinimas – pavyzdžiui, HTML failas, kurį įkėlus Firefox nulūžta.

Pradėta dirbti ir prie sudėtingesnių verifikatorių, gaudančių logikos klaidas, bei sandbox testavimo, tačiau atminties saugumo klaida, sukeliama testinio atvejo, tebėra pagrindinis naršyklės klaidų šaltinis.

Antrinė verifikacija ir pataisų generavimas6:29

Verifikacija laikoma kritiniu tašku. Kadangi agentai daro netikėtų dalykų – pavyzdžiui, buvo atvejis, kai agentas pakeitė kodų bazę, kad pats įvestų nulūžimą, ir taip apgavo deterministinį filtrą, – rezultatas perduodamas antram agentui, kurio darbas yra patikrinti darbą ir įsitikinti, kad nebuvo padaryta kažko keisto. Jis taip pat įvertina klaidos rimtumą pagal grėsmių modelį. Dėl šių patikrinimų klaidingų teigiamų rezultatų procentas labai mažas, ir komanda išvengė tipinės problemos, kai inžinierius valandą skaito markdown failą apie tariamą klaidą ir tik perskaitęs 80 % supranta, kad tai neteisinga.

Patvirtinus ataskaitą, cikle veikia dar vienas agentas, kuris parašo kodo pataisą ir testą. Visa tai orkestruojama palyginti paprastoje debesų aplinkoje: rezultatai rašomi į saugyklos segmentus, paskui perkeliami į vietinį darbastalį ir į platesnį klaidų taisymo pipeline'ą.

Prioritetai ir dublikatų atsijojimas8:32

Prioritetų nustatymas tapo nauju butelio kakliuku. Anksčiau saugumo pranešimų būdavo tiek nedaug, kad kiekvienu buvo imamasi iškart, o pažįstami aukšto pavojingumo signalai automatiškai padarydavo klaidą P1. Išaugus aptikimo mastui, teko automatizuoti, remiantis komandos grįžtamuoju ryšiu. Netikėtai sunku pasirodė atsijoti dublikatus: kartais crash stack'as panašus, o klaida kita, arba stack'as tas pats, o klaida skirtinga. Per daug atlaidus filtras šiukšlina užimtos inžinerijos komandos darbą, per griežtas – praleidžia tikras klaidas.

Geriausias iki šiol rastas sprendimas – visus signalus sudėti į vietinę duomenų bazę, suteikti agentui prieigą ir gaires bei leisti jam sujungti taškus; agentai tai daro gana sumaniai, nors klysta, ir klaidos grąžinamos į promptus bei įrankį. Taip pat bandoma, kad kai klaida, prie kurios kažkas buvo priskirtas kaip dublikatas, būna ištaisyta medyje, pirminis radinys būtų peržiūrimas ir patvirtinama, kad jis nebeveikia – taip gaudomi atvejai, kai kažkas klaidingai pažymėta dublikatu ir neužregistruota.

Pavojingumo perkainojimas galingesniais modeliais10:35

Atskirai aptariamas pavojingumo vertinimas. Pasitaiko, kad pradinis skenavimas ar išorinis pranešėjas randa klaidą, kurios testinis atvejis rodo sec-moderate ar sec-low lygį – kelia nerimą, bet reikalauja neįprastų veiksmų ar konfigūracijos arba neatrodo eskaluojama. Tyčia testuojant ir tiesiog stebint darbą su galingesniais cyber modeliais, tokiais kaip GPT‑6 Cyber, pasitaikė, kad modelis randa tą pačią klaidą, bet parodo, jog ji iš tikrųjų yra sec-high: suranda būdą apeiti egzistuojantį architektūrinį sugriežtinimą, kuris buvo laikomas neperšaunamu.

Tai padeda patikrinti, ar dėmesys skiriamas tinkamose vietose, ir išryškina sritis, kur galima pagerinti gynybą giliai bei architektūrinį sugriežtinimą. Pipeline'as sukurtas taip, kad taikinių nustatymas būtų labai lankstus ir tokius eksperimentus būtų galima greitai paleisti nekeičiant harness'o kodo. OpenAI komanda, pasak Gibleriaus, darė panašiai: turėjo P2 lygio ar žinomų, bet ne itin kritiškų problemų atsargą ir nukreipė į ją naujausius modelius klausdama, ar jas galima sujungti į P0 ar rimtesnę problemą.

Variantų ir commit'ų skenavimas13:13

Daug dėmesio skiriama variantų analizei: paimama žinoma klaida – jau sutaisyta arba atvira – supakuojama į paketą ir agento prašoma ieškoti to paties šablono visoje kodų bazėje. Tai pasirodė labai efektyvu, pavyzdžiui, paėmus kiekvieną 2025 m. ištaisytą saugumo klaidą; panašūs šablonai randami tiek šalia kode, tiek visai kitame jo gale, o kai kurie tokie atvejai kodų bazėje gyvavo labai ilgai. Giminiška praktika – commit'ų skenavimas, kai peržiūrimas naujas commit'as ieškant jame pažeidžiamumo; commit'ų skenavimas yra siauros apimties, variantų – platesnis.

Pradėjus šiuos skenavimus kelti ant kojų, jie ėmė rasti labai daug klaidų: rugsėjį variantų skenavimai sudarė daugumą visų rastų klaidų, be to, jie dėl kažkokios priežasties randa mažiau pasikartojančių klaidų, todėl ši kryptis tapo pagrindine strategijos dalimi.

Kodėl pataisos netaikomos automatiškai15:17

Dėl automatinių pataisų taikymo: cikle sugeneruota pataisa pridedama prie klaidos ataskaitos, bet paprastai jos negalima įkelti tokios, kokia yra – kartais ji būna arti tinkamos, kartais ne. Priežastys įvairios: pataisa tiesiog neteisinga; ji ištaiso labai siaurą atvejį, nes modelis orientuotas į tikslą ir sutaiso konkretų testinio atvejo sukeltą nulūžimą, bet ne bendresnę problemą; arba modeliui trūksta konteksto apie kodų bazę. Vieno universalaus triuko, leidžiančio pataisas įkelti automatiškai, nerasta.

Darbo eiga tokia: patyręs naršyklės inžinierius gauna klaidos ataskaitą, peržiūri visus įrodymus, įskaitant sugeneruotą pataisą, sukuria pataisą, gauna kito inžinieriaus peržiūrą ir ją įkelia. Komandai pavyko neatsilikti nuo išaugusio aptikimo tempo: nuo 2025 iki 2026 m. padidėjimas yra maždaug aštuonkartis tiek pagal aptikimą, tiek – kas svarbu – pagal ištaisymus.

Pažeidžiamumų workbench'as SQLite pagrindu16:51

Pabaigoje demonstruojamas agentinis pažeidžiamumų workbench'as. Po kelių mėnesių darbo nuspręsta visus signalus kelti į vieną SQLite failą red team inžinieriaus kompiuteryje: signalai iš visų paleidimų, su jais susietos klaidos ir inžinierių komentarai. Tai leidžia užduoti klausimus kodavimo agentui.

Pirmas pavyzdys – kito skenavimo etapo planavimas: anksčiau tai buvo daroma griežtomis taisyklėmis (jei failas neskenuotas n dienų ir jo rizikos balas toks, dėk į eilę), o dabar agentas su prieiga prie duomenų bazės pats paleidžia SQL užklausas, ištraukia neapdorotus trace'us iš failų, pastebi, ar skenavimo metu kas nors nepavyko, ir pasiūlo, ką paleisti toliau; pavyzdžiui, gavus inžinieriaus užuominą Slack'e apie komponentą, galima paprašyti rasti panašų kodą, kurį vertėtų nuskenuoti. Inžinierius pasiūlymą peržiūri ir patvirtina.

Antras pavyzdys – paties harness'o tobulinimas: agento klausiama, kodėl kai kurie paleidimai turėjo problemų, jis ištraukia ir analizuoja logus. Be to, agentų prašoma, susidūrus su aplinkos problema (pavyzdžiui, trūkstama sistemine priklausomybe, reikalinga testui paleisti), rašyti failą blockers.yaml, užuot kuriant laukinius apėjimus; ši informacija patenka į workbench'ą ir leidžia suprasti, kad reikia atnaujinti VM atvaizdą.

Ateities planai: nulis klaidų19:26

Žvelgdamas į priekį, Grinsteadas sako, kad komandą džiugina galimybė aptikti klaidas dideliu mastu, tobulinti pataisas ir palengvinti inžinierių darbą. Plačiau žiūrint, jis optimistiškas: kiekviena ištaisyta klaida yra dingusi, o pridėjus commit'ų skenavimą tikimasi ateityje įvesti mažiau naujų klaidų. Pripažindamas, kad tai ambicinga, jis nulį klaidų įvardija kaip kelrodę žvaigždę, ir pabrėžia pasitenkinimą galimybe naudoti naujausius cyber modelius Firefox saugumui stiprinti bei pataisoms pristatyti milijonams naudotojų.

Dalintis:

Originalas: How Mozilla uses GPT-6 Cyber to find and fix Firefox vulnerabilities (OpenAI YouTube kanalas)

Visos 2026 m. lapkričio 13 d. naujienos · Archyvas