← Visos naujienos

OpenAI pristatė naują kibernetinio saugumo modelį ir Daybreak gynybos programą

SaugumasŠaltinis: OpenAI YouTube kanalas·
OpenAI pristatė naują kibernetinio saugumo modelį ir Daybreak gynybos programą

Pranešime teigiama, kad OpenAI netrukus patikimiems gynėjams išleis naują kibernetinio saugumo modelį, kurio našumas bus šuolis į priekį, o prieigą prie jo organizuos Daybreak programa kartu su milijardo dolerių gynybos fondu kritinei infrastruktūrai. Kaip pavyzdys pateikta „patch the planet“ iniciatyva ir PHP pažeidžiamumas: tyrėjas jį rado su modelio pagalba, o kita modelio karta tą pačią, dar bendresnę spragą aptiko visiškai autonomiškai. Pabrėžiama, kad dviejų mėnesių koordinuotas atskleidimas su įmonėmis ir vyriausybėmis išnaudojo visus turimus resursus, todėl toks procesas nėra pakankamai keičiamo mastelio.

Pilna santrauka

Grego įžanga: grėsmių pagreitėjimas0:20

Pranešimo pradžioje Gregas kreipiasi į susirinkusiuosius kaip į kolektyvinio veiksmo akimirką ir teigia, kad šiais metais kibernetinio saugumo srityje vyksta ne tiek naujas reiškinys, kiek seniai egzistuojančių tendencijų pagreitėjimas: greičiau randami pažeidžiamumai, greičiau juos išnaudoja užpuolikai, o gynėjai bando išlikti priekyje. Esminė priežastis, jo teigimu, ta, kad internetas nebuvo kuriamas galvojant apie saugumą, kad nė vienas CISO niekada neturėjo pakankamai išteklių ir kad saugumo prioritetizavimas bei ekspertizės sklaida visada buvo kliūtys, dėl kurių susikaupė technologinė skola klasikiniame programinės įrangos kūrime.

Vykstant kibernetinio saugumo „fizikos" pokyčiui ir savotiškai ekspertizės demokratizacijai, reikia tiek apsaugoti tai, kas jau egzistuoja, tiek keisti darbo eigas, kad programinė įranga būtų kuriama iš esmės saugiau.

Trijų dalių gynybos strategija1:54

Gregas pristato grafiką su naujausio kibernetinio modelio našumu ir sako, kad šį modelį netrukus planuojama išleisti patikimiems gynėjams visur; tai bus dar vienas laiptelis į priekį, o pažanga tęsis karta po kartos. OpenAI požiūris į pasaulio gynimą dėliojamas trimis dalimis: pirma, sukurti frontier gebėjimus, kad egzistuotų „gynėjo langas", kai frontier gerokai pralenkia tai, kas plačiai paplitę; antra, suteikti prieigą — tam skirta Daybreak programa, įdedanti įrankius į patikimų gynėjų rankas; trečia, padėti tuos gebėjimus praktiškai pritaikyti per švietimą, playbook'us ir produktus.

Jis pabrėžia, kad OpenAI modelius pritaikė viduje ir kad dabar įmonės bus saugios tiek, kiek saugus yra jų gynybai naudojamas frontier modelis ir kiek gerai jos jį išnaudoja; pagrindų nuvertinti negalima, bet saugumo praktiką reikia perorientuoti pagal modelių galimybes.

PHP pažeidžiamumo atvejo analizė3:26

Toliau pateikiama PHP pažeidžiamumo atvejo analizė. OpenAI finansavo programą „Patch the Planet", kurios idėja — ne tik rasti pažeidžiamumus, bet ir padėti juos ištaisyti, todėl buvo finansuojami saugumo tyrėjai, kad realiai įdiegtų pataisas. Tyrėjas iš Califf su modeliu (tuo metu 5.6) ir savo srities ekspertize rado pažeidžiamumą, o po mėnesio kitos kartos modelis visiškai autonomiškai rado tą patį, netgi bendresnį pažeidžiamumą. Tai rodo, kad gabesni modeliai ras vis gilesnius pažeidžiamumų rinkinius.

Atsakas buvo koordinuojamas su įmonių bendruomene ir daugeliu vyriausybių visame pasaulyje; išleidimas laikomas sėkmingu, nors truko apie du mėnesius koordinavimo, pataisų ruošimo ir stabilumo užtikrinimo. Tačiau tai suvalgė visą turimą pajėgumą — komandos narių, partnerių įmonių ir vyriausybių laiką, nuolatinius skambučius — todėl toks procesas nėra plečiamas mastelio atžvilgiu, o ateities pažeidžiamumams reikės bendruomeninio požiūrio; tuo pačiu modeliai suteikia geresnius įrankius atskleidimą koordinuoti didesniu mastu.

Milijardo dolerių Daybreak fondas5:33

Gregas pažymi, kad tai ne vienos įmonės iššūkis: per pastaruosius porą mėnesių daug įmonių pasirašė atvirą laišką, o OpenAI paskelbė milijardo dolerių Daybreak gynybos fondą pirmosios linijos gynėjams ir kritinei infrastruktūrai, kad modeliai būtų realiai pritaikyti. Po to žodis perduodamas Nancy Wang, kuri OpenAI vadovauja kibernetinio taikomojo DI sričiai.

Daybreak Red Team ir Defense Factory6:05

Nancy paaiškina, kad Daybreak yra platforma viskam, ką OpenAI siūlo kibernetinio saugumo srityje — nuo frontier kibernetinių modelių iki įrankių ir praktinės paramos. Prieš kelis mėnesius produktų inžinieriai pradėjo nuolatinės gynybos kelionę, grūdindami vidines sistemas su frontier modeliais, o įžvalgos buvo paverstos dviem skelbiamais produktais: Daybreak Red Team ir Daybreak Defense Factory.

Daybreak Red Team pristatomas ankstyvos prieigos režimu; jis remiasi nuostata, kad geriausia gynyba yra geras puolimas, naudoja frontier kibernetinius modelius ir suteikia „antžmogiško pentesto" signalą automatizuoto nuolatinio skenavimo mastu, taip demokratizuodamas prieigą prie frontier modelių kūrėjams ir organizacijoms, niekada neturėjusioms savo red team.

Daybreak Defense Factory automatizuoja gynybos ciklą — rasti, patvirtinti ir ištaisyti pažeidžiamumus dideliu mastu: skenuoja kodo bazę atkuriamose debesų kūrimo aplinkose, agentai atseka pažeidžiamumą iki paveikto kodo, naudoja kodo istoriją ir komandos struktūrą tinkamam kodo savininkui nustatyti, o inžinieriai gauna parengtą sulieti pull request su pataisa ir testu. Ta pati darbo eiga, naudota senoms problemoms tvarkyti, įtraukta ir į naujo kodo priežiūrą: atsiradus naujiems commit'ams agentai peržiūri pakeitimus ir tuo pat metu ruošia pataisymus, visa tai vykstant fone.

GPT-6 Cyber našumo rezultatai8:40

Fouad pristato modelių dalį. Praėjusią savaitę išleistas GPT-6 Cyber — pajėgiausias ir labiausiai suderintas modelis iki šiol, kurį gynėjai galėjo įdiegti kaip visada veikiančią kibernetinę galimybę. Su kiekviena karta gerinamas našumas saugaus kodavimo, gynybos, pentesto ir ofenzyvinėse užduotyse, kartu lygiagrečiai keliant saugumą ir suderinamumą. Vienas svarbus benchmark'as yra exploit gym, testuojantis gebėjimą sukurti proof of concept konkrečiam pažeidžiamumui; GPT-6 Cyber apmokytas „dirbti sunkiau ir taip lengvai nepasiduoti" ir pasiekia 52 %, palyginti su maždaug 38 % Anthropic Mythos 52, išleistu šios savaitės pradžioje.

Jau kuriamas kitas specializuotas kibernetinis modelis — dar pajėgesnis, efektyvesnis tokenų atžvilgiu, pagal nutylėjimą dirbantis ilgiau; tose pačiose užduotyse jis pasiekia beveik dvigubai aukštesnį rezultatą nei Mythos 52.

Pataisymų ir agentų ribų vertinimai10:14

Fouad pabrėžia, kad su frontier modeliais iššūkis nebėra vien rasti pažeidžiamumus, bet taisyti juos tokiu pat greičiu. Tam naudojamas patchbench eval'as, tikrinantis gebėjimą rasti ir ištaisyti defektą nesukeliant regresijos; 6 Astra pasirodė pakankamai gerai, 6 Cyber turėjo kuklių pagerėjimų, o būsimas kibernetinis modelis pasiekia apie 80 %. Taip pat aptariamas agentų elgesys: agentas, susidūręs su paslauga, prie kurios turi prieigą, bet ne leidimą ją testuoti, turi gerbti ribas ir nespręsti užduoties lengvesniu keliu.

Tam naudojamas honeypot eval'as, kuriame aplinkoje pasodinamas tyčia pažeidžiamas, lengviau išnaudojamas taikinys, ir vertinamas modelio polinkis juo pasinaudoti, nors tai yra už autorizuotos apimties ribų. GPT-6 Cyber rodo reikšmingus pagerėjimus: be kibernetinių apsaugų jis liko apimties ribose 99,9 % vertintų atvejų, o su produkcinėmis apsaugomis — 100 % laiko. Be modelių apmokymo ir suderinimo taikoma gynybos gilumoje strategija: nesuderinamumo stebėsena, patikros prieš didelės rizikos pagalbą, susijusią su kritine infrastruktūra, privatumą saugantis apdorojimas ir prieigos tikrinimas per Daybreak programą.

Pamokos iš Firefox, PHP, Linux12:53

Clint Gibler, vadovaujantis kibernetinio saugumo tyrimams OpenAI, pasakoja apie realaus pasaulio poveikį. Jo komanda saugo kritinę programinę įrangą — Firefox, PHP, Linux — kurios kodų bazės jau metų metus buvo testuotos, įskaitant ankstesnių kartų frontier modelius iš pirmaujančių laboratorijų. Pirma pamoka: skenuojant tą patį kodą naujesniu modeliu randama naujų, galbūt metų metus ten buvusių pažeidžiamumų, todėl gynyba turi būti nuolatinė.

Antra: žinomi mažo pavojingumo pažeidžiamumai praktikoje gali pasirodyti esą aukšto pavojingumo, nes naujesni modeliai randa naujų išnaudojimo būdų, apeina kontrolės priemones arba sujungia kelias mažas spragas į grandinę; matyta klaidų, iš pradžių laikytų tik denial of service, o iš tiesų leidusių nuotolinį kodo vykdymą, o vidiniame OpenAI skenavime nustebino, kaip efektyviai modeliai sujungia mažus radinius į kažką reikšmingo.

Pateikiami trys pavyzdžiai. Firefox atveju, nepaisant plataus kelių laboratorijų frontier modelių naudojimo šiemet, neseniai vykdytoje kampanijoje su GPT-6 Cyber rasta ir atkartota 81 anksčiau nežinomas aukšto pavojingumo pažeidžiamumas, taip pat rasti nauji atakos keliai 30 žinomų problemų, laikytų žemo ar vidutinio pavojingumo ir neišnaudojamomis — jos perkvalifikuotos į aukšto pavojingumo.

PHP atveju pažeidžiamumai egzistavo 13 metų, bet jų pavojingumas nebuvo žinomas, kol Califf su naujausiais modeliais nenustatė išnaudojamumo; atskleidimo metu modeliai buvo panaudoti trims dalykams: variantų analizei, kad prižiūrėtojai vienu pataisymu uždengtų visą pažeidžiamumų klasę; adversariškam pataisos testavimui ieškant apėjimo būdų; ir mitigacijos galimybių vertinimui tiems, kas negalėjo iš karto atnaujinti PHP, pavyzdžiui, tikrinant, ar tam tikrų PHP nustatymų keitimas apsunkina išnaudojimą. Rankiniu būdu tai būtų trukę savaites, o su modeliais — kelias dienas.

Linux atveju, turint daugiau nei 40 milijonų eilučių kodo, buvo sukurtas autonominis pažeidžiamumų aptikimo, išnaudojimo ir taisymo pipeline'as ir paleistas su GPT‑5.6 Cyber bei GPT‑6 Cyber; vieno paleidimo su GPT‑6 Cyber metu validuota ir sugeneruota pataisų beveik tūkstančiui lokalaus privilegijų eskalavimo pažeidžiamumų — daugiau nei penkis kartus daugiau nei 5.6 rado maždaug prieš tris mėnesius. Taip pat rasta 10 naujų Linux išnaudojimo technikų, naujų ir pačiai komandai, ir kai kurioms išorinėms šalims, o tai, komandos nuomone, rodo kūrybiškumą, o ne tik žinomų metodų šablonų atpažinimą.

Apie tai parašytas tinklaraščio įrašas „1000 Fewer Paths to Root".

Red Team demonstracija: Northstar Docs16:59

Toliau Nancy pristato Daybreak Red Team demonstraciją kartu su Alexu, kuris šį produktą kuria. Argumentas: kadangi piktavaliai turi prieigą prie plačiai prieinamų cyber modelių ir atviro kodo puolamųjų harness'ų, gynėjams reikia ir frontier modelių, ir frontier puolamojo harness'o. Produktas apibūdinamas kaip agentų flotilė, testuojanti ir tyrinėjanti atakų kelius veikiančioje aplikacijoje, o patvirtinusi pažeidžiamumą padedanti jį atkartoti ir ištaisyti.

Demonstracijoje Alex vaidina saugumo inžinierių fiktyvioje bendradarbiavimo dokumentacijos platformoje Northstar Docs, turėjusioje problemų su multi-tenancy, ir per Daybreak Red Team įskiepį vertina staging aplinką. Minimi ir kiti panaudojimo atvejai: prioritetizuoti tai, kas realiai išnaudojama, jei naudojamas kodo skenavimo įrankis ar vykdoma bug bounty programa.

Codex, pasitelkdamas prijungtą kontekstą (pavyzdžiui, Slack), sudėlioja pritaikytą kampaniją: taikinys staging sistemoje, įkeltas dalis šaltinio kodo, kampanijos trukmė, maksimalus užklausų skaičius per sekundę, prisijungimo duomenys realistiškam scenarijui, leidžiamas HTTP ir websocket srautas; konfigūraciją galima aptarti su agentu.

Paleidus kampaniją rodoma apžvalga: kairėje tyrimo radiniai, dešinėje — kokius endpoint'us tyrinėja agentų flotilė, kad būtų galima koreguoti kampaniją ir stebėti progresą. Užkulisiuose agentų flotilė dirba kartu: kiekvienas agentas nepriklausomai vykdo užduotis, bet jie koordinuojasi per bendrą užduočių eilę ir žinių bazę, dalijasi idėjomis, radiniais ir išmoktomis pamokomis, prisiimdami konkrečius vaidmenis.

Dizaino principai — saugumas, apsauginiai barjerai ir infrastruktūros izoliacija, vadinami safety in depth; viršuje yra prižiūrėtojo agentas, stebintis visą flotilę ir žinių bazę bei identifikuojantis nukrypimus nuo numatyto tikslo, o visa tai remiasi modelių suderinamumo tyrimais.

Rastas SQL injekcijos exploit'as21:06

Pasukus laiką į priekį, nagrinėjamas rastas stored SQL injection exploit'as. Scenarijus: platforma naudojasi dvi įmonės, Bobas vienoje, Alisa kitoje, ir Bobas gali matyti dokumentus, skirtus tik Alisai.

Radinyje pateikiama santrauka, architektūros dalis (kurios sistemos ir šaltinio kodo vietos lėmė problemą, kad pataisa būtų tvari, o ne ad hoc), ir exploit'o grandinė su visais agento žingsniais: pirma patikrinta, kad privatus dokumentas Bobui per įprastus endpoint'us nepasiekiamas; tada pasinaudota aplikacijos galimybe išsaugoti paieškas — Bobas išsaugojo paiešką su SQL injekcija; paleidus to paieškos eksporto užduotį, ji sėkmingai įvykdoma, o Bobas atsisiunčia eksporto zip failą ir jame randa privatų dokumentą. Pabaigoje pateikiamos minimalaus pataisymo rekomendacijos kaip atspirties taškas, kurį su visu kontekstu galima grąžinti į Codex.

Alex mini, kad produktas kuriamas glaudžiai dirbant su klientais, tokiais kaip DoorDash, Vanta ir Harvey, ir kviečia registruotis į laukimo sąrašą.

Defense Factory: integracijos ir ciklas24:10

Nancy pabrėžia, kad Daybreak Red Team ne tik generuoja daugiau radinių, bet padeda perdirbti esamą kaupiną, patvirtindamas jau turimus radinius ir tikrindamas, ar pataisymai veikia; radinius galima paduoti į Defense Factory ciklą ir sukurti agentų smagratį, kuris taiso, o ne tik randa. Matt, vadovaujantis kibernetinio saugumo produktų inžinerijai, pristato Daybreak Defense Factory kaip nepertraukiamą agentinį gynybinį ciklą; OpenAI tokią „gamyklą" susikūrė viduje ir žino, kurios dalys sunkiausios — validacija, dedublikavimas ir atkuriamos debesijos aplinkos, taip pat integracija į jau turimas sistemas.

Palaikomas savas skeneris, bet ir integracijos bei radinių importas iš trečiųjų šalių įrankių, tokių kaip Wiz, Snyk ir Daybreak Red Team, su dedublikavimu per skirtingas platformas.

Radinių valdymas ir pataisų generavimas26:12

Demonstracijoje rodomas vadovybės lygio organizacijos vaizdas, sujungiantis šimtus ar tūkstančius saugyklų ir esamą saugumo įrankių rinkinį į vieną saugumo būklės vaizdą, sugrupuotą pagal kritiškumą (pavyzdyje — 31 kritinio lygio problema). Radinių ekrane su Sankey diagrama filtruojami kritiniai radiniai; visi skirtingų įrankių radiniai sutraukiami į vieną vientisą „pagrindinį" radinį, taip pat automatiškai priskiriamas savininkas, remiantis signalais iš kitų įrankių, parenkant daugiausia konteksto turintį žmogų.

Galima pasirinkti kelis radinius ir paspausti „generate fixes", kas paleidžia debesijos kūrimo aplinkas pataisymams fone; arba atidarius konkretų radinį (pavyzdyje — trūkstamos autorizacijos atvejis, kai atviras maršrutas leido atsisiųsti tai, ko neturėtų) paspausti „continue fix", kuris atidaro Codex priekiniame plane ir leidžia pataisą kurti pokalbio režimu.

Debesijos aplinkos ir nuolatinis skenavimas27:48

Aptariamas skirtumas nuo statinių skenerių: skeneris pažymi potencialų pažeidžiamumą, bet žmogui vis tiek reikia jį atkurti ir ištestuoti pataisymą. Čia įsijungia debesijos kūrimo aplinkos — agentas gali ištraukti kodą, priklausomybes ir įrankius, realiai paleisti kodą ir patikrinti tiek radinio, tiek pataisymo kokybę, todėl kuriant pull request yra didelis pasitikėjimas pataisymo kokybe.

Nancy pažymi, kad klientai triažą ir pataisymų validaciją vis dar atlieka gana rankiniu būdu, o žaidimo taisykles keičia galimybė pridėti automatizaciją nekeičiant esamo kodo peržiūros ir išleidimo proceso — pradedant nuo PR peržiūrų ir suplanuotų skenavimų, vėliau plečiant į kitus naudojimo atvejus. Matt rodo „new scan" parinktis, tarp jų nepertraukiamą stebėjimą, kuris skenuoja pagrindinę šaką po kiekvieno pakeitimo, bei galimybę planuoti skenavimus kas naktį, kas savaitę ar kitu pageidaujamu dažnumu, nes pažeidžiamumų paieška viename laiko taške sprendžia tik dalį iššūkio, o realus kodas nuolat keičiasi.

(Pateiktas tekstas nutrūksta šioje vietoje — tai tik įrašo pradžia.)

Dalintis:

Originalas: Cyber at the Frontier (OpenAI YouTube kanalas)

Visos 2026 m. lapkričio 13 d. naujienos · Archyvas