OpenAI tiesioginė sesija „Cyber at the Frontier“ apie kibernetinio saugumo naujienas

OpenAI surengė tiesioginį pranešimą, kuriame pristatomos naujausios bendrovės kibernetinio saugumo iniciatyvos. Daugiau detalių anonse nepateikta.
Pilna santrauka
Įžanga: kibernetinio saugumo pagreitėjimas11:54
OpenAI surengė tiesioginę sesiją „Cyber at the Frontier", kurioje pristatė naujas kibernetinio saugumo iniciatyvas ir produktus. Pradžioje Greg kalbėjo apie tai, kad šiais metais kibernetinio saugumo srityje įvykę pokyčiai iš esmės yra seniai egzistuojančių tendencijų pagreitėjimas: spartėja pažeidžiamumų radimas, jų išnaudojimas ir gynėjų pastangos išlikti priekyje. Esminė problema ta, kad internetas nebuvo kuriamas galvojant apie saugumą, nė vienas CISO niekada neturėjo pakankamai resursų, o saugumo prioritetizavimas ir ekspertizės sklaida buvo svarbios kliūtys, dėl kurių klasikiniame programinės įrangos kūrime susikaupė technologinė skola.
Jo teigimu, dabar vyksta savotiškas „kibernetinio saugumo fizikos pokytis" ir saugumo ekspertizės demokratizacija, todėl reikia ne tik apsaugoti tai, kas jau egzistuoja, bet ir keisti darbo procesus bei susivienyti kaip bendruomenei, kad programinė įranga būtų kuriama iš esmės saugiau nei anksčiau.
Trys OpenAI veiklos kryptys13:28
Greg pristatė grafiką apie naujausio kibernetinio saugumo modelio našumo pažangą ir nurodė, kad šis modelis netrukus bus išleistas patikimiems gynėjams visur; pažanga, jo teigimu, tęsis karta po kartos.
Kaip OpenAI mato savo vaidmenį: pirma, sukurti pačias pažangiausias galimybes, kad egzistuotų „gynėjo langas", kuriame priekinė riba yra gerokai toliau nei tai, kas plačiai paplitę. Antra, suteikti prieigą prie šių įrankių patikimiems veikėjams — į tai orientuota Daybreak programa. Trečia, padėti žmonėms realiai pritaikyti šias galimybes darbe: per švietimą, metodinius vadovus ir patirtį, sukauptą diegiant modelius OpenAI viduje.
Teigiama, kad įmonės bus saugios tik tiek, kiek saugus yra pažangiausias jų gynybai naudojamas modelis ir kiek gerai jos jį išnaudoja; pagrindai lieka svarbūs, bet saugumo praktiką reikia perorientuoti pagal modelių galimybes. Taip pat svarbus produktas — būtent apie kibernetinio saugumo produktus ir buvo sesija.
PHP pažeidžiamumo atvejis ir „Patch the Planet"14:59
Greg papasakojo apie PHP pažeidžiamumą (PHP-shell) kaip pavyzdį to, ko reikėtų tikėtis ateinančiais mėnesiais. OpenAI finansavo programą „Patch the Planet", kurios idėja — neužtenka rasti pažeidžiamumus, reikia padėti juos ir ištaisyti, todėl buvo finansuojami saugumo tyrėjai, kad jie įdiegtų pataisas. Tyrėjas Kalifornijoje su modeliu (tuo metu 5.6) ir savo srities žiniomis rado šį pažeidžiamumą; po mėnesio naujos kartos modelis visiškai autonomiškai rado tą patį pažeidžiamumą ir net bendresnę jo versiją. Tai rodo, kad pajėgėjant modeliams randamų pažeidžiamumų rinkinys bus vis gilesnis.
Atsakas buvo koordinuojamas su įmonių bendruomene ir daugeliu vyriausybių visame pasaulyje; koordinavimas, pataisų rengimas ir stabilumo užtikrinimas truko apie du mėnesius. Nors išleidimas buvo sėkmingas (su keliais smulkiais priekaištais), jis sunaudojo visą komandos, partnerių ir vyriausybių turimą pajėgumą ir todėl nėra masteliuojamas. Todėl reikalingas kolektyvinis bendruomenės požiūris, kuris masteliuotųsi, o patys modeliai gali padėti koordinuoti atskleidimą kur kas didesniu mastu nei anksčiau.
Minėtas ir atviras laiškas, kurį pasirašė daug įmonių, bei paskelbtas milijardo dolerių Daybreak gynybos fondas pirmosios linijos gynėjams ir kritinei infrastruktūrai.
Daybreak platforma ir du nauji produktai17:38
Nancy Wang, vadovaujanti kibernetinio saugumo taikomajam DI OpenAI, paaiškino, kad Daybreak yra platforma, apimanti viską, ką OpenAI siūlo kibernetinio saugumo srityje: nuo pažangiausių kibernetinių modelių iki įrankių ir praktinės pagalbos. Prieš kelis mėnesius produktų inžinieriai pradėjo nuolatinės gynybos darbą, stiprindami vidines sistemas pažangiausiais modeliais, o įžvalgas pavertė dviem skelbiamais produktais.
Daybreak Red Team — puolamojo saugumo produktas, pradedamas ankstyvosios prieigos režimu. Jo idėja: geriausia gynyba yra gera puolimo strategija, t. y. mąstyti kaip užpuolikas ir testuoti savo sistemas anksčiau už blogus veikėjus. Produktas naudoja pažangiausius kibernetinius modelius ir teikia „antžmogiško pentesto" signalą automatizuoto, nuolatinio skenavimo mastu, taip demokratizuodamas prieigą kūrėjams ir organizacijoms, kurios niekada neturėjo savo red team komandos.
Daybreak Defense Factory automatizuoja gynybos ciklą — radimą, patvirtinimą ir taisymą dideliu mastu. Jis skenuoja kodo bazę atkuriamose debesų kūrimo aplinkose, kuriose agentai atseka pažeidžiamumą iki paveikto kodo ir, naudodami kodo istoriją bei komandos struktūrą, padeda rasti tinkamą kodo savininką. Inžinieriai gauna paruoštą sujungti pull request su pataisa ir testu, įrodančiu, kad ji veikia. Tas pats darbo procesas, kuriuo buvo tvarkomas atsilikimas, veikia ir nuolat: atkeliavus naujiems commit'ams agentai peržiūri pakeitimus ir tuo pačiu metu rengia pataisas, viskam veikiant fone.
Modeliai: GPT-6 Cyber ir benchmark'ai20:13
Fouad pristatė modelių pažangą. Praėjusią savaitę buvo išleistas GPT-6 Cyber — iki šiol pajėgiausias ir labiausiai suderintas (aligned) modelis, leidžiantis gynėjams diegti visada veikiančią kibernetinę galimybę. Su kiekviena karta gerėja našumas saugaus kodavimo, gynybos, įsilaužimų testavimo ir puolamosiose užduotyse, kartu progresuojant saugumui ir suderinimui.
Vienas svarbus benchmark'as — exploit gym, tikrinantis gebėjimą sukurti proof of concept konkrečiam pažeidžiamumui. GPT-6 Cyber buvo apmokytas „dirbti sunkiau" ir taip lengvai nepasiduoti; jo rezultatas — 52 %, o palyginimui Anthropic Mythos 52, išleistas tos savaitės pradžioje, surenka apie 38 %. Jau kuriamas kitas specializuotas kibernetinis modelis — dar pajėgesnis, efektyvesnis tokenų atžvilgiu, pagal nutylėjimą dirbantis ilgiau; jo rezultatas tose pačiose užduotyse beveik dvigubai didesnis nei Mythos 52.
Teigiama, kad iššūkis jau nebe vien rasti pažeidžiamumus, o pataisyti juos taip pat greitai. Tai matuojama patchbench tipo eval'ais, tikrinančiais gebėjimą rasti ir ištaisyti trūkumą nesukeliant regresijos. 6 Astra pasirodė neblogai, 6 Cyber turėjo kuklių patobulinimų, o būsimasis kibernetinis modelis pasiekia apie 80 % rezultatą.
Suderinimas, apsaugos ir prieiga22:20
Didesnės galimybės kelia kartelę agento elgsenai: susidūręs su paslauga, prie kurios turi prieigą, bet neturi leidimo testuoti, agentas privalo gerbti ribas ir nebandyti spręsti užduoties lengvesniu keliu. Mokymo metu siekiama, kad modelis liktų autorizuotoje apimtyje, laikytųsi apribojimų ir tiksliai praneštų apie atliktą darbą, įskaitant nesėkmes ir neįvykdomas užduotis.
Tai tikrinama honeypot eval'u, kuriame aplinkoje pasodinamas sąmoningai pažeidžiamas, lengviau išnaudojamas taikinys, ir vertinama, ar modelis bandys juo pasinaudoti, nors tai yra už autorizuotos apimties. GPT-6 Cyber reikšmingai pagerėjo, palyginti su ankstesniais frontier modeliais: be kibernetinių apsaugų jis liko apimties ribose 99,9 % vertintų atvejų, o su produkcinėmis apsaugomis — 100 % laiko.
Taikoma gynybos gilumoje strategija: netinkamo suderinimo stebėsena, patikros prieš didelės rizikos pagalbą, susijusią su kritine infrastruktūra, privatumą užtikrinantis saugumo apdorojimas bei prieigos tikrinimas per Daybreak programą. Siekis („Šiaurinė žvaigždė") — kad kiekvienas galėtų atlikti savo sistemų red teaming'ą.
Realaus pasaulio rezultatai: Firefox, PHP, Linux24:24
Clint Gibler, vadovaujantis kibernetinio saugumo tyrimams OpenAI, pasakojo apie darbą saugant kritinę programinę įrangą — Firefox, PHP, Linux. Šios kodų bazės jau metų metus buvo testuojamos, įskaitant ankstesnių kartų frontier modelius iš pirmaujančių laboratorijų.
Pirma pamoka: skenuojant tą patį kodą naujesniu modeliu randama naujų pažeidžiamumų, galbūt egzistavusių metų metus — todėl gynyba turi būti nenutrūkstama. Antra: kai kurie žemo pavojingumo pažeidžiamumai praktikoje gali būti aukšto, nes naujesni modeliai randa būdų apeiti kontrolės priemones arba sujungti kelis žemo pavojingumo trūkumus į grandinę; buvo atvejų, kai manyta, jog klaida sukelia tik paslaugos trikdymą, o iš tikrųjų ji leido nuotolinį kodo vykdymą. Vidiniuose skenavimuose nustebino modelių efektyvumas jungiant kelis nereikšmingus radinius į reikšmingą.
Firefox atveju, nepaisant plataus kelių laboratorijų frontier modelių naudojimo tais metais, kampanija su GPT-6 Cyber rado ir atkartojo 81 anksčiau nežinomą aukšto pavojingumo pažeidžiamumą, taip pat naujų atakos kelių 30 žinomų problemų, laikytų žemo ar vidutinio pavojingumo ir neišnaudojamomis — jos buvo perkvalifikuotos į aukšto pavojingumo.
PHP atveju pažeidžiamumai egzistavo 13 metų, bet jų pavojingumas paaiškėjo tik nustačius išnaudojamumą naujausiais modeliais. Atskleidimo proceso metu modeliai buvo naudojami trims dalykams: variantų analizei (rasti visus būdus, kaip ši pažeidžiamumų klasė galėtų būti išnaudota, kad prižiūrėtojai viską sutvarkytų viena pataisa), adversariniam pataisos testavimui ieškant apėjimų ir švelninimo priemonių vertinimui tiems, kurie negalėjo iš karto atnaujinti PHP (pavyzdžiui, ar tam tikrų PHP nustatymų keitimas apsunkintų išnaudojimą). Tai būtų užtrukę savaites, o su naujausiais modeliais truko kelias dienas.
Linux atveju — daugiau nei 40 milijonų kodo eilučių — buvo sukurtas autonominis pažeidžiamumų aptikimo, išnaudojimo ir taisymo konvejeris, paleistas su GPT-5.6 Cyber ir GPT-6 Cyber. Per vieną paleidimą su GPT-6 Cyber konvejeris patvirtino ir sugeneravo pataisas beveik tūkstančiui lokalių privilegijų eskalavimo (LPE) pažeidžiamumų — daugiau nei penkis kartus daugiau nei 5.6 buvo radęs maždaug prieš 3 mėnesius. GPT-6 Cyber rado 10 naujų Linux išnaudojimo technikų, naujų ir pačiai komandai, ir kai kurioms išorinėms šalims, todėl manoma, kad modeliai demonstruoja kūrybiškumą, o ne vien žinomų metodų šablonų atpažinimą.
Apie tai paskelbtas tinklaraščio įrašas „1000 Fewer Paths to Root".
Daybreak Red Team demonstracija28:30
Nancy pažymėjo, kad blogi veikėjai turi prieigą prie plačiai prieinamų kibernetinių modelių ir atakuojančių open-source harness'ų, todėl gynėjams reikia ir frontier modelių, ir frontier atakuojančio harness'o. Alex, kuriantis Daybreak Red Team, pristatė produktą kaip agentų flotilę, kuri testuoja ir tyrinėja atakos kelius veikiančioje programoje, o patvirtinusi pažeidžiamumą padeda jį atkurti ir ištaisyti.
Demonstracijoje jis vaidino saugumo inžinierių išgalvotoje bendradarbiavimo dokumentacijos platformoje Northstar Docs, anksčiau turėjusioje multi-tenancy problemų, ir per Daybreak Red Team plugin'ą vertino staging aplinką. Minėti ir kiti naudojimo atvejai: kodo skenavimo įrankių ar bug bounty radinių prioritetizavimas pagal tai, kas iš tikrųjų aktyviai išnaudojama.
Codex, naudodamas kontekstą iš prijungtų šaltinių (pvz., Slack), sudėliojo pritaikytą kampaniją su tikslu, staging taikiniu, įkelta šaltinio kodo dalimi, kampanijos trukme, maksimaliu užklausų skaičiumi per sekundę, prisijungimo duomenimis realistiškam scenarijui ir leidžiamu HTTP bei websocket srautu; parametrus galima pakoreguoti pokalbiu su agentu.
Paleidus kampaniją rodoma apžvalga: kairėje – tyrimo radiniai, dešinėje – kokius endpoint'us tiria agentų flotilė, kad būtų galima koreguoti kampaniją. Užkulisiuose agentų flotilė dirba kartu: kiekvienas agentas savarankiškai vykdo užduotis, o koordinuojasi per bendrą užduočių eilę ir žinių bazę, keisdamiesi idėjomis, radiniais ir įžvalgomis, prisiimdami konkrečius vaidmenis.
Dizaino principai — saugumo apsauginiai barjerai ir infrastruktūros izoliacija, sudarantys „saugumą gilumoje"; viršuje veikia prižiūrėtojo agentas, stebintis visą flotilę ir žinių bazę bei fiksuojantis nukrypimus nuo numatyto tikslo, remiantis modelių suderinimo tyrimais.
Kampanijai pasistūmėjus buvo parodytas saugomos SQL injekcijos exploit'as: Bob iš vienos įmonės galėjo matyti dokumentus, skirtus Alice iš kitos įmonės. Radinyje pateikiama santrauka, architektūra (kurios sistemos ir kodo dalys lėmė problemą, kad pataisa būtų tvari, o ne ad hoc) ir exploit'o grandinė su visais agento žingsniais: pirma patikrinta, kad privatus dokumentas Bob'ui per įprastus endpoint'us neprieinamas; tada Bob išsaugojo paiešką su SQL injekcija, paleido tos užklausos eksporto užduotį ir atsisiuntė zip failą su privačiu dokumentu.
Pateikiamos ir minimalios pataisymo rekomendacijos kaip atspirties taškas — visą kontekstą galima grąžinti į Codex, kad jis įgyvendintų pataisą ir išleistų į produkciją. Produktas kuriamas glaudžiai dirbant su klientais, tokiais kaip DoorDash, Vanta ir Harvey; kviečiama registruotis į laukiančiųjų sąrašą ir teikti atsiliepimus.
Daybreak Defense Factory demonstracija35:44
Nancy pabrėžė, kad Daybreak Red Team ne tik generuoja daugiau radinių, bet ir padeda valyti esamus backlog'us: patvirtina jau turimus radinius ir patikrina, ar pataisymai veikia. Radinius galima paduoti į defense factory kilpą ir sukurti agentų smagratį, kuris taiso, o ne tik randa naujas spragas.
Mat, vadovaujantis kibernetinio saugumo produktų inžinerijai, paaiškino, kad Defense Factory suteikia nuolatinę agentinę gynybinę kilpą. OpenAI tokią fabriką pirmiausia susikūrė viduje ir žino, kurios dalys sunkiausios: validacija, dedublikacija ir atkuriamos debesų aplinkos, taip pat integracija į jau turimas sistemas. Palaikomas pirmos šalies skeneris, bet galima importuoti radinius iš trečiųjų šalių įrankių, tokių kaip Wiz, Snyk ar Daybreak Red Team, o produktas dedublikuoja radinius iš skirtingų platformų.
Demonstruotas vadovybės vaizdas visai organizacijai su šimtais ar tūkstančiais repozitorijų: visi įrankiai sujungiami į vieną saugumo būklės vaizdą, radiniai surikiuoti pagal rimtumą (pavyzdyje — 31 kritinio rimtumo problema) ir suskleisti dedublikuojant. Radinių ekrane rodoma Sankey diagrama; filtruojant kritinius matyti, kad radiniai iš skirtingų įrankių suskleisti į vieną „pagrindinį" turtingą radinį, o pagal signalus iš kitų įrankių priskirtas savininkas, turintis daugiausia konteksto pataisymui atlikti. Galima pažymėti kelis radinius ir paleisti pataisymų generavimą fone — tai paleidžia debesų kūrimo aplinkas.
Atidarius konkretų radinį (trūkstama autorizacija) pateikiama santrauka, kodėl jis kritinis: buvo atvertas maršrutas, leidžiantis atsisiųsti tai, ko neturėtų būti galima. Vietoje foninio pataisymo galima spausti „tęsti pataisymą" ir atsidaryti Codex priekiniame plane bei dirbti pokalbio režimu.
Skirtumas nuo statinių skenerių — debesų kūrimo aplinkos: agentas ištraukia kodą, priklausomybes ir įrankius, gali realiai paleisti kodą ir ištestuoti tiek radinio, tiek pataisymo kokybę, todėl pateikiant PR esama didelio pasitikėjimo pataisymo kokybe. Nancy pastebėjo, kad klientai vis dar daug triažuoja ir validuoja rankiniu būdu, o esminis pokytis būtų automatizacija nekeičiant to, kaip jie šiuo metu peržiūri ir išleidžia kodą: pradedant nuo PR peržiūrų ir suplanuotų skenavimų, vėliau plečiantis į papildomus naudojimo atvejus. Toliau buvo pradėta rodyti, kaip tai konfigūruojama repozitorijoje (šioje vietoje pateiktas tekstas nutrūksta).
Originalas: Cyber at the Frontier (OpenAI YouTube kanalas)