← Visos naujienos

MIT tyrimas: Astra skaito ir redaguoja neuroninių tinklų svorius

TyrimaiŠaltinis: Two Minute Papers YouTube kanalas·
MIT tyrimas: Astra skaito ir redaguoja neuroninių tinklų svorius

Pranešime apžvelgiamas MIT darbas apie „weight space programming“: GPT-6 Astra iš vien tik svorių atpažino, kokį žaidimą tinklas išmoko, pataisė nesėkmingą vairavimo politiką ir, slopindama mąstymo ciklus, pakėlė Qwen rezultatą matematikos benchmark'e nuo maždaug 8 % iki 48 %. Autorius pabrėžia, kad viešumoje rezultatai pervertinami: eksperimentai atlikti atskirai, su mažais modeliais ir savita sąranka, o bandymas pagerinti Gemma 3 nedavė reikšmingo rezultato. Panašius rezultatus jau atkartoja ir nepriklausomos komandos su atvirais modeliais; rengiamas atskiras benchmark.

Pilna santrauka

Apie ką tyrimas0:00

Pranešime aptariamas MIT mokslininkų darbas, kurį autorius vadina potencialiai lūžio tašku dirbtinio intelekto srityje ir kurį, jo nuomone, žiniasklaida supranta klaidingai. Darbo esmė — trys dalykai, kuriuos su neuroninių tinklų svoriais sugebėjo atlikti GPT-6 Astra.

Svoriai apibūdinami kaip didelė skaičių „sriuba“, maždaug atitinkanti neuronus ir jų jungtis skaitmeninėse smegenyse. Tokios sistemos veikia puikiai, bet paprastai yra visiškai nesuprantamos žmogui, todėl bet koks jų skaitymas laikomas itin sunkiu arba neįmanomu uždaviniu.

Trys demonstruoti gebėjimai0:32

Pirma, skaitymas: Astra, žiūrėdama vien į kito tinklo svorius, atpažino, kokiu žaidimu tas tinklas buvo treniruotas — Breakout, Pong ar supaprastintomis Pac-Man versijomis. Atpažinimas atliktas tik iš skaičių rinkinio.

Antra, taisymas: redaguojant svorius pavyko pataisyti nesėkmingai veikiančią sistemą — tai lyginama su smegenų operacija dirbtiniam intelektui. Prieš redagavimą automobilis įstrigdavo ant rampos, po redagavimo sėkmingai pravažiuodavo.

Trečia, gerinimas: paimtas Qwen, populiarus atvirų svorių modelis, kurį galima paleisti namuose. Iki redagavimo jis išspręsdavo apie 8 % užduočių matematikos benchmark'e, po redagavimo — apie 48 %. Astra nustatė, kad Qwen nebuvo prastas matematikoje, o tiesiog įklimpdavo į mąstymo ciklus, kartodamas tą patį ratu. Ji pakartotinai testavo modelį, stebėjo, kas vyksta ne taip, nustatė, kurios tinklo dalys atsakingos už ciklus, ir jas suredagavo, kad toks elgesys būtų slopinamas.

Paplitę klaidingi supratimai2:09

Pirmas klaidingas supratimas — esą Astra išmokė kitą modelį matematikos. Iš tikrųjų ji tiesiog atblokavo modelį. Antras — esą skaitymas, taisymas ir gerinimas vyksta vienu metu. Tai atlikta trimis atskirais eksperimentais, daugiausia su mažomis sistemomis, kiekvienu atveju su savita, specialiai pritaikyta sąranka.

Trečias — esą tai sugeba tik OpenAI Astra. Autorius nurodo, kad nepriklausomi eksperimentai jau daro tą patį, pavyzdžiui, atpažįsta, kokį žaidimą moka tinklas, ir tai daroma su mažesniais, nemokamais ir atvirais modeliais, kaip Qwen, kuriuos galima paleisti savo kompiuteryje.

Ketvirtas — esą metodas visada veikia ir dirbtinio intelekto sistemos automatiškai gerina viena kitą. Astra bandė patobulinti kitą kalbos modelį, Gemma 3, ir reikšmingų pagerinimų nepasiekė. Autorius pabrėžia, kad jis pats tėra besimokantis studentas ir gali klysti, tačiau kai kurios žiniasklaidos priemonės, jo manymu, perdeda galimybes.

Papildomas rezultatas ir benchmark4:15

Be trijų minėtų gebėjimų, sistema geba parašyti žaidimo neuroninį tinklą visiškai nuo nulio. Tai netikėta, nes tokie tinklai paprastai treniruojami daugybe bandymų ir klaidų, tai yra per reinforcement learning.

Tyrėjai jau rengia visavertį benchmark'ą tokiam „weight space programming“, todėl ši kryptis gali tapti atskira sritimi. Pabaigoje primenamas pirmasis darbų dėsnis: žiūrėti ne į tai, kur esame dabar, o į tai, kur būsime po dar poros tyrimų.

Rėmėjo intarpas5:19

Autorius mini naudojantis Lambda, kad per kelias minutes atkartotų tyrimų rezultatus: ten galima treniruoti savo modelius, fine-tune'inti esamus, paleisti inference, text to image ar video, taip pat paleisti Deep Seek pokalbių robotą ar agentą. Lambda suteikia galingus Nvidia GPU savo eksperimentams, nuoroda — lambda.com/papers.

Dalintis:

Originalas: OpenAI's Astra Just Opened The Black Box Of AI (Two Minute Papers YouTube kanalas)

Visos 2026 m. lapkričio 7 d. naujienos · Archyvas