← Visos naujienos

Anthropic IPO dokumentuose pripažino perkopęs savo AI tyrimų spartinimo ribą

TyrimaiŠaltinis: TheAIGRID YouTube kanalas·
Anthropic IPO dokumentuose pripažino perkopęs savo AI tyrimų spartinimo ribą

Pranešime teigiama, kad lapkričio 10 d. pataisytoje SEC paraiškoje Anthropic nurodė pasiekęs savo atsakingo mastelio politikos (responsible scaling policy) ribą, susijusią su AI spartinamais vidiniais tyrimais, remdamasis lūkesčiais dėl būsimų modelių. Pateikiami skaičiai: Claude vadovauja 26 % modelių kūrimo darbų (vasarį — mažiau nei 1 %), daugiau nei 80 % kodo rašo Claude, o nepriklausomas vertinimas rodo apie 1,9 karto paspartėjusį vidinių gebėjimų augimą. Taip pat minimas AI 2027 komandos atnaujinimas ir anksčiau skeptiškų tyrėjų nuomonių pasikeitimas.

Claude šiandien vadovauja 26 % Anthropic modelių kūrimo darbų, nors vasarį tas rodiklis siekė mažiau nei 1 % — pokytis per pusmetį.

Pilna santrauka

Anthropic peržengė savo ribą0:00

Pranešime teigiama, kad per pastarąsias dvi savaites keli atsargiausi ir skeptiškiausi AI srities žmonės vienu metu pakeitė nuomonę apie tai, kaip greitai artėja galingas dirbtinis intelektas. Dwarkesh Patel, kuris anksčiau tvirtino, kad AGI nėra visai čia pat, dabar sako, jog iki AI, prilygstančios geriausiems žmonėms AI tyrimuose, gali būti likę vos keli mėnesiai. AI 2027 komanda paskelbė atnaujinimą pavadinimu „Panašu, kad intelekto sprogimas vis dėlto įvyks 2027-aisiais". Vienas Meta tyrėjas pasakė: „Aš rimtai klydau."

Anthropic turi atsakingo mastelio didinimo politiką (responsible scaling policy) — „signalinių vielų" sąrašą, kurias peržengus reikia stipresnių saugumo priemonių. Viena riba susijusi su AI tyrimais: ji suveikia, kai AI maždaug dvigubai pagreitina pačios Anthropic pažangą ir kai tas pagreitėjimas iš esmės kyla iš automatizacijos. Lapkričio 10 d. Anthropic pataisė savo IPO dokumentą SEC, ir Eli Lifland, vienas iš AI 2027 autorių, pastebėjo, kad įmonė teigia šią ribą pasiekusi.

Dokumente sakoma, kad naudojamos AI sistemos jau spartina įmonės mokslinius tyrimus ir plėtrą, o vidiniai vertinimai rodo tolesnį pažangos tempo didėjimą; sprendimas priimtas remiantis lūkesčiais dėl būsimų modelių, o ne dėl dabartinio modelio stebėjimų.

Dokumente taip pat nurodoma, kad Anthropic turimi įrodymai apie AI skatinamą pagreitėjimą daugiausia remiasi vėluojančiais rodikliais ir kad įmonė gali nepastebėti reikšmingo pagreitėjimo tol, kol jis jau nebus įvykęs. Paskyra „AI not kill everyone is in memes" paskelbė, kad rekursinis savęs tobulinimas (RSI) jau čia ir kad rimti žmonės, jį vadinę neįmanomu, klydo.

Vidiniai Anthropic skaičiai3:06

Anthropic skelbia R&D automatizacijos indeksą, vertinantį kiekvieną modelio kūrimo užduotį skalėje nuo „jokio AI" iki „AI padeda", „AI bendradarbiauja", „AI vadovauja" ir „visiškai automatizuota". Naujausiai Claude vadovauja 26 % modelių kūrimo darbų, nors vasarį tas skaičius siekė mažiau nei 1 % — tai pokytis maždaug per 6 mėnesius.

Ataskaitoje „When AI builds itself", kurią parašė Jack Clark ir Marina Favaro, teigiama, kad daugiau nei 80 % į kodų bazę sulieto kodo parašė Claude. Viename AI saugumo tyrimų uždavinyje du žmonės tyrėjai per maždaug savaitę atkūrė apie 23 % našumo atotrūkio, o Claude agentai — 97 %. Testuojant, kaip dažnai Claude pasirenka geresnį kitą tyrimo žingsnį nei žmogus, Claude Opus 4.5 laimėjo 51 % atvejų, o Claude Mythos preview — 64 %.

Praėjus dviem dienoms po dokumento Anthropic įkūrėjai paskelbė laišką prieš IPO, kuriame rašė, kad saugus AI kūrimas gali pareikalauti pristabdyti itin greitą gebėjimų augimą, ypač kai jį lemia save kuriančios AI sistemos, ir kad gali būti momentų, kai įmonė sąmoningai judės lėčiau, net atsidurdama nepalankioje konkurencinėje padėtyje.

METR ataskaita ir nuomonių lūžis5:07

Postūmį davė nepriklausomos grupės METR ataskaita. METR mėnesius dirbo su vidiniais Anthropic duomenimis ir nustatė, kad nuo praėjusių metų spalio Anthropic vidiniai gebėjimų įverčiai auga maždaug 1,9 karto sparčiau nei anksčiau; tikrasis skaičius galėtų būti nuo 1,5 iki 2,8 karto, o apie 80 % pagreitėjimo, spėjama, lemia pati AI.

AI saugumo tyrėjas Ryan Greenblatt, taip pat dirbantis METR, pavadino ataskaitą dideliu nuomonės pokyčiu link superintelekto per 1–2 metus ir parašė: „Aš rimtai klydau dėl RSI pagreitėjimo." Jis tikėjosi tik 1,15–1,3 karto pagreitėjimo 2026-aisiais, o matosi apie dvigubą. Kadangi dalis pažangos ateina tiesiog iš didesnių skaičiavimo pajėgumų, programinės įrangos pusė turi judėti dar greičiau — įvedęs skaičius į savo viešą modelį, jis gavo apytikslį įvertinimą, kad AI spartina AI programinės įrangos pažangą maždaug 4,5 karto. AI 2027 scenarijuje toks lygis pasiekiamas tik 2027 m. kovą, taigi realybė lenkia scenarijų maždaug 5 mėnesiais.

Greenblatt pabrėžė išlygą: didelė dalis METR įrodymų užcenzūruota, todėl išvados priklauso nuo pasitikėjimo autoriais.

Tai pasireiškia ne tik Anthropic. OpenAI rugsėjį paskelbė, kad aktyviausi 10 % AI naudotojų tarp jos tyrėjų nuo maždaug 1 000 dolerių per dieną vidiniams kodavimo agentams vasaros pradžioje perėjo prie daugiau nei 7 000 dolerių per dieną rugpjūčio pabaigoje — septyneriopas šuolis per maždaug 3 mėnesius.

Užduočių horizontų augimas7:43

Garsusis grafikas, matuojantis, kiek ilgą užduotį AI agentas gali atlikti savarankiškai, rodo, kad 2019–2025 m. rodiklis dvigubėjo maždaug kas 7 mėnesius, 2024 m. – 2026 m. pradžioje — kas 3,3 mėnesio, o pagal naują analizę, remiantis METR įverčiais, nuo Claude Opus 4.5 — maždaug kas 1,7 mėnesio. Paskutinis METR išmatuotas modelis, ankstyva Claude Mythos preview versija, siekė maždaug 3,1 valandos, o vidinis Anthropic modelis, METR vadinamas „model 4", vertinamas maždaug 38 valandomis. Benjamin Todd nurodė, kad METR nebeatnaujina oficialaus grafiko, nes nebegali išmatuoti laiko horizontų — modeliai peraugo testą.

Andrew Curran pritaikė tendencijos liniją Anthropic automatizavimo indeksui ir įvertino, kad jei kreivė tęsis, 95 % Anthropic modelių tyrimų ir plėtros būtų visiškai automatizuota iki 2027 m. lapkričio — tai Anthropic penktasis lygis, visiškai autonominis RSI. Pabrėžiama, kad tai ekstrapoliacija ir nė viena užduotis dar nevertinama kaip visiškai automatizuota, bet Curran teigia, kad tai galiausiai įvyks kiekvienoje laboratorijoje.

Dwarkesh Patel ir AI 2027 prognozės9:17

Dwarkesh Patel, pernai rašęs, kad AGI nėra už kampo, nes modeliai nemoka mokytis darbo eigoje, lapkričio 13 d. išleido vaizdo esė „Lavina, kuri užgriuvo matematiką, artėja prie AI kūrimo". Jame jis sako metų pradžioje manęs, kad iki superintelekto liko bent didžioji dešimtmečio dalis, o per paskutinius tris mėnesius smarkiai pakeitęs požiūrį: iki AI, prilygstančios geriausiems žmonėms AI tyrimuose, liko pora metų ar net pora mėnesių, o tyrimų automatizavimas sutalpins tiek pažangos į vienerius metus, kad iki 2030-ųjų, o tikėtina — jau kitais metais, turėsime AI, prilygstančią geriausiems ekspertams kiekvienoje srityje.

Įrašas surinko daugiau nei 1,5 mln. peržiūrų.

AI Futures Project lapkričio 10 d. paskelbė, kad realybė maždaug 5 mėnesiais lenkia AI 2027 scenarijų. Anksčiau optimistiškiausias grupėje Daniel Kokotajlo davė 50 % tikimybę, kad viršžmogiškas AI tyrėjas atsiras iki 2029 m.; dabar visa komanda prognozuoja, kad tai greičiausiai įvyks 2027 m., jei nebus sąmoningo lėtinimo. Jie tai apibrėžia maždaug kaip tašką, kai įmonė verčiau atleistų visus žmones tyrėjus, nei prarastų savo AI tyrėjus, ir duoda 35–65 % tikimybę, kad iki 2028-ųjų atsiras AI, galinti automatizuoti visą baltųjų apykaklių darbą. Didžiausiu atnaujinimo įrodymu jie nurodo METR ataskaitą.

Anthropic bendraįkūrėjas Jack Clark naujienlaiškyje „Import AI" parašė, kad dabar laiko labiau tikėtina, jog pilną RSI pamatysime 2027 m., o ne 2028-aisiais; jis laukė kūrybiškumo požymių ir mato pažangą AI darant kūrybiškai atrodančius matematinius proveržius. Jeremy Harris apibendrino, kad daugelis protingiausių žmonių, manusių, jog RSI nėra arti, dabar keičia nuomonę. AI 2027 scenarijuje 2027 m. birželis — save tobulinančios AI mėnuo, kai laboratorija turi „genijų šalį duomenų centre", o žmonės tyrėjai nebegali naudingai prisidėti.

Patikrinamumo argumentas12:21

Dwarkesh argumentas remiasi matematikos pavyzdžiu: 2023 m. modeliai nepatikimai sudėdavo keturženklius skaičius, 2024 m. vos išspręsdavo vieną mokyklinės olimpiados uždavinį, 2025 m. laimėjo aukso medalį Tarptautinėje matematikos olimpiadoje, o prieš mėnesį OpenAI modelis per 88 valandas išsprendė tūkstantmečio premijos uždavinį, nors nebuvo treniruotas su kitais tokiais uždaviniais — jis apibendrino nuo daugybės mažesnių uždavinių.

Raktas — patikrinamumas: kai AI gali patikrinti savo atsakymo teisingumą, ji gali praktikuotis tūkstančius kartų, kaip įvyko varžybiniame programavime ir matematikoje. AI tyrimai taip pat gerai patikrinami: ar naujas treniravimo triukas sumažino nuostolį, ar modelis greitesnis, ar naudoja mažiau atminties. Pavyzdžiu nurodomas transformer — architektūra, kurios dauguma dalių jau buvo žinomos, o reikėjo sujungti pusę tuzino idėjų ir atlikti daugybę mažų eksperimentų; Dwarkesh sako, kad būsimas Claude galėjo tai išrasti, jei būtų paprašytas pagerinti attention veikimą.

Greičio argumentas: šiandieninės AI dirba maždaug 10 kartų greičiau už žmogų, nemiega, dirba naktimis ir savaitgaliais, todėl kiekvienas automatizuotas tyrėjas sutalpintų apie 50 kartų daugiau darbo per savaitę, o tokių tūkstančiai dirbtų lygiagrečiai. Minties eksperimentas, kurį Dan Robinson pavadino smūgiu kūju: įsivaizduokite „SlothAI" — OpenAI su tiek pat skaičiavimo galios, bet tyrėjais, dirbančiais tik 1 valandą per savaitę; palyginti su įmone, pilna 10 kartų greičiau visą parą mąstančių automatizuotų tyrėjų, tikrasis OpenAI ir yra SlothAI, nes žmogaus mąstymo greitis yra biologinė atsitiktinybė.

Dėl duomenų trūkumo atsakymas — RSI metu duomenis kurs patys AI. DeepSeek straipsnyje apie savo naujausio modelio post-training teigiama, kad baziniai algoritmo pakeitimai buvo kur kas mažiau svarbūs nei sintezuotų duomenų ir aplinkų masto, įvairovės bei patikrinamumo pagerinimai, o naudojami didelio masto automatizuoti konvejeriai aplinkoms kurti, apmokant modelį konstruoti sau sunkesnes užduotis.

Kitų laboratorijų pozicijos16:58

Google vadovas Sundar Pichai sakė, kad kuriant Argon jie yra gana toli nuo RSI galutinės būsenos, bet jau turi RSI ciklus kartu su AI tyrėjais įvairiuose modelio kūrimo aspektuose, kai agentai automatizuotai padeda tyrėjams. Google įkūrėjas Sergey Brin teigė, kad jau prieš Gemini 4, turint Flash 3.6, 3.7, 3.8, jie lipa ant RSI bėgtakio, tyrėjai ir modelis dirba ranka rankon, ir kad viduje jie tikriausiai jau naudoja porą modelių į priekį.

Google DeepMind tyrėjas Mustafa Dani sakė, kad per pastaruosius kelis mėnesius beveik kiekvienoje laboratorijoje nauja modelių karta kuriama intensyviai naudojant ankstesnę; tai dar nėra visiškai automatiška, bet kryptis aiški. OpenAI taikomųjų tyrimų vadovas Boris Power teigė, kad vis dar 80–90 % OpenAI tyrimų orientuoti į GPT-7, GPT-8 ir toliau.

Rugpjūtį Jeff Dean po 27 metų paliko Google ir kartu su Sanjay Ghemawat, Oriol Vinyals bei Quoc Le įkūrė startuolį „Discovery Loop". Kleiner Perkins atstovas TBPN laidoje sakė, kad jie buvo vieni iš raundo vedančiųjų, o komanda prisidėjo prie TPU, TensorFlow ir Google Brain; įmonė siekia patobulinti mokslinį metodą, projektuojant eksperimentus, gaunant rezultatus realiu laiku ir lygiagrečiai projektuojant tūkstančius tolesnių eksperimentų.

Žiežirba ar singuliarumas20:34

Dwarkesh aprašo dvi priešingas jėgas: AI tyrėjai greitėja ir gausėja, bet idėjas tampa sunkiau rasti — įmonės jau turi maždaug keturis kartus didinti MTEP skaičiavimo galią ir dvigubinti darbuotojų skaičių kasmet vien tam, kad išlaikytų tą patį tempą. Jei AI protingėja greičiau, gaunama vien programinė singuliarumo versija (software-only singularity), kai AI spiečius per kelis mėnesius pasiekia superintelektą, ribojamą tik fizinių lustų apribojimų.

Jei idėjos sunkėja greičiau, gaunama „žiežirba" (spark) — 3–6 metų progresas šiandieniniu tempu, sutalpintas į vienus kalendorinius metus, o paskui ramybė, kol bus pastatyta daugiau skaičiavimo galios. Jis vertina tai kaip monetos metimą: 50 % ir 50 %.

Net „žiežirbos" scenarijuje per pirmuosius metus būtų padaryta maždaug 4 metų pažanga — toks pat šuolis kaip nuo GPT-3.5 iki GPT-6 Astra per 12 mėnesių. GPT-3.5 mokėjo parašyti padorų limeriką ir užbaigti trivialią Python funkciją, o Astra kuria ištisus vaizdo žaidimus nuo nulio ir pateikia Fieldso medalio vertų matematinių įnašų. Toks protas, anot Dwarkesh, būtų milžiniškai viršžmogiškas bet kurioje bent kiek patikrinamoje srityje: geresnis už Nvidia projektuojant AI lustus, geresnis už geriausias prekybos firmas rinkose, geresnis už likusią žmoniją ieškant kambario temperatūros superlaidininko.

Nepatikrinamų sričių, kaip įmonės valdymas ar bylos teisme, AI mokytųsi milžiniškuose virtualiuose pasauliuose — simuliuotose ekonomikose su milijonais kitų AI ir istorijos „back-test'uose", pavyzdžiui, ar AI gali išvesti bendrąją reliatyvumo teoriją turėdama tik iki 1700 m. informaciją.

Pateikiamas vaizdas, kaip AI sekioja „Fortune 500" vadovą: pirmą rytą perskaito kiekvieną el. laišką, Slack žinutę ir dokumentą, o iki pirmos dienos pabaigos jo kopijos lygiagrečiai apklausia kiekvieną darbuotoją ir svarbų klientą. Net lėtesniame „Spark" scenarijuje jis mano, kad AI pasieks geriausių žmonių lygį praktiškai visose srityse maždaug iki 2028–2029 metų.

Benjamin Todd teigia, kad net be RSI paprasta tendencijų ekstrapoliacija veda prie AGI iki 2030 m. Pagal Epoch AI, pirmaujančios AI įmonės pajamas 2024 m. padidino tris kartus, 2025 m. — 4,7 karto, o šiemet — apie šešis kartus; esant šešiagubam augimui pajamos pasiektų 10 trilijonų dolerių maždaug 2029 m. kovą, apie 10 % pasaulio ekonomikos. AI užduočių trukmė nuo 2024 m. auga maždaug aštuonis kartus per metus, o tai reikštų kelerių metų trukmės užduotis iki 2030-ųjų pradžios. Jis pripažįsta, kad kiekviena eksponentė galiausiai tampa S kreive, bet pajamos vis dar greitėja.

Kova dėl stabdžių24:40

Sam Altman, paklaustas apie didžiausią problemą, kalbėjo apie tai, kaip mąstyti apie pažangos tempą įžengiant į RSI erą ir kaip išvengti dviejų blogų baigčių — kontrolės praradimo incidento arba valdžios koncentracijos incidento, taip pat kėlė klausimą, kiek protinga AI sistema turėtų būti leidžiama būti palyginti su žmogumi ir kaip greitai ji gali tobulėti.

Microsoft AI vadovas Mustafa Suleyman sakė, kad didžiausią riziką kelia uždaras RSI ciklas be žmogaus peržiūrėtojo — tai greičiau, bet pavojinga, nes prieš 20 metų tai vadinta intelekto sprogimu, o galutinis rezultatas tikriausiai bus svetimas, tarsi ateivių intelektas. Pabrėžiama, kad kol kas žmonės vis dar yra cikle. Ankstesnėje IPO dokumentų versijoje Anthropic nurodė svarstanti atnaujinti savo atsakingo mastelio politiką, kad žmonės išliktų pažangiausių modelių kūrimo kontrolėje.

Baltųjų rūmų AI patarėjas David Sacks „All-In" laidoje kritikavo Anthropic: esą įmonė kalba apie rinką, kurioje laimėtojas pasiima viską, t. y. monopoliją, sako, kad rekursyvus savęs tobulinimas jau prasidėjo, nepaisant saugumo problemų, ir traktuoja jį kaip verslo pranašumą, nors tai pavojingiausias dalykas, prie kurio galima dirbti. Vienas X platformos vartotojas tai apibendrino trimis žodžiais: „David Sacks sako: uždrauskite RSI." Po Niujorko asamblėjos nario Alex Bores įrašo, kad kiekviena AI įmonė bando visiškai automatizuoti AI tyrimus, kongresmenas Greg Casar atsakė „Uždrauskite RSI" — įrašas surinko daugiau nei 800 000 peržiūrų.

Nepriklausomas tyrėjas Richard Ngo, anksčiau dirbęs OpenAI, mano, kad žmonės šokinėja toliau, nei leidžia įrodymai, tikėdamiesi labai greito RSI per porą metų, bet pridūrė, kad per artimiausią dešimtmetį pasaulis neatrodys normalus: nebus vertikalaus, staigaus ir ekstremalaus savęs tobulinimo, bet viskas atrodys daug keisčiau, nei beveik kas nors tikisi.

Baigiama mintimi, kad niekas tiksliai nežino, ar tai baigsis vien programinės įrangos singuliarumu, „Spark" scenarijumi, ar kažkuo lėtesniu: įrodymai iš dalies užredaguoti, prognozių paklaidos plačios, o pats Dwarkesh skiria 25 % tikimybę, kad AI neprilygs geriausiems žmonėms tyrėjams iki 2032-ųjų. Pasikeitė kryptis: prieš metus RSI buvo minties eksperimentas, o dabar Anthropic pranešė SEC peržengusi savo slenkstį, Google sako, kad RSI ciklai yra dalis Gemini kūrimo, OpenAI vadovas kalba apie RSI erą, o skeptikai sako pažiūrėję į įrodymus ir pakeitę nuomonę.

Dalintis:

Originalas: AI Just Reached A Tipping Point (TheAIGRID YouTube kanalas)

Visos 2026 m. lapkričio 16 d. naujienos · Archyvas