← Visos naujienos

JAV Kongrese stiprėja spaudimas uždrausti superintelektą ir stabdyti pažangų AI

ReguliavimasŠaltinis: TheAIGRID YouTube kanalas·
JAV Kongrese stiprėja spaudimas uždrausti superintelektą ir stabdyti pažangų AI

Pranešime apžvelgiamas Bernie Sanderso ir Grego Casaro rugsėjo 23 d. pateiktas „Ban Artificial Super Intelligence Act", kuris draustų kurti ar diegti superintelektą, stabdytų pažangaus AI plėtrą iki naujo federalinio reguliuotojo taisyklių ir numatytų iki 20 metų laisvės atėmimo bausmes. Po lapkričio 3 d. tarpinių rinkimų, kuriuos demokratai laimėjo abejuose rūmuose, tokie siūlymai tapo realia darbotvarke, įskaitant moratoriumą duomenų centrams. Diskusiją papildomai įkaitino METR ataskaita apie Anthropic vidinį „Model 4" ir rekursinį savęs tobulinimą, o pagrindinis kontrargumentas — draudimas galėtų perduoti pirmavimą Kinijai.

Pilna santrauka

Kas siūloma įstatymu0:43

Rugsėjo 23 d. senatorius Bernie Sandersas ir kongresmenas Gregas Casaras pateikė „Ban Artificial Super Intelligence Act" — įstatymo projektą, kuris JAV uždraustų bet kuriam asmeniui ar bendrovei kurti arba diegti superintelektą. Jis taip pat stabdytų pažangaus AI plėtrą tol, kol naujas federalinis reguliuotojas nustatys taisykles ir modelių peržiūros tvarką, bei įsteigtų naują kabineto lygio dirbtinio intelekto departamentą, kuris stebėtų pažangiausius („frontier") modelius ir prižiūrėtų pavojingų gebėjimų — pavyzdžiui, išjungimo komandų ignoravimo — šalinimą.

Bandantiems apeiti reikalavimus įmonėms grėstų vadinamoji „korporacinė mirties bausmė", o asmenims — iki 20 metų kalėjimo.

Superintelektas projekte apibrėžiamas kaip AI, pranokstantis žmogaus kognityvinius gebėjimus daugumoje sričių, arba pakankamai galingas, kad sunaikintų ar nuvertintų žmoniją — apibrėžimas, artimas tam, kaip daugelis apibūdina AGI, todėl siūlymas vadinamas AGI draudimu.

Politinis kontekstas po rinkimų2:04

Iš pradžių projektui niekas neprognozavo sėkmės, nes Kongresą kontroliavo respublikonai. Tačiau lapkričio 3 d. demokratai laimėjo ir Atstovų Rūmus, ir Senatą, o AI buvo reali rinkimų tema: NBC apklausa parodė, kad 56 % rinkėjų AI ir duomenų centrus laikė lemiamu ar svarbiu veiksniu balsuojant. Kitą dieną Arizonos kongresmenė Yassamin Ansari pareiškė, kad pažangaus AI stabdymas ir superintelekto draudimas turi būti demokratų darbotvarkės viršuje nuo pirmos dienos. Pasirodė įrašų, kad demokratai planuoja laikiną naujų AI duomenų centrų draudimą, pažangaus AI plėtros pauzę ir nuolatinį superintelekto draudimą.

Sandersas priminė, kad prieš septynis mėnesius kartu su AOC siūlė duomenų centrų moratoriumą, o rinkimuose 43 iš 44 bendruomenių vietos lygiu balsavo už tokį moratoriumą; jo teigimu, to ir nori amerikiečiai.

METR ataskaita ir „Model 4"3:36

Postūmį diskusijai davė nepriklausomos vertinimo grupės METR ataskaita, parengta gavus retą prieigą prie Anthropic vidaus. Pasak jos, Anthropic tobulina savo modelius maždaug dvigubai sparčiau nei anksčiau (geriausias įvertis 1,9 karto, intervalas apie 1,5–2,8 karto), ir apie 80 % to pagreitėjimo greičiausiai lemia pats AI. Ataskaitoje atskleistas vidinis modelis „Model 4" — pasak Andrew Currano, aukščiausius balus surinkęs modelis, pirmasis peržengęs 50 % ribą visuose testuose. Anthropic darbuotojai teigė, kad AI juos daro maždaug 12 kartų produktyvesnius, tačiau bendrovė užtušavo didžiąją dalį METR informatyviausiais laikytų įrodymų.

Komentaruose skambėjo skepsis: METR nepriklausomumas lyginamas su Fed nepriklausomumu nuo Goldman Sachs, kalbėta apie prieš IPO kuriamą ažiotažą. Kitas komentaras pastebėjo prieštarą: Anthropic viešai ragina „lėtinti tempą", o viduje jo neišleistas modelis dvigubina tyrimų greitį.

Politikos ekspertai ataskaitą priėmė rimtai. Ryanas Greenblattas pavadino ją dideliu postūmiu link superintelekto per 1–2 metus ir pripažino anksčiau stipriai nuvertinęs RSI pagreitį 2026 m. Jeffrey Ladishas pabrėžė, kad dvigubas bendro progreso pagreitis reiškia daug didesnį pagreitį AI programinės įrangos tyrimuose — apytiksliai apie 4,5 karto. Robas Wiblinas kalbėjo, kad RSI gali „pakilti" 2027 m., jei nebus sustabdytas.

Judėjimas „ban RSI"6:13

Lapkričio 6 d. Niujorko įstatymų leidėjas Alexas Boresas paskelbė plačiai pasklidusį įrašą: visos AI bendrovės siekia visiškai automatizuoti AI tyrimus, kad AI kurtų kitą AI — tai rekursinis savęs tobulinimas. OpenAI esą tai planuoja pasiekti iki 2028 m. kovo, Anthropic darbuotojai — iki 2027 m., o METR ataskaita rodo, kad jie greičiausiai teisūs. Boreso argumentas: dabartinės technologijos sąlygomis tai bloga idėja, nes bet kokia klaida ar nesuderinamumas gali būti padauginti kiekvienoje kartoje; Kongresas turėtų uždrausti RSI dar šiemet.

Boresas nurodė neįprastai plačią idėjai pritariančių žmonių grupę: Bernie Sandersas ir Steve'as Bannonas, Ralphas Naderis ir Glennas Beckas, respublikonų bei demokratų generaliniai prokurorai, Danielis Kokotajlo, Turingo premijos laureatas Yoshua Bengio, Ezra Kleinas ir net Arvindas Narayananas, žinomas teze, kad AI yra „normali technologija". Gregas Casaras pacitavo įrašą dviem žodžiais „ban RSI", o AI 2027 pagrindinis autorius Danielis Kokotajlo atsakė padėka. Kiti kritikavo: vienas komentatorius tikėjosi, kad tai sarkazmas, kitas tvirtino, kad RSI neegzistuoja ir pats savaime sugriūtų.

Kokotajlo podkaste paaiškino niuansą: jis labiau palaiko superintelekto ar AGI draudimą, ribų nustatymas esąs itin svarbus, o „A planas" — atidėti superintelektą iki 2040 m., pasiekti AGI, iš jo gauti visą naudą ir kuo ilgiau ten pasilikti.

AGI, RSI ir superintelekto skirtumai9:20

AGI paprastai reiškia AI, gebantį atlikti daugumą žmogaus darbų; superintelektas — gerokai protingesnį už bet kurį žmogų beveik visose srityse; RSI nėra AI tipas, o procesas, kai AI atlieka tyrimus, kuriantys kitą AI. RSI yra kelias, superintelektas — jo galima pabaiga.

Samas Altmanas kalba apie „RSI erą" ir klausia, kaip išvengti tiek kontrolės praradimo, tiek galios koncentracijos incidentų, kokie turėtų būti valdymo mechanizmai ir kiek protingam AI turėtų būti leista būti, palyginti su žmogumi. Chrisas (ChrisGPT) rugsėjį atkreipė dėmesį, kad Claude vykdė 26 % Anthropic AI tyrimų darbo (vasarį — mažiau nei 1 %), bendradarbiavimo su AI dalis viršijo 90 %, o bet kuriuo metu bendrovėje dirbo apie 30 000 agentų. „All-In" podkaste aiškinta, kad būtent RSI leidžia smarkiai pigesnį skaičiavimą ir algoritminius patobulinimus.

Reddit komentare teigta, kad perėjimas nuo kiekvienos kodo eilutės peržiūros prie agentų spiečių, tikrinančių vieni kitus, jau yra RSI. Taip pat minimas „svorių erdvės programavimas": Alexo Krenelio pakartoti MIT rezultatai rodo, kad naujausi OpenAI ir Anthropic modeliai geba redaguoti kitų neuroninių tinklų svorius — GPT „Astra" redagavo Qwen 3.5 svorius ir pagerino jo matematikos gebėjimus. Pabrėžiama, kad kalbama apie mažus „žaislinius" tinklus, ne apie pačius modelius.

Argumentai už RSI ribojimą12:56

Autorius sako nenorintis AI draudimo, bet mano, kad būtent visiškai automatizuoto RSI ribojimas yra prasmingiausias siūlymas, nes tai vienintelė vieta, kur procesas gali iš tiesų pabėgti iš rankų. Kol kas žmonės dar dalyvauja — peržiūri kodą, planuoja eksperimentus — bet RSI tikslas yra pašalinti žmogų kaip lėčiausią grandį.

Demis Hassabis sakė, kad didžiausią riziką kelia uždaro ciklo RSI be žmogaus recenzento: tai būtų greičiau, bet labai pavojingas kelias į AGI, kadaise vadintas „intelekto sprogimu", nes neaišku, kaip tokį procesą kontroliuoti. Tą patį sako ir Boresas: nedidelė klaida pirmame žingsnyje gali tapti didele dešimtame. Komentatoriai stebėjosi, kad nėra jokios nustatytos ribos. Pažymima, kad ir Kinijos nacionalinė kibernetinio saugumo standartų įstaiga rugsėjį paskelbtame saugos dokumente įspėjo dėl AI rekursinio savęs tobulinimo.

Superintelekto draudimo kaina15:32

Kita vertus, tai, kas superintelekte baugina, yra ir jo vertė — jis protingesnis už mus ir galėtų išspręsti dešimtmečius neįveiktas problemas. Reddit įraše „Banning RSI is stupid" teigiama, kad RSI yra vienintelė viltis išvengti senėjimo, nes vien žmonių daroma pažanga labai lėta.

Jau siauras AI davė rezultatų: DeepMind AlphaFold atskleidė milijonus baltymų struktūrų ir pelnė Nobelio premiją, o 2025 m. „Nature Medicine" paskelbė rentoseltibo — vaisto, kurio ir taikinys, ir molekulė atrasti generatyviuoju AI — tyrimą dėl idiopatinės plaučių fibrozės: pacientų plaučių funkcija buvo geresnė nei gavusiųjų placebą. Isomorphic Labs kurta būtent tokiai idėjai. Nuolatinis superintelekto draudimas reikštų ir atsisakymą visų vaistų, kuriuos jis galėtų rasti; kiekvieni atidėjimo metai turi sunkiai matomą kainą.

Kas nutiktų uždraudus17:35

Chrisas (ChrisGPT) modeliuoja scenarijų: jei Amerika sustotų, Kinija tęstų, kurtų RSI ir toliau atvirai skelbtų modelių svorius. Po dvejų trejų metų JAV įmonės slapta siųstųsi atvirojo kodo AGI; net uždraudus Fortune 500 naudoti kinų modelius, svorių sklaidos sustabdyti nepavyktų — „ar draus matematiką?". Dalis komentatorių ragino priešingai — greitinti. Pažymima, kad kinų atvirieji modeliai tapo vienais populiariausių pasaulyje.

Tame pačiame įraše teigiama, kad darbo vietų praradimas įvyks vis tiek — redagavimas, pagalbinės funkcijos, klientų aptarnavimas, didelė dalis gig ekonomikos pereis nemokamiems atviriems modeliams — tik nauda, laboratorijos, lustai ir mokesčiai atiteks kitiems: liks nedarbas be augimo, iš kurio būtų galima finansuoti UBI. Wikipedia puslapis apie superintelekto draudimą nurodo oponentų argumentus: jį sunku apibrėžti ir įgyvendinti, jis lėtintų mokslą ir skatintų nereguliuojamus pogrindinius tyrimus.

Tarptautinis atgarsis19:41

JK daugiau nei 70 parlamentarų ir lordų kreipėsi į Andy Burnhamą, ragindami paremti superintelekto draudimą ir vadovauti pasaulinėms pastangoms jį stabdyti; laiške teigiama, kad patys kūrėjai mano, jog technologija gali visus išžudyti iki dešimtmečio pabaigos. Rugsėjį parlamentaras Alexas Soilas su organizacija ControlAI pateikė superintelekto saugumo projektą, laiške vadinamą pirmuoju superintelektą draudžiančiu įstatymu pasaulyje.

JK AI ministras Kyle'as/Kanishka Narayanas atsakė, kad šalis superintelekto neturi ir artimiausiu metu negalės jo kurti, todėl efektyviausia stiprinti gebėjimą testuoti ir suprasti kitų keliamas rizikas, grūdinti kibernetinę gynybą, telkti pasaulį rengiantis G20 ir ilgainiui kurti Britanijoje. Jo teigimu, žmonės dažnai nori patraukti bet kurią matomą svirtį, o ne tą, kuri iš tikrųjų veikia; svarbi ne kontrolės pojūtis, o reali kontrolė.

Kinija į Dario Amodei raginimą „lėtinti tempą" sureagavo kalbomis apie baimės kurstymą ir ydingą konkurenciją; valstybinė žiniasklaida tokius siūlymus vadino Kinijos AI stabdymo būdu, panašiu į lustų ribojimus. „Rest of World" cituojamas MiniMax tyrimų vadovas klausė, kodėl taisykles visada keičia tie patys; DeepSeek inžinierius rašė nepasitikįs nei Anthropic, nei OpenAI; Huawei rotacinis pirmininkas Eric Xu siūlė kinų kūrėjams net paspartinti tempą. Amerikietiškas siūlymas numato tarptautinius susitarimus, sąjungininkų koordinavimą ir eksporto kontrolę, bet sunkiausia — įtikinti Kiniją prisijungti.

Reddit įraše svarstoma, kad uždraudus RSI JAV vaistų bus gaunama iš Kinijos, o jei uždraustų ir Kinija — tyrėjai persikeltų į Dubajų.

Lyderystė ir talentai22:48

Prielaida, kad JAV gerokai pirmauja ir gali sau leisti pauzę, nebėra tiksli. Vaizdo AI srityje ByteDance „Seedance 2.5" geba viena eiga sugeneruoti 30 sekundžių klipus ir priima iki 50 referencinių įvesčių — tai vienas geriausių pasaulyje vaizdo modelių. Pasak Carnegie, Kinija tapo didžiausiu elitinių AI talentų šaltiniu: geriausių AI tyrėjų, bakalauro studijas baigusių Kinijoje, dalis 2025 m. išaugo iki 57 %, o JAV dalis krito iki 13 %; 41 % geriausių talentų dabar dirba Kinijoje, palyginti su 34 % JAV. Komentare teigiama, kad lenktynėse stipresnis tas, kuris spaudžia akceleratorių, o ne stabdį, ir kad stabdyti prasminga tik visiems kartu.

Argumentai už draudimą24:21

2025 m. spalį Future of Life Institute paskelbė pareiškimą, raginantį uždrausti superintelekto kūrimą, kol nebus plataus mokslinio sutarimo, kad tai įmanoma saugiai ir valdomai, bei visuomenės pritarimo; jį pasirašė Geoffrey Hintonas ir Yoshua Bengio. Argumentas paprastas: sukūrus protingesnį už save dalyką, kurio nemoki kontroliuoti, antro bandymo nebus; suderinamumo problema neišspręsta, o patys kūrėjai pripažįsta iki galo nesuprantantys savo sistemų.

Primenama, kad AI 2027 scenarijus turi dvi pabaigas: lenktynių pabaiga baigiasi labai blogai, o sulėtėjimo pabaigoje JAV sulėtina tempą, dirba su suderinamumu ir viskas baigiasi kur kas geriau. Visuomenė irgi sunerimusi: CBS News apklausos rodo didelę daugumą priešinantis duomenų centrui savo bendruomenėje, o „Time" rašė, kad demokratai išleido daugiau nei 100 mln. dolerių reklamai, vaizduojančiai oponentus pernelyg artimais didžiosioms technologijų bendrovėms ir duomenų centrams, ir įtikinamai laimėjo daug tų varžybų.

Ar įstatymas bus priimtas25:56

Tikėtina, kad kol kas ne. Net demokratams kontroliuojant Kongresą, projektui Senate reikėtų 60 balsų ir prezidento parašo, o Trumpo administracija stipriai pasisako už amerikietišką AI dominavimą, ypač prieš Kiniją; veto įveikti reikėtų dviejų trečdalių abiejuose rūmuose. Nėra aišku ir tai, ar AI draudimas yra laimintis klausimas: Alexas Boresas kandidatavo į Kongresą su AI saugos programa ir pralaimėjo Niujorko pirminius rinkimus, nors saugos organizacijos jo kampaniją parėmė daugiau nei 21 mln. dolerių. Rinkėjai nekenčia duomenų centrų savo kieme, bet tai nereiškia, kad nori atsikratyti AI.

Jokia pasaulio vyriausybė dar nėra priėmusi aiškaus superintelekto draudimo, o Wikipedia pažymi, kad nėra tikslios ribos tarp pažangaus AGI ir superintelekto, todėl tokį draudimą labai sunku suformuluoti veiksmingai.

Labiau tikėtini mažesni žingsniai: duomenų centrų taisyklės, skaidrumo reikalavimai, pavojingų gebėjimų testavimas arba visiškai automatizuotų AI tyrimų ribojimas.

Ką stebėti toliau26:59

Autorius siūlo sekti tris dalykus: ar demokratai iš tikrųjų teiks projektą balsavimui, ar jį tyliai sušvelnins; ar laboratorijos pradės skelbti, kokia dalis jų tyrimų automatizuota (tai — pagrindinis diskusiją lemsiantis skaičius); ir ar JAV su Kinija apskritai kalbėsis apie ribas, nes be Kinijos bet koks draudimas daugiausia simbolinis. Taip pat verta stebėti „Model 4": jei Anthropic jį išleis arba METR paskelbs naują ataskaitą apie dar didesnį pagreitį, spaudimas draudimui augs.

Asmeninė autoriaus pozicija: jis nenori AI draudimo, mano, kad nauda nusveria žalą, o artimiausias dešimtmetis gali atnešti milijonus gyvybių gelbstinčių proveržių; visiškas superintelekto draudimas reikštų viso to atsisakymą, kol kitos šalys tęsia. Vis dėlto jis mano, kad uždaro ciklo RSI, kai AI kuria kitą AI be žmogaus patikros, vertas ribojimo, bet tik tarptautinio, patikrinamo ir suderinto su Kinija. Protinga taisyklė, jo manymu, prasidėtų nuo skaidrumo — kiekviena pažangi laboratorija turėtų skelbti, kiek jos tyrimų automatizuota (kaip Anthropic 26 % diagrama) — ir nuo realiai nepriklausomo išorinio testavimo.

Dalintis:

Originalas: The Government Is About To Ban AGI (TheAIGRID YouTube kanalas)

Visos 2026 m. lapkričio 8 d. naujienos · Archyvas