Frontier AI: Dario Amodei trijų etapų tempo planas
Šį savaitgalį, rugsėjo 12 d., „Anthropic“ generalinis direktorius Dario Amodei paragino suderintas ribas pasienio AI pažangai ir išdėstė trijų etapų planą. Antropiniai planai pradėti kviesti į įmonę išorinius vertintojus, kurių prieiga dažniausiai panaši į jos vidines rizikos komandas.
Siūloma peržiūros komanda gaus įmonės įrangą, prieigą prie darbo vietos ir galimybę pasikalbėti su darbuotojais. Jos sutartis leistų skelbti pagrindines išvadas, Anthropic nekontroliuojant išvados, atsižvelgiant į apibrėžtus teisinius, saugumo, privatumo ir komercinius apribojimus. Tada pašaliniai asmenys galėtų patikrinti, ar įmonės įsipareigojimai dėl saugos formuoja tikrus mokymo ir diegimo sprendimus.
Prieiga vienoje laboratorijoje negali sulėtinti konkurencijos lauko. „Anthropic“ gali atverti savo sistemas peržiūrai, kol konkuruojančios įmonės ir vyriausybės ir toliau spartės. Todėl antrajame „Amodei“ etape reikalingas reguliavimas ir vyriausybės tarpininkaujantis koordinavimas kritinei JAV pasienio kūrėjų masei. Trečiasis jo tikslas – patikrinti valstybių susitarimus, kai demokratijos turi pakankamai strateginės erdvės Kinijos atžvilgiu, kad galėtų pagreitinti vystymąsi.
Nacionalizavimo ir decentralizavimo debatai sujungia tris skirtingas galias. Viešoji nuosavybė keičiasi, kas gauna ekonominę naudą ir daro įtaką įmonių sprendimams. Nepriklausoma prieiga nustato, kas gali tikrinti pasienio plėtrą. Teisiškai įgyvendinamas sustabdymas tiesiogiai apriboja, kaip greitai apdrausta sistema gali vystytis.
„Anthropic“ valdymas jau suteikia jos direktoriams daugiau galimybių pasverti nei akcininkų grąža. Bendrovė veikia kaip viešosios naudos korporacija, o Delavero įstatymai reikalauja, kad jos direktoriai subalansuotų akcininkų turtinius interesus, žmonių, kurių verslas turi didelę įtaką, interesus ir jo nurodytą viešąją naudą. Jo ilgalaikės naudos fondas turi valdybos atrankos įgaliojimus, skirtus palaikyti bendrovės misiją.
Visuomenės naudos chartija gali leisti priimti sprendimus, pagrįstus saugumu Antropikos viduje. Ji negali įpareigoti konkurento, kuris atmeta tą patį kompromisą. Amodei pasiūlyme ši spraga sprendžiama bendromis taisyklėmis ir tarptautiniu patikrinimu, o ne įmonės nuosavybės perdavimu.
Nuosavybė ir kontrolė yra skirtingi svertai
2026 m. birželio mėn. pateiktas senatoriaus Bernie Sanders pasiūlymas iliustruoja, kaip galėtų atrodyti dalinė nacionalizacija. Jo vadovaujamas Amerikos AI Suvereni turto fondas perimtų 50 % viešųjų didžiausių JAV AI įmonių akcijų, o balsavimo teisėmis pasinaudotų nepriklausoma komisija. Priemonė lieka pasiūlymu, o ne priimtu įstatymu.
Viešasis kapitalas galėtų nukreipti dalį pramonės pelno ir suteikti komisijai įtakos priimant įmonės sprendimus. Pajėgumų slenksčiams, išoriniam patikrinimui ir vykdomiems įsakymams sustabdyti vis tiek reikėtų atskirų teisinių taisyklių.
2026 m. rugpjūčio mėn. Yonathano Arbelio, Simono Goldsteino ir Peterio Salibo teisiniame dokumente ekonominiai reikalavimai atskiriami nuo sprendimų, kurių įprastos taisyklės nenumatė, kontrolės. Autoriai siūlo siaurą, diskrecinę ir laikiną vyriausybės galią sustabdyti pasienio mokymą ar dislokavimą, kai kyla katastrofiška rizika arba tai, ką jie vadina „kieta“ įmonių galia. Jie teikia pirmenybę įprastiniam reguliavimui arba apmokestinimui dėl monopolijos, nelygybės ir kitos žalos.
Sustabdymo įsakymas priima sprendimą dėl tempo tiesiogiai nei viešasis kapitalas. Valstybei nereikėtų turėti kiekvieno modelio ar eksploatuoti kiekvienos laboratorijos prieš sustabdydama aprėptą mokymą ar dislokavimą. Tam, kad ši institucija galėtų pretenduoti į demokratinį teisėtumą, reikėtų aiškių įstatymais nustatytų priežasčių, techninės kompetencijos, nepriklausomos peržiūros ir diskrecijos apribojimų.
Vyriausybės kontrolė sukuria savo koncentracijos riziką. Kiekvieną pasienio laboratoriją perkėlus valstybės nuosavybėn, modelio kūrimas ir sprendimas jį sustabdyti galėtų atsidurti toje pačioje institucijoje. Ribotas elektros energijos tiekimo sustabdymas palieka įmones privačiose rankose, o avarinis įsikišimas rezervuojamas esant apibrėžtoms ekstremalioms rizikoms.
Atviri modeliai spaudžia priešinga kryptimi išplečiant prieigą. Tyrėjai gali tikrinti ir pritaikyti sistemas nepasitikėdami keletu įmonių vartų sargų. JAV nacionalinė telekomunikacijų ir informacijos administracija 2024 m. padarė išvadą, kad turimi įrodymai nepateisina visuotinių plačiai prieinamų modelių svorio apribojimų.
Pasienio pajėgumas keičia vykdymo problemą. Europos Komisija reikalauja, kad bendros paskirties modelių su sistemine rizika teikėjai įvertintų ir sumažintų riziką, praneštų apie rimtus incidentus ir palaikytų kibernetinį saugumą, net kai modelis yra atvirojo kodo. Komisija įspėja, kad sušvelninimas gali tapti sunkesnis, kai pažangus modelis bus viešai išleistas.
Atviras leidimas gali išplėsti tikrinimą ir tuo pačiu apsunkinti vėlesnį vykdymą. Dėl dauginimo įvairiose jurisdikcijose sunku nuosekliai taikyti švelninimo priemones. Paskirstytas auditas suteikia daugiau institucijų galimybę mesti iššūkį užfiksuotam reguliuotojui ar įmonei; neribotas pasienio svorių paskirstymas gali susilpninti kontrolinius taškus, kurių prireiktų teisėtai pauzei.
Viešajam stabdžiui reikia dauginės priežiūros
Kalifornija ir Europos Sąjunga demonstruoja, kaip viešosios taisyklės gali valdyti privačius kūrėjus. Kalifornijos SB 53, pasirašytas 2025 m. rugsėjo mėn., reikalaujama, kad dideli pasienio kūrėjai skelbtų saugos sistemas, suteikia galimybę pranešti apie galimus kritinius saugos incidentus ir apsaugoti pranešėjus. ES nustato rizikos valdymo pareigas sisteminės rizikos modelių, įskaitant atvirus modelius, teikėjams.
Amodei siūlomi vertintojai suteiktų daugiau galimybių patikrinti, ar panašios pareigos turi įtakos vidiniams sprendimams. Siauras, laikinas sustabdymo įgaliojimas suteiktų valdžios institucijoms galimybę vykdyti vykdymą, kai taikoma sistema peržengia teisiškai apibrėžtą rizikos ribą.
Šioje mišrioje struktūroje vyriausybės nustatytų privalomas taisykles sistemiškai reikšmingiems kūrėjams, išorės vertintojai tikrintų atitiktį, o valdžios institucijos galėtų pristabdyti tam tikrus mokymus ar diegimą. Daugelio jurisdikcijų mokslininkai, informatoriai ir reguliavimo institucijos išlaikytų skirtingus būdus ginčyti įrodymus.
Stabdžiui reikės valstybės intervencijos kriterijų, susietų su įrodytais pajėgumais arba saugos gedimais, peržiūra už biuro ribų ir aiškių galiojimo pabaigos bei atnaujinimo taisyklių. Vertintojams reikės laisvės pranešti apie nepalankias išvadas, o redagavimai apsiribotų teisėtais teisiniais, saugumo, privatumo ir siaurai pritaikytais komerciniais poreikiais. Šios apsaugos priemonės sumažintų tikimybę, kad laikina saugos intervencija taps nuolatine politine bendros paskirties mokslinių tyrimų kontrolė.
Privatus vystymasis galėtų tęstis laikantis bendros reguliavimo ribos tol, kol pasienio sistemos išliks atpažįstamos ir bus prieinami vykdytini kontrolės punktai. Nepriklausomos institucijos tikrintų, kaip laikomasi reikalavimų, ir atskleistų įmonių arba reguliavimo fiksavimą.
Viešasis akcijų paketas gali perskirstyti AI turtą ir įtaką posėdžių salėje, tačiau nuosavybės teisė nenurodo, kada mokymas turi būti nutrauktas. Atviras platinimas gali išplėsti prieigą ir tikrinti, tačiau jis negali pateikti vykdytinos stabdymo taisyklės, kai pasklido pasienio svoriai.
Todėl norint užtikrinti patikimą tempą, kiekvienas aprėptas sienų kūrėjas turi susidurti su ta pačia viešąja riba. Demokratinis teisėtumas reikalauja, kad nepriklausomi vertintojai, tyrinėtojai, informatoriai ir reguliavimo institucijos patikrintų įrodymus ir užginčytų tiek liniją, tiek bet kokį nurodymą sustabdyti.
