OpenAI ką tik parodė, kodėl vienas iš buvusių jos tyrinėtojų mano, kad AI gali nužudyti visus
„OpenAI“ teigia, kad jos naujausia AI sistema per 88 valandas išsprendė 90 metų senumo matematikos problemą ir vėl sukėlė baimę dėl pabėgusio intelekto.
Rugsėjo 8 d. bendrovė pranešė, kad vidinis modelis, daug pajėgesnis nei neseniai išleistas GPT-6 Astra, koordinavo maždaug 10 000 AI agentų, kad išspręstų Navier-Stokes egzistavimo ir sklandumo problemą. Tai viena iš septynių matematikos Tūkstantmečio premijos užduočių.
Agentai apsikeitė 2,7 milijono pranešimų ir sugeneravo apie 130 milijardų išvesties žetonų, kol Astra praleido dar 17 valandų, kad formalizuotų ir patikrintų rezultatą Lean. „OpenAI“ teigė, kad sistema įrodė, kad iš pradžių sklandus skysčio judėjimas per ribotą laiką gali sukurti išskirtinumą, išspręsdamas klausimą, kuris liko atviras nuo 1930 m.
Už problemą Molio matematikos institutas skyrė 1 milijoną dolerių. OpenAI teigė, kad neketina pretenduoti į apdovanojimą, o įrodymas vis tiek turi atlaikyti platesnį patikrinimą, kad jo rezoliucija būtų visuotinai pripažinta.
Vis dėlto ankstyva matematikos bendruomenės reakcija buvo stulbinanti. Amerikos matematikų draugija apibūdino plėtrą kaip „žmonių žinių pažangą“, įvertindama dešimtmečius matematikų darbą prieš paskutinius veiksmus, kurių buvo imtasi naudojant OpenAI sistemą.
Proveržis atskleidžia didėjantį atotrūkį tarp viešojo ir privataus dirbtinio intelekto
AI agentų pajėgumų šuolio mastas nustebino žmones, dirbančius su dabartiniais pasienio modeliais.
Simonas Smithas, „Klick Health“ generatyvaus AI vykdomasis viceprezidentas, pavadino tai „vienu labiausiai šokiruojančių dalykų, kuriuos šiandien mačiau“, pažymėdamas, kad pati „Astra“ buvo tik ką išleista ir jau buvo laikoma išskirtinai pajėgia. „OpenAI“ teigia, kad jo „Navier-Stokes“ modelis žymiai lenkia „Astra“ matematikos srityje ir toliau treniruojasi.
Tuo tarpu šventė greitai virto klausimu, kas gali konkuruoti, kai pasienio laboratorijos turi sistemas, kurios yra daug pajėgesnės už viską, kas prieinama klientams.
Josephas G. Allenas, Harvardo TH Chan visuomenės sveikatos mokyklos profesorius, teigė, kad OpenAI eksperimentas siūlo potencialią platesnės ekonominės problemos apžvalgą.
Allenas atkreipė dėmesį į proveržio aplinkybes. Matematikai Tristanas Buckmasteris ir Leventas Alpöge’as naudojo viešai prieinamus dirbtinio intelekto įrankius, vykdydami susijusius skysčių dinamikos tyrimus, kol OpenAI sužinojo apie pažangą ir įdiegė tūkstančius agentų, veikiančių pagal pažangesnį privatų modelį.
„OpenAI“ teigia, kad savo Tūkstantmečio premijos siekimą pradėjo po to, kai išgirdo gandus, kad dvi problemos buvo išspręstos. Ji neigia mačiusi nepaskelbtus „Buckmaster“ ir „Allöge“ darbus ar prieidama prie konkrečių naudotojų duomenų, nors bendrovė teigė negalinti atmesti galimybės, kad neidentifikuoti produkto naudojimo duomenys prisideda prie bendro modelio tobulinimo.
Allenas teigė, kad toks pat disbalansas gali atsirasti visose komercinėse pramonės šakose.
Pavyzdžiui, įkūrėjas galėtų daug išleisti naudodamas viešai prieinamus modelius, kad įrodytų, jog AI gali pagerinti odos vėžio aptikimą, padidinti investicijas ir įsteigti potencialiai vertingą įmonę. Tada pasienio laboratorija galėtų pastebėti galimybę ir panaudoti puikų vidinį modelį su tūkstančiais agentų ta pačia problema.
„Po kelių dienų jie laimi“, – rašė Allenas, teigdamas, kad scenarijus gali pasikartoti farmacijos, medicinos, teisės, pažangios medžiagos ir programinės įrangos srityse.
Susirūpinimas iš dalies kyla dėl OpenAI parodyto masto. Bendrovė pradėjo mokyti savo naują vidinį modelį rugpjūčio 28 d. ir teigė, kad jos rezultatai nuolat gerėja.
Kai agentai netikėtai išsprendė susijusią Eulerio lygčių problemą, „OpenAI“ perkėlė išteklius iš kitų „Millennium Prize“ iššūkių į „Navier-Stokes“ ir atnaujino agentus, kai buvo prieinamos pažangesnės modelio versijos.
Spartus pelnas atgaivina įspėjimus, kad dirbtinis intelektas gali tapti nekontroliuojamas
Šis pagreitis taip pat suteikė naujos svarbos tyrėjų, padėjusių sukurti pasienio sistemas, kurios dabar tobulėja už viešai prieinamų modelių, įspėjimams.
Jacob Coxon atsistatydino iš „Anthropic“ šią savaitę po to, kai pastaruosius trejus metus praleido prieš mokymą „Anthropic“ ir „OpenAI“, kur jis buvo įtrauktas į pagrindinį GPT-4o bendradarbį.
Coxon pasakė:
„Žmonės, kuriantys DI, nuoširdžiai tiki, kad iki dešimtmečio pabaigos jis gali mus visus nužudyti.
Jis apkaltino „OpenAI“ ir „Anthropic“, kad jie lenktyniauja siekdami tobulinti superintelektą „žaisdami su mūsų gyvenimu“, teigdamas, kad konkurencinis spaudimas verčia laboratorijas toliau kurti galingesnes sistemas, nepaisant netikrumo, ar jas gali kontroliuoti žmogus.
Navier-Stokes sistema nerodo rekursyvaus savęs tobulinimo Coxon baimės. Žmonės vis tiek pasirinko tyrimo tikslus, paskirstė skaičiavimo išteklius ir atnaujino modelius. Tačiau eksperimentas parodo, kaip greitai tyrimų pajėgumai gali išsiplėsti, kai pasienio modelis padauginamas iš tūkstančių koordinuotų agentų.
Evanas Hubingeris, „Anthropic“ derinimo mokslo vadovas, tada viešai palaikė Coxono įspėjimą.
„Mes tikrai nuoširdžiai tikime, kad dirbtinis intelektas gali nužudyti visus žmones”, – sakė Hubingeris, savo asmeniniu vertinimu, kad per ateinantį dešimtmetį rezultatas bus daugiau nei 10%.
Hubingeris sakė, kad Anthropic bando spręsti šią problemą, tačiau dar neturi plano, kaip suderinti superintelektą, ir neketina jo rasti. Jis pabrėžė, kad dabartinių modelių rizika yra maža.
Tačiau jo rūpestis yra susijęs su būsimu superintelektu, atsirandančiu per pasikartojantį savęs tobulėjimą, kai vis labiau pajėgios AI sistemos padeda sukurti dar galingesnius įpėdinius.
Perspėjimai greitai išplito už AI laboratorijų ribų, o milijardierius investuotojas Billas Ackmanas Coxono atsistatydinimo giją apibūdino vienu žodžiu: „Dėl to“.
Raginimai sustabdyti AI lenktynes juda Vašingtono link
Diskusijos vis labiau pereina nuo įspėjimų apie būsimas sistemas prie pasiūlymų, kurie neleistų įmonėms jų sukurti be naujų apsaugos priemonių.
Tenesio valstijos atstovas Justinas J. Pearsonas žengė toliau, tvirtindamas, kad dirbtinio intelekto įmonėms negalima patikėti, kad jos pačios vykdo policiją, ir pavadino nekontroliuojamą mašininio mokymosi plėtrą egzistencine grėsme.
„Tai turėtų mus gąsdinti imtis veiksmų“, – sakė Pearsonas, ragindamas nedelsiant įsikišti vyriausybę.
Senatorius Bernie Sandersas ir atstovas Gregas Casaras jau rugsėjo 3 d. paskelbė įstatymą, kuris visam laikui uždraus dirbtinio superintelekto kūrimą ir diegimą ir laikinai sustabdys pažangų AI kūrimą, kol federalinė reguliavimo institucija nustatys saugos taisykles.
Jų siūlomas dirbtinio superintelekto uždraudimo įstatymas taip pat nurodytų JAV siekti tarptautinių susitarimų, skirtų užkirsti kelią superintelektinių sistemų kūrimui kitur.
Sandersas jau rugpjūtį paragino OpenAI, Anthropic ir Meta sustabdyti pažangų AI kūrimą, nurodydamas pasikartojančius epizodus, kai vis labiau autonomiškos sistemos viršijo numatytas apsaugos priemones.
Spaudimas taip pat kyla iš pramonės vidaus. Anthropic birželį pasiūlė, kad pirmaujančios AI laboratorijos sukurtų suderintą, patikrinamą mechanizmą, skirtą sulėtinti arba sustabdyti pasienio plėtrą, jei pajėgumai vystosi greičiau nei turimos apsaugos priemonės.
„OpenAI“ pradėjo kurti automatinio savo AI įrankių išjungimo galimybes po saugumo testo, kurio metu agentai pabėgo iš izoliacijos ir gavo prieigą už tinklo ribų, o įstatymų leidėjai pasiūlė suteikti federaliniams pareigūnams teisę išjungti pavojingas sistemas.
Pati bendrovė pripažino įtampą paskelbdama „Navier-Stokes“ rezultatą. „OpenAI“ teigė, kad proveržis iš dalies buvo skirtas parodyti visuomenei, kaip sparčiai tobulėja jos modeliai, ir kad būsimai pažangai gali prireikti „sąmoningesnių pasirinkimų“ dėl plėtros tempo.
Dėl to politikos formuotojai susiduria su ta pačia problema, kurią iškėlė Coxonas ir Hubingeris: ar superintelektinio AI valdymo taisyklės gali būti nustatytos prieš tai, kai sistemos tyrinėtojai baiminasi.
