„Ethereum“ įkūrėjas Vitalikas Buterinas teigia, kad vietinis AI gali apsaugoti jūsų privatumą neprarandant greičio

ByAdministratorius

„Ethereum“ įkūrėjas Vitalikas Buterinas teigia, kad nešiojamojo kompiuterio AI artėja prie praktinio lūžio. Piniginės programinei įrangai vis dar reikia daug aukštesnės juostos, kad ji galėtų valdyti kriptovaliutų išteklius AI.

Jis sakė rugsėjo 17 d., kad Qwen 3.8 Flash ir naujausi llama.cpp patobulinimai privertė vietinius modelius atlikti „didelę“ užduočių dalį jo „Strix Halo“ nešiojamajame kompiuteryje.

Siekdamas sudėtingesnio darbo, jis apibūdino vietinį modelį, koordinuojantį užklausas į stipresnes nuotolines sistemas, o ne visą asmeninį vartotojo kontekstą.

Prie įrašo pridėtame etaloniniame paveikslėlyje buvo matyti 10 darbo krūvių. Jo pranešta įvesties apdorojimo sparta svyravo nuo 109,82 iki 373,22 žetonų per sekundę, o išvesties generavimas svyravo nuo 18,42 iki 33,37 žetonų per sekundę.

Šie skaičiai patvirtina praktinį teiginį apie vieno aukščiausios klasės nešiojamojo kompiuterio reagavimą. Jie palieka neatsakytą modelio sprendimą, atsparumą kenkėjiškoms instrukcijoms ir sandorio leidimą.

Vietos išvados gali pagerinti privatumą, o galimybė perkelti lėšas lieka už atskirų, vykdomų kontrolės priemonių.

„Ethereum“ įkūrėjas parodo, kas pasikeitė nuo balandžio iki rugsėjo

Balandžio mėnesio paskyroje apie savo vietinę AI sąranką Vitalikas aprašė siauresnį nešiojamųjų kompiuterių modelių vaidmenį.

Jis rašė, kad Qwen3.5:35B gali atlikti ribotas užduotis ir įprastą programavimo darbą, o pažangūs nepriklausomi agentai, galintys dirbti kodų bazėje, praktiškai nepasiekiami nešiojamiesiems kompiuteriams. Sunkesnis kodavimas ir intelektualinis darbas vis dar reikalavo stipresnių nuotolinių modelių.

Rugsėjo mėnesio įrašas keičia jo vertinimą, kur yra praktinė riba. Vietinis modelis nebeapsiriboja tik transkripcija, apibendrinimu ar kitu griežtai apribotu darbu. Naujesniame aprašyme jis gali tapti pagrindine sąsaja didesnei veiklos daliai ir nuspręsti, kada reikalingas nuotolinis modelis.

Nuotolinė paslauga gauna tik vietinio modelio pasirinktą klausimą arba kontekstą, o ne kiekvieną failą, pranešimą ir piniginės informaciją, reikalingą norint suprasti platesnę vartotojo situaciją. Vietinė sistema tampa ir informacijos vartais, ir asistentu.

Balandis ir rugsėjis apėmė skirtingas modelių kartas ir skirtingas užduotis. Rugsėjo mėn. įraše pateikiami prieigos raktų skaičiavimai ir pralaidumas, tačiau jame nenurodytas greitas turinys, kvantavimo pasirinkimai ir visa vykdymo laiko konfigūracija.

Qwen3.8-Flash-Next, kurį išleido Alibaba Qwen komanda, yra atviro svorio multimodalinis ekspertų derinys. Pagrindinis jo modelis turi 125 milijardus parametrų ir dar 51 milijardą n-gramų įterpimo lentelėse, o 6 milijardai parametrų aktyvuojami kiekviename prieigos rakte.

Oficiali saugykla dokumentuoja vietinio teksto ir vizijos išvadas per llama.cpp, naudodama kvantuotas GGUF versijas.

Suaktyvinus modelio dalį kiekvienam prieigos raktui, sumažėja skaičiavimo našta. Naudotojui vis tiek reikia pakankamai atminties pasirinktam kūrimui ir kontekstui, o oficialioje medžiagoje nėra vieno aparatinės įrangos minimumo, kuris būtų taikomas kvantavimo lygiams ir darbo krūviams.

Dėl galimybių etalonų piniginės valdžia lieka neišspręsta

Qwen techninėje ataskaitoje bazinis modelis vertinamas pagal 14 etalonų, apimančių bendrąsias žinias, matematiką, mokslą, samprotavimus, kodavimą ir daugiakalbį supratimą.

„Qwen“ komanda pranešė, kad „Flash-Next“ aštuoniuose iš šių testų įveikė didesnį „Qwen3.7-Plus“ bazinį modelį, naudodama mažiau aktyvuotų parametrų ir mažiau treniruočių.

Ataskaita apima modelio galimybes, efektyvumą ir mokymo stabilumą. Atsparumas greitam injekcijoms, politikos vykdymas, piniginės leidimas ir savarankiškų finansinių veiksmų teisingumas nepatenka į tą etaloną.

Asistentas gali privačiai paaiškinti operaciją, paruošti skambučių duomenis arba pasiūlyti maršrutą. Pasirašęs asmuo gali pateikti negrįžtamą prašymą perduoti turtą arba suteikti kitai sutartimi leidimą jį perkelti.

Geresnis argumentavimas sumažina kai kurių klaidų skaičių, tačiau svetainėje, pranešime ar operacijos aprašyme paslėpta kenkėjiška instrukcija vis tiek gali nukreipti modelio planą.