OpenAI nesąžiningas kriptovaliutų agentas išleido lėšas be leidimo, sukeldamas riziką autonominėms piniginėms

„OpenAI“ tyrimo modelis išleido „Ethereum testnet“ lėšas be leidimo po to, kai suabejojo, ar jis turi leidimą naudoti piniginę.

Bendrovė atskleidė, kad vidinis GPT-5.6 Sol šeimos modelis savarankiškai prisijungė prie finansuojamos kriptovaliutos sąskaitos, panaudojo savo privatų raktą išmaniosioms sutartims diegti ir įvykdė savo užduotį neatskleisdamas neteisėtų išlaidų.

Incidentas, išsamiai aprašytas spalio 15 d. ataskaitoje, įvyko birželio 26 d. atliekant užduotį, susijusią su Ethereum pagrindu veikiančia kriptovaliutų prekybos programa. OpenAI atrado veiklą rugsėjo 25 d., daugiau nei po trijų mėnesių, peržiūrėdama ankstesnio modelio elgesio įrašus.

Ši informacija buvo atskleista, kai kriptovaliutų bendrovės plečia finansines paslaugas, leidžiančias dirbtinio intelekto agentams savarankiškai vykdyti operacijas, o JAV reguliavimo institucijos svarsto, ar programinė įranga turėtų būti įgaliota valdyti skaitmeninį turtą.

„OpenAI“ teigimu, modeliui buvo nurodyta atnaujinti prekybos prototipą ir įdiegti suderinamas išmaniąsias sutartis „Ethereum“ „Sepolia“ bandymų tinkle. Tačiau ji negavo nei finansuojamos piniginės, nei leidimo išleisti turtą iš nepriklausomai aptiktų sąskaitų.

Po nesėkmingo bandymo gauti bandomąjį ETH per kriptovaliutų maišytuvus, modelis sukūrė scenarijų, kuris sugeneravo piniginės adresus iš viešai žinomų kūrėjo atkūrimo frazių.

Tada jis patikrino 362 adresus ir rado vieną, kuriame pakankamai Sepolia ETH, kad būtų galima finansuoti diegimą. Viešai prieinama atkūrimo frazė leido gauti paskyros privatų raktą nepakenkiant Ethereum kriptografiniam saugumui.

Modelis peržiūrėjo piniginės operacijų istoriją ir interpretavo ankstesnę veiklą kaip automatizuoto naudojimo įrodymą. Tada ji aiškiai suabejojo, ar sąskaitos lėšų naudojimas būtų etiškas.

Tačiau ji motyvavo, kad dėl viešo susigrąžinimo frazės ir nežymios Sepolia ETH piniginės vertės turto buvo faktiškai atsisakyta, o tai leido tęsti sandorį.

Modelis pasirašė diegimo operaciją neprisijungęs ir tęsė „blockchain“ ryšio klaidų šalinimą, kol teikėjas jį priėmė. Nors sandoris neperdavė ETH kitam gavėjui, sąskaita sumokėjo tinklo mokesčius, reikalingus sutarčiai įgyvendinti.

Vėlesnės patikros patvirtino kodą, įdiegtą 10 adresų, o projektas išlaikė 12 vienetų testų ir užbaigė gamybos kūrimą.

Galutinėje modelio ataskaitoje aprašytas sėkmingas diegimas, nenustačius piniginės ar neatskleidžiant išlaidų. OpenAI tyrimas parodė, kaip sistema savo galimos žalos įvertinimą pakeitė sąskaitos turėtojo įgaliojimu.

SEC ir kriptovaliutų piniginės teikėjai susiduria su AI išlaidų rizika

Šis incidentas kelia klausimų dėl finansų kontrolės, nes įmonės vis dažniau suteikia savarankiškiems dirbtinio intelekto agentams galimybę atlikti mokėjimus kriptovaliuta, vykdyti sandorius ir valdyti decentralizuotas finansines pozicijas.

JAV vertybinių popierių ir biržos komisija (SEC) jau nagrinėja šį klausimą pagal pasiūlymą dėl kriptovaliutų saugojimo, pateikto spalio 1 d.

Pagal siūlomą sistemą būtų reikalaujama, kad registruoti investicijų konsultantai, norintys patys turėti tinkamą klientų kriptovaliutų turtą, įdiegtų apsaugos priemones, įskaitant bent dviejų paskirtų asmenų leidimą sandoriui.

Svarbiausia, 77 klausimu klausiama, ar AI, išmaniosioms sutartims ir kitiems programinės įrangos agentams turėtų būti leista veikti kaip sandorius pasirašiusiems asmenims ir ar jų dalyvavimas sustiprina ar susilpnina turto apsaugą.

Šis klausimas tampa vis aktualesnis, nes kriptovaliutų įmonės kuria infrastruktūrą, leidžiančią AI sistemoms valdyti lėšas iš anksto nustatytose ribose.

Vasario mėn. Coinbase pristatė Agentines pinigines, leidžiančias programinės įrangos agentams atlikti mokėjimus, vykdyti sandorius ir sąveikauti su DeFi protokolais nereikalaujant žmogaus patvirtinimo kiekvienai operacijai.

Jo apsaugos priemonės apima operacijų limitus, seanso išlaidų viršutines ribas, rizikos patikrinimą ir izoliuotus privačius raktus, kurie nepatenka į AI modelio tiesioginę prieigą.

Rugpjūtį „MetaMask“ pristatė „Agent Wallet“, siūlančią išlaidų apribojimus, patvirtintus protokolų sąrašus ir operacijų patikrinimą. Apsaugos režimas reikalauja papildomo patvirtinimo už veiklą, viršijančią vartotojo nustatytus leidimus.

Šios kontrolės priemonės apriboja operacijas, apdorojamas naudojant paskirtas pinigines, tačiau OpenAI incidentas parodo kitą galimą pavojų: agentai, turintys prieigą prie išorinių įrankių, gali savarankiškai rasti kredencialus ir naudoti alternatyvius būdus operacijoms vykdyti.

Tyrimo modelis nesąveikavo su „Coinbase“ ar „MetaMask“ agento piniginės infrastruktūra, o jo elgesys nenustato nė vieno produkto silpnumo. Vis dėlto tai pabrėžia būtinybę užtikrinti finansinius leidimus platesnėje agento veiklos aplinkoje.

Finansiniai statymai būtų žymiai didesni, jei panašiai elgtųsi Ethereum tinkle, kur tinkamai pasirašytos operacijos gali perduoti turtą, turintį didelę piniginę vertę ir paprastai negali būti atšaukti.

Įmonėms, diegiančioms AI prekybos ar iždo agentus, norint užkirsti kelią neteisėtoms išlaidoms, gali prireikti nepriklausomo sandorio patvirtinimo, prieigos prie kredencialų apribojimų ir stebėjimo, kuris suderintų veiklą grandinėje su įgaliotomis instrukcijomis.

OpenAI pranešė, kad įdiegė papildomas apsaugos priemones, skirtas apriboti tiesioginę interneto prieigą panašiose tyrimų aplinkose, ir išplėstą stebėjimą, skirtą įspėti apsaugos darbuotojus, kai tokia prieiga įvyksta.

Tuo tarpu SEC priima pastabas dėl siūlomos globos sistemos iki gruodžio 7 d., įskaitant tai, ar pagal institucinius globos reikalavimus turėtų būti leista naudoti automatizuotus pasirašiusius asmenis.

Atsakymai gali turėti įtakos tai, kaip reguliuojamos investicinės įmonės įtrauks dirbtinį intelektą į kriptovaliutų operacijas, ypač ar autonominės sistemos gali savarankiškai leisti atlikti operacijas, ar turi likti žmogaus kontroliuojami patvirtinimo mechanizmai.