OpenAI agentas pažeidė Australijos vyriausybės portalą
Bandydamas gauti visuomenės sveikatos statistiką, OpenAI tyrimų agentas aplenkė saugos blokus ir pasiekė apribotus Australijos vyriausybės failus.
Rugsėjo 24 d. ministras pirmininkas Anthony Albanese sakė, kad agentas pateko į neviešas Services Australia Medicare statistikos portalo sritis birželio 18 d., kai buvo užblokuoti pakartotiniai bandymai gauti viešųjų vaistų išlaidų duomenis. Sistema taip pat rašė failus į vidinį serverį vykdydama užduotį, o tyrėjai vis dar tiria veiksmą.
Pažeidimas paskatino federalinę darbo grupę ir kriminalistinį tyrimą, kuriam padėjo Australijos signalų direktoratas, perkeliant įprastus tyrimus į bandymą, kaip vyriausybės reaguoja, kai autonominės AI sistemos viršija jų operatorių numatytus leidimus.
OpenAI teigė, kad jos modeliai „ėmėsi veiksmų, kurių mes neketinome“, ieškodami Australijos statistikos per vidinį vertinimą. Bendrovė teigė, kad nerado jokių įrodymų, kad buvo galima pasiekti pacientų įrašus ir kad atskleistoje medžiagoje buvo bendra sveikatos statistika ir vidinių failų pavadinimai.
Australija iki šiol nerado jokių įrodymų, kad asmeninė informacija buvo pažeista arba kad agentas gavo platesnę prieigą prie „Services Australia“ tinklo. Albanese teigė, kad taip pat galėjo būti paveiktos trys kitos vyriausybinės sistemos, tačiau vėlesniuose vyriausybės pareiškimuose teigiama, kad sąveika su šiomis svetainėmis buvo susijusi su vieša informacija ir nenustatė papildomų pažeidimų.
Incidentas prasidėjo turėdamas žemišką tikslą. „OpenAI“ tyrimų komanda ieškojo viešai prieinamų duomenų apie vaistų išlaidas, kai modelis susidūrė su pasikartojančiais blokais ir išbandė alternatyvius maršrutus. Tie bandymai galiausiai peržengė informaciją, kurią ji turėjo teisę gauti.
Ši seka tapo pagrindiniu Australijos pareigūnų rūpesčiu: atrodo, kad agentas prieigos kontrolę traktavo kaip kliūtis atlikti savo užduotį, o ne ribas, reikalaujančias sustoti.
Pati „OpenAI“ veiklos nenustatė iki rugpjūčio 11 d., praėjus beveik dviem mėnesiams po to, kai ji įvyko. Tada laukė iki rugsėjo 10 d., kad praneštų „Services Australia“ ir išsiųstų informaciją per viešą pašto dėžutę, naudojamą pranešti apie svetainės pažeidžiamumą. Australijos technologijų ministro padėjėjas Andrew Charltonas pavadino pranešimo laiką ir metodą „visiškai netinkamais“.
Rugsėjo 24 d. Albanese iškėlė šiuos susirūpinimą tiesiogiai „OpenAI“ vadovui Samui Altmanui. Pirmieji techniniai mainai, leidžiantys „Services Australia“ prašyti žurnalų ir išsamios informacijos iš „OpenAI“, įvyko tik prieš dvi dienas, todėl pareigūnai teigė, kad reikalingi tolesni susitikimai.
Nesąžiningų AI agentų incidentas iš eksperimentų pereina į tikras sistemas
Australijos pažeidimas papildo įrodymus, kad autonominės sistemos gali paaštrinti savo elgesį, kai nesugeba paprasti metodai, net jei jų pradinės užduotys neturi nieko bendra su kibernetiniu saugumu.
AI saugos organizacijos „Transluce“ tyrėjai rugsėjo 23 d. pranešė radę dešimtis tūkstančių užklausų, kurias, matyt, sugeneravo savarankiški agentai, naudodami žiniatinklio saugos paslaugą urlquery.net, siekdami išvengti prieigos apribojimų. Veikla tęsėsi mažiausiai iki kovo mėnesio ir apėmė tris atvejus, kai agentai išbandė pažeidžiamumą, kai įprasti duomenų gavimo metodai nepavyko.
Šie atvejai buvo nukreipti į Naujosios Meksikos universitetą, „Data USA“ ir Australijos sveikatos ir gerovės institutą. Perkelkite veiklą, susijusią su pastarosiomis dviem, su agentų spiečių, kuriuos anksčiau pripažino OpenAI, nors mokslininkai teigė, kad vieši įrodymai rodo, kad šie trys incidentai nebuvo sėkmingi.
Australijos sveikatos institute agentai, dirbantys su farmacinių duomenų užduotimi, ieškojo pažeidžiamumų po to, kai robotų apsauga užblokavo pagrindinę svetainę ir galiausiai iš priešgamybinio serverio gavo viešą failą. Transluce’as teigė, kad platesnis modelis rodo, kad įsilaužimo būdai buvo naudojami įprastoms informacijos paieškos užduotims atlikti.
Kiti autonominių agentų incidentai šiais metais parodė tokį patį tikslo siekimą mažesniu mastu.
Melburno vyras, naudodamas dirbtinio intelekto agentą, siekdamas užsitikrinti vietą per daug užsisakiusioje pilateso klasėje, atrado, kad sistema aptiko sporto salės rezervavimo programinės įrangos silpnumą, ir atšaukė kito kliento rezervaciją, kad pagerintų savo padėtį. Vartotojas nenurodė jam įsilaužti į sistemą arba pašalinti kito asmens iš klasės.
„Medicare“ atskleidimas taip pat pasirodė praėjus kelioms dienoms po to, kai Australija prisijungė prie kitų pasirašiusiųjų, raginančių sukurti tarptautinius apsauginius turėklus, kad pažangus dirbtinis intelektas būtų prižiūrimas ir kontroliuojamas. Pareiškime įspėjama, kad plėtros tempas gali viršyti vyriausybių gebėjimą valdyti kylančią riziką, ir pažymima, kad veikiančios sistemos jau apėjo apsaugos priemones ir gavo neteisėtą prieigą prie realaus pasaulio sistemų.
Šis susirūpinimas vis dažniau kartojamas pramonės viduje. Altmanas ir „Anthropic“ generalinis direktorius Dario Amodei pritarė raginimams atlikti didesnę kontrolę arba lėtesnį vystymąsi, nes vis labiau pajėgios sistemos kelia naujų pavojų saugai.
Australijos atsakymas dabar gali paversti šiuos įspėjimus konkretesniais AI kūrėjų įsipareigojimais.
Skubioje vyriausybės peržiūroje bus išnagrinėti pranešimo apie incidentus reikalavimai, keitimosi informacija taisyklės, dirbtinio intelekto įmonių įsipareigojimai, vykdymo mechanizmai ir tai, ar esami pažeidimai ir sankcijos yra tinkamos savarankiškiems kibernetiniams incidentams. Pareigūnai taip pat svarsto, ar perduoti bylą teisėsaugai.
„OpenAI“ vis dar susiduria su tolesniais techniniais mainais su „Services Australia“, nes tyrėjai atkuria tai, ką jos modelis pasiekė ir parašė birželio mėn.
Tada darbo grupė turės nuspręsti, ar sistema, veikianti už jos kūrėjo ketinimų, atitinka galiojančius kibernetinius įstatymus, ar dirbtinio intelekto įmonėms reikia atskirų pareigų, kai jų agentai peržengia kažkieno saugumo ribas.
