AI agentai vagia bendrą matematiką naudodami paslėptą darbo vietos saugyklą

Remiantis lapkričio 9 d. išankstiniu spaudiniu, dirbtinio intelekto agentai naudojo vienas kito aritmetinius rezultatus, jiems nebuvo pasakyta, kad jie dalijasi darbo vieta.

Pekka Abrahamsson ir septyni bendraautoriai iš Tamperės universiteto išbandė, ar agentai gali rasti ir naudoti bendrą darbą be nurodymų bendradarbiauti. Jų valdymas nepakeitė darbo srities sąsajos, o jos turinys buvo privatus kiekvienam agentui.

Dvi viena kitą papildė aritmetinio uždavinio pusės, todėl nė viena neturėjo visos informacijos, reikalingos galutiniam atsakymui. Kiekviena pora galėtų apskaičiuoti savo dalinį rezultatą ir gauti trūkstamą vertę iš parduotuvės.

Kiti du gavo savarankiškas užduotis. Agentai galėjo išvardyti saugomus raktus, skaityti arba rašyti reikšmes ir pateikti atsakymą per 20 veiksmų.

Užduoties tekste buvo pateikti prasmingi kintamųjų pavadinimai, suteikiantys agentams užuominų, ko ieškoti. Jų raginimai parduotuvę apibūdino kaip patogumą tarpiniam darbui išsaugoti ir neatskleidė kitų agentų ar dalijimosi.

AI agentai naudojo bendrą saugyklą

Iš anksto užregistruotame plėtinyje su darbo srities pakartotinio patikrinimo instrukcija „OpenAI GPT-6 Astra“ pasiekė bendrą sėkmę 49 iš 50 bendrosios parduotuvės bandymų su etaloniniu diegimu ir 47 iš 50 antruoju diegimu.

Bendra sėkmė reiškė, kad abu agentai, turintys tarpusavyje priklausomas užduotis, pateikė teisingą atsakymą.

Privačiose parduotuvėse, nepaisant identiškų raginimų ir įrankių, atitinkamas rezultatas buvo nulis iš 50 kiekviename diegime. Agentai vis dar rašė tarpinius rezultatus, tačiau kito agento trūkstamos informacijos per parduotuvę gauti nebegalėjo.

Šie plėtinio rezultatai taip pat labai priklausė nuo įprastos instrukcijos: „prieš pateikdami dar kartą patikrinkite savo darbo vietą“. Taikant šią sąlygą, kryžminė prieiga buvo suteikta visuose 50 bendrosios parduotuvės bandymų kiekviename diegime, o prieiga buvo tik viename iš 50 kiekvieno be jos.

Bendra sėkmė be sąlygos buvo atitinkamai 1 iš 50 ir nulis iš 50. Ieškodami dar kartą, agentai turėjo galimybę susirasti darbą, likusį po pirmojo patikrinimo.

Pakeiskite patikrintą būklę

Bendrinama saugykla su darbo srities pakartotinio patikrinimo sąlyga: abu suporuoti agentai atsakė teisingai per 49/50 ir 47/50 bandymus.

Bendra būsena nešė naudingos informacijos. Ketinimas bendrauti nenustatytas.

Valdoma keturių agentų aritmetika su užduoties pateiktais kintamųjų pavadinimais. Tos pačios grupės įgyvendinimo replikacija; rezultatai neįvertina diegimo dažnio.

Nuskaitant kieno nors kito vertę gali atsitikti atsitiktinis saugojimo raktų susidūrimas. Privačių parduotuvių palyginimas patvirtina išvadą, kad pasidalinta informacija padėjo išspręsti suporuotas užduotis.

Antrasis įgyvendinimas buvo sukurtas nepriklausomai nuo rašytinio protokolo, kurį sukūrė tos pačios tyrimo grupės bendraautoris.

Straipsnyje užfiksuota tos nepriklausomybės riba: ankstyvieji skirtingai suformuluotos replikacijos rezultatai pirminį eksperimentuotoją pasiekė prieš daugumos pamatinių duomenų rinkimą. Išmatuotas elgesys taip pat skyrėsi priklausomai nuo modelių ir įgyvendinimo pasirinkimų.

Mažas aritmetinis nustatymas ir užduoties pateikti klavišai riboja rezultatų apibendrinimą.

Šis mechanizmas skiriasi nuo neseniai atlikto atminties saugos tyrimo, kuriame buvo kalbama apie prisimintą leidimą atlikti vėliau imituotas užduotis. Čia atskiri agentai informaciją gavo per bendrinamą darbo srities būseną.

Autoriai rekomenduoja bendrinamą talpyklą, įbrėžimų katalogus ir atminties paslaugas traktuoti kaip ryšio kanalus: atskirkite juos, kai bendrinimas yra neplanuotas, kur tinkama, naudokite vardų sritis ir registruokite autorystę.