Dvynių sprendimai: „Google AI“ atlieka 100 skambučių greičiau nei per sekundę
„Google“ pristatė savo „Gemini Decisions“ API 2026 m. lapkričio 11 d., leisdama programinei įrangai paprašyti AI modelio priimti ribotą sprendimą, nesukuriant raštiško atsakymo. Galutinis taškas pateikia tikimybes ir fiksuotus pasirinkimus, kuriuos kodas gali naudoti tiesiogiai nukreipdamas užklausas, tikrindamas politiką arba įvertindamas turinį pagal rubriką.
Naudojama Gemini Decision 1, paslauga palaiko taip/ne klausimus, pasirinkimus iš pateikto sąrašo ir balus pagal iš anksto nustatytas vertinimo skales. Remiantis „Google“ pristatymo pranešimu, jis pasiekiamas per „Gemini“ API „Google AI Studio“.
Praktinis pokytis susijęs su atsakymu, kurį gauna programinė įranga: vertė, kurią ji gali įgyti kartu su pasitikėjimu, nenagrinėjant pokalbių roboto prozos. Sugeneruoti paaiškinimai, įrankių iškvietimai su argumentais ir kelių žingsnių samprotavimai išlieka „Google Interactions“ API naudojimo tikslais, teigiama jos dokumentuose.
„Google“ nurodo 0,10 USD kainą už milijoną įvesties žetonų ir be išvesties žetonų mokesčio. Už bendrinamą įvestį atsiskaitoma vieną kartą kiekvienoje užklausoje, kiekvienam klausimui pridedant savo nurodymus ir kriterijų prieigos raktus. OpenRouter sąraše rodoma ta pati įvesties ir išvesties kaina.
Užklausoje tekstas, vaizdai, garsas, vaizdo įrašai ir PDF failai gali būti sujungti su iki 1 000 nepriklausomų klausimų. Bendras konteksto limitas yra 262 144 prieigos raktai, naudojami bendrinamame įvestyje ir visiems klausimams. Klausimai negali matyti vienas kito atsakymų, todėl kodas turi sujungti jų rezultatus.
Kaip kodas gali panaudoti pasitikėjimą?
Iliustracinis kodo kelias po atitinkamų pavyzdžių patvirtinimo. Peržengtas pasitikėjimo slenkstis nėra saugumo garantija.
Iliustratyvus kodo kelias dviprasmiškam rezultatui: naudokite atsarginį variantą arba žmogaus peržiūrą. Aiškiai tvarkykite netinkamą įvestį.
Modelis pateikia sprendimus; programinei įrangai priklauso veiksmų ir eskalavimo taisyklės.
Pasitikėjimas turi būti patvirtintas atitinkamais paženklintais duomenimis. Pasirinkimas gali pasirinkti parinktį, net jei nė viena netinka; aprėpties patikrinimai ar kita galimybė išlieka būtini. Slenksčio peržengimas negarantuoja saugumo; „Google“ rekomenduoja atlikti žmogaus ar antrojo patikrinimą, kai atliekami dideli veiksmai. Eilutės neužkoduoja delsos ar garsumo.
„Google“ praneša apie 150–250 milisekundžių vėlavimą kontekste iki 16 000 atpažinimo ženklų, o delsa yra beveik vienoda 1–100 klausimų vienoje užklausoje. Tie, apie kuriuos pranešta, apima mažesnį darbo krūvį nei didžiausias kontekstas ir klausimų ribos.
„Google“ teigia, kad „Gemini Notebook“ jau naudoja šią paslaugą, kad pasirinktų modelių pakopas ir mąstymo lygius, su iki 40 % mažesne kasdienių užklausų delsa, o sudėtingoms užklausoms pasilieka gilesnius argumentus. Taip pat sakoma, kad paieška naudoja API, kad aptiktų priešišką elgesį ir turinį kaip savo įrankių saugos sluoksnį.
Dvynių sprendimų pasitikėjimą vis dar reikia išbandyti
Kiekvienas pasirinkimas ar įvertinimas pateikiamas su atskiru patikimumo įvertinimu, ar geriausias atsakymas yra teisingas. „Google“ dokumentacijoje rekomenduojama nustatyti slenksčius su pažymėtais pavyzdžiais iš paties kūrėjo srauto, pasveriant klaidingų teigiamų ir klaidingų neigiamų verčių išlaidas.
Fiksuotas sąrašas taip pat sukuria konkretų gedimo atvejį: modelis paskirsto tikimybę tarp pateiktų parinkčių, net jei nė viena netinka. „Google“ rekomenduoja nustatyti patikimumo slenkstį, atskirai patikrinti, ar įvestis priklauso klausimo sričiai, arba aiškiai aprašytą „viską“ parinktį.
Vartotojo pateiktas tekstas gali ginčytis dėl savo klasifikacijos, įspėja dokumentai. „Google“ rekomenduoja aiškius kriterijus, priešpriešinius testus ir žmogaus ar antrąjį patikrinimą, ar atliekami dideli veiksmai, pvz., išmokėjimai.
