Přeskočit na obsah
0 komentářů Modely 3 min čtení

Google vydal Gemini Decision 1 pro otázky s předem danými odpověďmi

Gemini Decision 1 ohodnotí až tisíc otázek nad jedním podkladem, včetně zvuku a videa. Za sdílená data platí aplikace jednou v každém požadavku; výstupní tokeny jsou zdarma.

Optický třídicí stroj se šesti výstupními kanály
Optický třídicí stroj jako ilustrace rozdělování vstupů podle zadaných znaků; snímek nezobrazuje nasazení Gemini. Foto: RustyPhoton, Wikimedia Commons (CC BY-SA 4.0)

Google 11. listopadu představil Gemini Decision 1 a rozhraní Gemini Decisions API. Model dostane podklady a předem vymezené otázky. Vrátí pravděpodobnost, vybranou možnost nebo číselné hodnocení, se kterým může aplikace rovnou pracovat. Nevypisuje vysvětlení po jednotlivých slovech.

Podkladem může být text, obrázek, zvuk, video či dokument PDF, také společně v jednom požadavku. Aplikace tak může například posoudit fotografii poškozeného zboží spolu s popisem zákazníka. Až tisíc otázek smí sdílet tatáž data, každá však musí mít vlastní zadání. O vydání samostatně informovaly SiliconANGLE a VentureBeat.

Otázky se vyhodnocují odděleně

Podle dokumentace Googlu model žádnou z otázek neřeší na základě odpovědi na jinou. Všechny posuzuje proti společnému vstupu. Pokud další krok závisí na předchozím výsledku, musí tuto vazbu obstarat aplikace nebo další volání. Tisíc otázek v požadavku tedy neznamená tisíc navazujících kroků agenta.

Typ otázkyCo aplikace zadáCo dostane zpět
Ano, nebo ne (noul)Podmínku, kterou má model posouditPravděpodobnost kladné odpovědi a míru jistoty
Výběr (choice)Dvě až 255 možností s popisyVybranou možnost, pravděpodobnosti všech možností a míru jistoty
Hodnocení (score)Seřazené úrovně s kritériiVážené číselné skóre, pravděpodobnosti úrovní a míru jistoty

U výběru dokumentace upozorňuje na omezení: model rozdělí pravděpodobnost mezi dodané možnosti, i když žádná z nich neodpovídá vstupu. Google proto doporučuje přidat kategorii pro ostatní případy nebo zvlášť ověřovat, zda vstup do řešené oblasti vůbec patří. Vrácené číslo samo tuto chybu zadání neodstraní.

Společné podklady se platí jednou za požadavek

K 13. listopadu uvádí Google sazbu 0,10 amerického dolaru za milion vstupních tokenů, tedy jednotek, na které model převádí podklady. Výstupní tokeny neúčtuje. Do vstupu patří i instrukce a možnosti u jednotlivých otázek. Společný dokument nebo nahrávka se započítá jednou v daném požadavku, bez ohledu na počet otázek.

Rozdíl lze ukázat na zvoleném příkladu. Podklady mají 2 000 tokenů a deset otázek přidá každá dalších 20. Jeden požadavek pak obsahuje 2 000 + 10 × 20 = 2 200 vstupních tokenů. Při sazbě 0,10 dolaru za milion stojí 2 200 ÷ 1 000 000 × 0,10 = 0,00022 dolaru. Tisíc takových požadavků vyjde na 0,22 dolaru.

Kdyby aplikace poslala každou otázku zvlášť a pokaždé přiložila stejné podklady, účtovaný vstup by činil 10 × (2 000 + 20) = 20 200 tokenů. Pro tisíc zpracovaných dokumentů je to 20 200 × 1 000 ÷ 1 000 000 × 0,10 = 2,02 dolaru. Příklad počítá jen s uvedenými délkami; skutečná spotřeba závisí na podkladech a zadání otázek.

Dokumentace současně vylučuje ukládání kontextu do mezipaměti. Pokud aplikace tatáž data pošle v novém požadavku, zaplatí za celý vstup znovu. Služba nepodporuje ani dávkový režim Batch API. Seskupení otázek nad jedním dokumentem a levnější dávkové zpracování více požadavků jsou dvě odlišné věci.

Tisíc otázek se musí vejít do společného limitu

Celý požadavek má strop 262 144 tokenů. Počítají se do něj sdílené podklady i všechny otázky, takže rozsáhlé zadání může dostupný počet otázek omezit. Instrukce k otázkám smějí obsahovat jen text; obraz, zvuk a video patří do společného vstupu. Přímý odkaz na YouTube dokumentace nepodporuje.

Rozhraní je dostupné přes Gemini Developer API ve verzi v1beta, zatím jen s modelem Gemini Decision 1. Google nabízí také bezplatnou úroveň pro zkoušení v AI Studiu a podporu v Google Cloud teprve slibuje. Popsané chování a účtování vycházejí z dokumentace; vlastní provozní test jsme neprováděli.

Podobné druhy hodnocení už má Decisions API od OpenAI, o jehož betě jsme psali v říjnu. Pro úkol, kde má model vypsat číslo faktury nebo sepsat zdůvodnění, však Google dál odkazuje na generování textu či strukturovaných údajů přes Interactions API. Gemini Decision 1 má vybírat a hodnotit podle předem zadaných kritérií.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Modely

    Google účtuje za Gemini 4 Neon víc než za zlevněný Carbon

    Google vydal Gemini 4 Neon pro rozhraní API a placené služby Gemini. Za tokeny si účtuje o polovinu víc než u Carbonu se zaváděcí slevou. Poměr cen se má obrátit 1.…

  2. Modely

    Scribe v3 Live má poznat konec promluvy i podle významu rozhovoru

    ElevenLabs vydalo Scribe v3 a Scribe v3 Live pro přepis nahrávek a živé řeči. Živá verze má odlišit odmlku uprostřed diktovaného čísla od konce promluvy. Nezávislé…

  3. Modely

    DeepL nasadil Aure, který má při překladu zachovat i změny nálady

    DeepL nasadil hlasový model Aure, který má průběžně přenášet intonaci, důraz a tempo mluvčího do jiného jazyka. Zapíná se automaticky v DeepL Voice i v hlasovém API.…

  4. Modely

    Claude Fable 5.2 vyšel při testování na maximum v průměru na 26,54 dolaru za úlohu

    Anthropic vydal Fable 5.2 s tokeny o pětinu levnějšími než u verze 5.1. V měření Artificial Analysis však účet výrazně mění nastavení úsilí: High vychází na 9,08 dolaru…