Přeskočit na obsah
0 komentářů Nástroje 3 min čtení

OpenAI po změně historie zahazuje část uvažování GPT-6.2

Když aplikace zkrátí starý výsledek nástroje nebo přepíše dřívější zprávu, API OpenAI může zahodit navazující uvažování GPT-6.2. Model pak musí část práce zopakovat, což může zvýšit cenu i dobu odpovědi. Vestavěné zkracování historie od OpenAI uvažování zachovává.

Ušetřit za dlouhou konverzaci tím, že aplikace zkrátí její starší části, může mít u GPT-6.2 další náklad. OpenAI v oznámení z 20. listopadu 2026 popsala ochranu, která váže skryté uvažování modelů GPT-6.2 Astra a GPT-6.2 Sol na historii, při níž vzniklo. Přepsání dřívější zprávy způsobí, že rozhraní zahodí uvažování, které po ní následovalo.

Visací zámek s číselným kotoučem položený na bílé klávesnici
Ochrana skrytého uvažování zasahuje i do správy historie rozhovoru. Ilustrační snímek. Foto: perspec_photo88, Flickr (CC BY-SA 2.0)

Model ztrácí mezikroky, které už jednou vytvořil

Uvažováním se zde rozumějí vnitřní mezikroky, které model vytváří při řešení úlohy. Nejsou totožné s odpovědí pro uživatele ani s jejím stručným vysvětlením. Aplikace je může předávat mezi požadavky jako položky historie, aby model navázal na předchozí práci.

Podle příručky OpenAI je rozhodující část historie před konkrétní položkou uvažování, označovaná jako prefix. Když se změní, navazující uvažování se odstraní. Přidávat nové zprávy na konec rozhovoru lze dál. Pojistka se týká přepisování toho, co model viděl dříve.

Model pak může znovu počítat nebo hledat souvislosti, které už měl zpracované. OpenAI výslovně upozorňuje na možný růst počtu tokenů, ceny a doby odpovědi. Token je jednotka, po které model zpracovává text a podle které se účtuje jeho použití. Pokud se ztracené uvažování nepodaří obnovit, může klesnout i kvalita výsledku.

Změnu může spustit běžná úprava aplikace

Nezávislý rozbor Eliase Hawthorna na OrcaRouteru z 20. listopadu upozorňuje právě na dopad při přechodu aplikací na GPT-6.2. Zkrácení starého výstupu nástroje nebo nahrazení několika výměn souhrnem bývá způsob, jak držet dlouhou úlohu v přiděleném prostoru. Nově tím aplikace může přijít o část dosavadního uvažování.

Příručka OpenAI jmenuje také změny nastavení v rozhraní Responses API, přes které aplikace posílají modelům požadavky. Nejde tedy pouze o ruční zásah do zpráv. Pro běžné změny uvádí tyto možnosti:

Co aplikace měníPostup podle dokumentace
Míru uvažováníPřipojit položku configuration_update s novým nastavením; původní parametr požadavku ponechat.
Požadovaný tvar odpovědiNové schéma předat další položkou configuration_update.
Nabídku nástrojůNové nástroje připojit přes additional_tools; pořadí dosavadních definic zachovat.
Pokyny vývojářePřipojit novou zprávu na konec místo přepsání původní.

Jde o doporučení výrobce, která jsme v API sami nezkoušeli. Příručka u GPT-6.2 zvlášť dovoluje zadat pokyny pro aktuální tah přes pole instructions. Rozhraní je připojí za vstupní historii a jejich tokeny účtuje běžnou vstupní sazbou bez slevy za mezipaměť.

Vestavěné zkracování má výjimku

Samotná délka rozhovoru má mez a ukládat navždy všechno do dalšího požadavku nelze. Dokumentace proto odlišuje vlastní zkracování od služby OpenAI. Při použití /responses/compact nebo nastavení context_management systémy OpenAI zachovávají navazující položky uvažování, přestože se prefix změní.

U vlastního souhrnu doporučuje firma vložit zkrácený obsah na konec kontextu místo před nedávné zprávy. Další možností je přijmout ztrátu navazujícího uvažování. Dlouhé výstupy nástrojů, obrázky a soubory doporučuje zmenšit před jejich prvním odesláním modelu, nikoli dodatečně přepisovat jejich starší podobu.

Zachování prefixu má vedle uvažování ještě jiný dopad: mezipaměť vstupů porovnává požadavky od začátku. Změna starší části může snížit její využití. Ztráta slevy za opakovaný vstup a nutnost znovu vytvářet vnitřní mezikroky jsou dva různé důvody, proč se účet může změnit. OpenAI ani rozbor OrcaRouteru neuvádějí univerzální částku, o kterou by jeden takový zásah účet zvýšil.

Co se zahodilo, ukáže odpověď API

OpenAI pojistku zdůvodňuje obranou proti získávání skrytého uvažování pro trénování dalších modelů. Navazuje na zářijové oznámení o kampani na získávání těchto záznamů. Součástí nové ochrany je i zákaz, aby uvažování GPT-6.2 Astra a Sol četly starší rodiny modelů se slabšími pojistkami.

Pro správce aplikace má příručka konkrétní vodítko: pole input_transformations v odpovědi Responses API uvádí odstraněné položky i důvod. Označení prefix_mismatch lze spojit s identifikátorem uvažování z dřívější odpovědi. Diagnostika mezipaměti oproti tomu hledá rozdíly ve vstupech a počítá uložené tokeny; sama nepotvrdí, zda model předchozí uvažování použil.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Nástroje

    Claude Code dostal strop čekání na obnovení limitu u sezení bez dohledu

    Claude Code v režimu pro sezení bez dohledu opakuje odmítnuté požadavky tak dlouho, dokud neprojdou – a u vyčerpaného limitu předplatného to znamená čekat až do jeho…

  2. Nástroje

    Nous oznámil Hermes pro Teams se sdílením naučených postupů

    Nous Research oznámil propojení agenta Hermes s Teams a sdílení pracovních postupů mezi kolegy. Microsoft potvrzuje jeho běh v oddělených prostředích Azure; firemní…

  3. Nástroje

    Mistral vydal Vibe Desktop pro práci na místních i cloudových projektech

    Aplikace pro macOS a Windows spojuje práci v repozitáři s cloudovými relacemi. Souběžné úpravy lze oddělit pomocí Git worktrees; samotný druhý rozhovor soubory neoddělí.

  4. Nástroje

    Google zpřístupňuje agenta Tasks zdarma v šesti zemích mimo Česko

    Google začal zpřístupňovat agenta Tasks v Gemini zdarma v USA, Kanadě, Austrálii, Indii, Japonsku a Jižní Koreji. Česko v seznamu není. Telefonování obchodům a placení…