Přeskočit na obsah
0 komentářů Nástroje 3 min čtení

Claude si při hraní Pokémonů pletl cestu kvůli vlastní chybné poznámce

Claude si uložil špatnou polohu orientačního bodu a při hraní Pokémon Red se opakovaně vracel na už prošlou trasu. Anthropic popsal, jak kontrola poznámky podle přepisu hry změnila další postup. Jeho srovnání úsporné a podrobné paměti ale zahrnuje po jednom průchodu každého modelu.

Stěna zásuvek lístkového katalogu knihovny
Lístkový katalog knihovny University of British Columbia jako ilustrace ukládání poznámek. Snímek je zmenšený. Foto: Paul Joseph, Wikimedia Commons (CC BY 2.0)

Vchod do jeskyně Mt. Moon je na západě, východ vede dál k dalšímu městu. Claude si však do poznámek zapsal, že budova PokéCenter u vchodu stojí na východní straně. Od té chvíle při plánování cesty vycházel z chybného údaje. Případ popsali výzkumníci Anthropicu v rozboru paměti agentů zveřejněném 6. listopadu.

Pamětí tu firma myslí poznámky, které si agent uchová mezi pracovními sezeními a může si je později přečíst. Nejde o změnu parametrů samotného modelu ani o shrnutí starší části právě probíhajícího rozhovoru. Agent, tedy program využívající model k plnění úkolu pomocí nástrojů, dostane složku se soubory. Co si do ní uloží, ovlivní jeho další rozhodování.

Chybná poloha ho třikrát poslala zpět

U vchodu do Mt. Moon leží jednosměrný sráz. Hráč po něm může seskočit na předchozí trasu, zpátky nahoru ale cesta nevede. Claude po odchodu z PokéCentra pokládal průchod horou za hotový. Seskočil dolů a jeho navigační nástroj mu výškový rozdíl neukázal. Model si návrat vysvětlil tak, že jen zašel příliš daleko na západ.

S neopravenou poznámkou se do stejné situace dostal třikrát. Nakonec zamířil zpět do dřívějšího města Pewter City a běh skončil, aniž dosáhl cílového Cerulean City. Anthropic pak nechal Claude porovnat uložené poznámky s původním přepisem sezení. Agent chybu našel a polohu opravil. V běhu s opraveným záznamem se vrátil do jeskyně a do Cerulean City dorazil.

Firma této dodatečné práci s pamětí říká dreaming. Model při ní prochází dřívější záznamy, opravuje omyly a přeuspořádává poznámky. Název odkazuje ke zpracování vzpomínek ve spánku; tady jde o další výpočty nad uloženým textem. Podobnou myšlenku přípravy kontextu ještě před příštím dotazem rozpracovala už práce Sleep-time Compute z dubna 2025, na kterou Anthropic odkazuje.

Sonnet spravoval poznámky místo hraní

Jiná část listopadového rozboru porovnává soubory modelů Claude Sonnet 3.7 a Claude Fable 5 při hraní Pokémon Red. Každý mohl svou složku číst i měnit. Zhruba po 10 000 krocích vypadal jejich postup výrazně odlišně:

ModelUložené poznámkyZískané odznaky
Claude Sonnet 3.7413 souborů ve 225 složkách1
Claude Fable 59 souborů ve dvou složkách a soubor global.md4

Odznaky ve hře označují postup hráče. Údaje pocházejí z měření Anthropicu, který srovnal jeden průchod každého modelu. The Decoder na tento malý vzorek výslovně upozorňuje. Liší se i samotné modely, takže z tabulky nelze oddělit vliv způsobu zapisování od jejich ostatních schopností.

Sonnet si vedl podrobný archiv soubojů, nalezených předmětů a setkání s postavami. Zapisoval i údaje, které mohl znovu vyčíst z obrazovky, například aktuální peníze nebo polohu. Stav hry se ovšem měnil a poznámky zastarávaly. V jednom úseku vytvořil během 17 kroků šest souborů a devět jiných smazal, aniž ve hře provedl jedinou akci.

Fable ukládal především plány cest, strategie a pravidla odvozená z předchozího hraní. Soubor global.md mu držel aktuální cíl i plán dalšího postupu. Menší složka tak obsahovala hlavně informace, které by při novém sezení z pouhého pohledu na hru nezískal.

Opravená paměť vzniká vedle původní

Dreaming je podle dokumentace Claude Managed Agents stále výzkumná zkouška s přístupem na žádost. Úloha dostane existující paměť a přepisy jednoho až sta sezení. Vytvoří nové úložiště, do kterého sloučí duplicity a promítne opravy. Původní úložiště nemění, takže výsledek lze před použitím zkontrolovat.

Dodatečná kontrola má náklady: účtuje se podle běžných sazeb za tokeny zvoleného modelu. Anthropic také připouští, že průběžné zapisování odvádí agenta od úkolu a pozdější zpracování dodá opravy se zpožděním. Ani poznámka, kterou si model jednou ověřil, nemusí zůstat platná, když se změní prostředí.

U Mt. Moon měl agent k dispozici přepis, podle kterého mohl polohu znovu ověřit. Právě ten umožnil odhalit rozdíl mezi tím, co se ve hře stalo, a tím, co si o události uložil. Samotné další čtení chybné poznámky ho z opakovaného návratu nevysvobodilo.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Nástroje

    Claude Code dostal strop čekání na obnovení limitu u sezení bez dohledu

    Claude Code v režimu pro sezení bez dohledu opakuje odmítnuté požadavky tak dlouho, dokud neprojdou – a u vyčerpaného limitu předplatného to znamená čekat až do jeho…

  2. Nástroje

    OpenAI po změně historie zahazuje část uvažování GPT-6.2

    Když aplikace zkrátí starý výsledek nástroje nebo přepíše dřívější zprávu, API OpenAI může zahodit navazující uvažování GPT-6.2. Model pak musí část práce zopakovat, což…

  3. Nástroje

    Nous oznámil Hermes pro Teams se sdílením naučených postupů

    Nous Research oznámil propojení agenta Hermes s Teams a sdílení pracovních postupů mezi kolegy. Microsoft potvrzuje jeho běh v oddělených prostředích Azure; firemní…

  4. Nástroje

    Mistral vydal Vibe Desktop pro práci na místních i cloudových projektech

    Aplikace pro macOS a Windows spojuje práci v repozitáři s cloudovými relacemi. Souběžné úpravy lze oddělit pomocí Git worktrees; samotný druhý rozhovor soubory neoddělí.