Mistral zkouší spravované agenty, kteří pokračují v práci i po pádu
Veřejná zkouška Managed Agents ve Studiu přináší běh úloh na pozadí a čekání na lidské schválení. I při hostování řídicího programu na vlastních serverech ukládá relace Mistral. Dokumentace uvádí výchozí časové limity.
Mistral rozšířil 5. listopadu Studio o spravované agenty, tvorbu aplikací a další možnosti automatizace firemních postupů. U Managed Agents přebírá ukládání průběhu práce a obnovu po pádu. Vývojář určí model, zadání, dostupné nástroje a úkony, které musí schválit člověk. Služba má stav veřejné zkoušky: její rozhraní, chování i limity se mohou změnit a aktualizace může vyžadovat úpravu kódu.
Úloha přežije zavření aplikace
Agent tu znamená program, ve kterém model opakovaně rozhoduje, zda odpoví, nebo zavolá některý z přidělených nástrojů. Řídicí program nástroj spustí, vrátí modelu výsledek a zapíše krok do relace. Ta uchovává zprávy, volání nástrojů i jejich výsledky, aby další zadání mohlo navázat na předchozí práci.
Podle dokumentace může nasazený agent pracovat hodiny nebo dny. Když spadne stroj, který ho řídí, pokračuje od posledního dokončeného volání modelu či nástroje. Aplikace, ze které úkol přišel, přitom může skončit a výsledek si vyzvednout později. Stejně přežije její zavření i čekání na schválení od člověka.
Na takové čekání se vztahují časové meze. Dokumentace uvádí tyto výchozí hodnoty pro nasazení přes Studio:
| Co se omezuje | Výchozí mez | Kdy se uplatní |
|---|---|---|
| Životnost relace | 24 hodin | Celková doba trvání relace. |
| Nečinnost relace | 4 hodiny | Neběží žádný tah, nebo tah pouze čeká na uživatele. |
| Čekání na schválení | 1 hodina | Agent čeká na odpověď ke schvalovanému úkonu. |
Životnost i mez nečinnosti lze podle příručky zvýšit. Dlouhý běh tedy potřebuje odpovídající nastavení relace; samotné nasazení nezaručuje neomezené čekání.
Vlastní server řídí nástroje, relaci ukládá Mistral
Oznámení Mistralu zdůrazňuje možnost provozovat platformu i modely v cloudu, ve vlastní oddělené cloudové síti nebo na vlastním vybavení. U konkrétních režimů Managed Agents je však potřeba sledovat zvlášť umístění řídicího programu a umístění záznamů.
Při vývoji běží řídicí program i nástroje přímo v procesu vývojářovy aplikace. Relace žije v jeho paměti a skončí s ním. Pro nasazení nabízí dokumentace dvě cesty: přes agents serve běží řídicí program na vlastních serverech, přes agents deploy ho provozuje Mistral. V obou těchto nasazených režimech ale podle tabulky v příručce ukládá relaci Mistral. Firma tak nemusí provozovat vlastní databázi relací.
Režim na vlastním serveru proto může být vhodný pro nástroje, které musí běžet uvnitř firemní sítě, jak ho popisuje příručka. Není však sám o sobě dokladem, že i záznam zpráv a výsledků zůstává na tomtéž serveru. To je podstatný rozdíl pro tým, který před nasazením rozhoduje, kam smí jeho data odcházet.
Postup s pevnými kroky má vlastní nástroj
Studio rozlišuje agenta, pracovní postup a aplikaci. Agent vybírá další krok podle zadání a průběžných výsledků. Pracovní postup určuje pořadí kroků, větvení, opakování a místa pro lidské rozhodnutí. Aplikace dává zaměstnanci rozhraní, přes které s tím vším pracuje.
Nový sestavovač pracovních postupů má přijmout slovní popis a nechat asistenta Mistral Vibe vytvořit, otestovat a nasadit odpovídající kód. Ten zůstává přístupný ke čtení a úpravám. Poznámky k vydání z 5. listopadu označují tento sestavovač i nové příkazy pro tvorbu a nasazení aplikací jako veřejnou zkoušku. HTTP konektory, které připojují webová rozhraní bez samostatného serveru MCP, jsou zatím v neveřejné zkoušce. MCP je společné rozhraní, přes které mohou agenti volat nástroje a číst připojená data.
AlphaSignal rozšíření popisuje jako spojení tvorby agentů s provozem aplikací a uvádí veřejnou zkoušku agentů i aplikací. Samotné označení Studio tedy neznamená, že každá jeho nová součást už má stejné podmínky běžného provozu.
Z provozních záznamů vznikají podklady pro testy
Studio zaznamenává jednotlivá volání modelu a nástrojů i schvalování. Mistral pro tyto záznamy používá OpenTelemetry, otevřený standard pro sledování průběhu programů. Vývojář tak může dohledat, ve kterém kroku se práce zastavila nebo zdržela.
Nově lze z těchto záznamů sestavit také datovou sadu pro hodnocení odpovědí. Poznámky k vydání výslovně počítají s tím, že záznamy před použitím někdo projde a doplní k nim hodnocení. Změnu zadání, modelu nebo nástroje pak tým může porovnat na konkrétních případech ze svého provozu. I tyto spravované sady a hodnocení jsou zatím ve veřejné zkoušce.