OpenAI a Anthropic v Paříži slíbily bezpečné vypínání modelů pod svou kontrolou
OpenAI, Anthropic a další firmy podpořily pařížskou výzvu k bezpečnosti AI. Slíbily možnost zastavit modely pod svou kontrolou i při trénování, deklarace ale nestanoví termíny ani sankce.

Vývojáři nejschopnějších modelů mají zavést pojistky, kterými dokážou omezit, pozastavit nebo ukončit jejich provoz. Takový závazek obsahuje Pařížská výzva k bezpečnosti AI zveřejněná 9. listopadu 2026. Mezi podepsanými firmami jsou OpenAI, Anthropic, Microsoft a Mistral AI. Dokument se vztahuje i na trénování a vnitřní použití modelů.
Jde o politický příslib spolupráce. Jak upozorňuje The Decoder, společné postupy se teprve mají vytvořit a výzva neurčuje termíny ani sankce za nesplnění. Z podpisu tedy nelze vyvozovat, že už vznikl mezinárodní úřad schopný nebezpečný model zastavit.
Vypnutí má dosah jen tam, kde firma model ovládá
Formulace závazku je užší než obecný slib vypnout AI. Vývojáři mají zavést bezpečné zastavení provozu modelů, které mají pod kontrolou. Text jako možné zásahy uvádí omezení, přerušení a vypnutí. Nestanoví konkrétní technické řešení ani zkoušku, kterou by každá firma musela prokázat jeho účinnost.
Výzva vedle toho uznává riziko odstraňování nebo obcházení ochranných opatření. Současně chce zachovat přínosy modelů s veřejně dostupnými vahami pro výzkum, inovace a bezpečnost. Tyto dva body stojí v deklaraci vedle sebe: slib zastavení provozu pod vlastní kontrolou se nerozšiřuje na každou cizí kopii modelu.
Výsledky bezpečnostních zkoušek se mají dát porovnávat
Podpisy se týkají širšího plánu než samotného vypínání. Státy, výzkumníci a firmy chtějí sjednotit způsob, jak se hodnotí rizika nejpokročilejších modelů. Zaměřit se mají například na zneužití při kyberútocích, pomoc s vývojem nebezpečných zbraní a ztrátu lidské kontroly nad samostatně jednajícími systémy.
| Oblast výzvy | Co mají účastníci zavést |
|---|---|
| Hodnocení rizik | Společné metody zkoušek a veřejné úložiště výsledků, které nejsou citlivé. |
| Odpovědnost vývojářů | Zveřejňování schopností, omezení a známých rizik modelů, nezávislé hodnocení podle míry rizika a pojistky pro zastavení provozu. |
| Včasné varování | Sdílení informací o závažných incidentech a důvěrné cesty pro oznamovatele. |
Veřejně dostupná část má mít jednotný formát. Deklarace jako možný obsah jmenuje postupy zkoušek, při nichž se výzkumníci pokoušejí obejít ochrany modelu, nástroje pro měření schopností a výsledky zátěžových testů. Citlivá zjištění se zveřejňovat nemají. Vlády se také hlásí k ochraně lidí, kteří upozorní na systémová rizika, před právními či pracovními postihy.
Podporovatelé žádají i pravomoc model pozastavit
Francouzská organizace CeSIA výzvu podepsala, přesto podle zprávy The Next Web žádá přesnější pravidla. Chybějí jí společné hranice přijatelného rizika pro vývoj a vydání modelu i zaručený přístup nezávislých hodnotitelů a vlád k posuzovaným systémům. Chce také, aby veřejné orgány mohly provoz modelu pozastavit, pokud bude riziko příliš vysoké.
V samotné deklaraci je podpora nezávislého hodnocení podmíněna vhodností a přiměřeností riziku a má odpovídat dosavadním postupům a dohodám. Nezakládá tak automatický přístup každého výzkumníka ke každému modelu. Státy uznávají potřebu vyjasnit právní odpovědnost za rozsáhlé škody včetně těch přeshraničních; hotový společný režim náhrad dokument nepřináší.
Také seznam podporovatelů se průběžně mění. Při ověření 10. listopadu uváděl Élysée 12 zemí, zatímco kanadské zveřejnění téže výzvy jmenovalo šest a The Decoder psal o osmi. Oba vládní weby výslovně uvádějí, že se mohou připojovat další účastníci. Samotný počet podpisů proto neříká, zda už funguje slíbené veřejné úložiště testů nebo postup pro zastavení rizikového provozu.