Přeskočit na obsah
0 komentářů Regulace a právo 3 min čtení

OpenAI a Anthropic v Paříži slíbily bezpečné vypínání modelů pod svou kontrolou

OpenAI, Anthropic a další firmy podpořily pařížskou výzvu k bezpečnosti AI. Slíbily možnost zastavit modely pod svou kontrolou i při trénování, deklarace ale nestanoví termíny ani sankce.

Účastníci Pařížského mírového fóra v roce 2021
Pařížské mírové fórum v roce 2021. Archivní snímek, nikoli letošní jednání o AI. Foto: Press Information Department, Wikimedia Commons (Public domain)

Vývojáři nejschopnějších modelů mají zavést pojistky, kterými dokážou omezit, pozastavit nebo ukončit jejich provoz. Takový závazek obsahuje Pařížská výzva k bezpečnosti AI zveřejněná 9. listopadu 2026. Mezi podepsanými firmami jsou OpenAI, Anthropic, Microsoft a Mistral AI. Dokument se vztahuje i na trénování a vnitřní použití modelů.

Jde o politický příslib spolupráce. Jak upozorňuje The Decoder, společné postupy se teprve mají vytvořit a výzva neurčuje termíny ani sankce za nesplnění. Z podpisu tedy nelze vyvozovat, že už vznikl mezinárodní úřad schopný nebezpečný model zastavit.

Vypnutí má dosah jen tam, kde firma model ovládá

Formulace závazku je užší než obecný slib vypnout AI. Vývojáři mají zavést bezpečné zastavení provozu modelů, které mají pod kontrolou. Text jako možné zásahy uvádí omezení, přerušení a vypnutí. Nestanoví konkrétní technické řešení ani zkoušku, kterou by každá firma musela prokázat jeho účinnost.

Výzva vedle toho uznává riziko odstraňování nebo obcházení ochranných opatření. Současně chce zachovat přínosy modelů s veřejně dostupnými vahami pro výzkum, inovace a bezpečnost. Tyto dva body stojí v deklaraci vedle sebe: slib zastavení provozu pod vlastní kontrolou se nerozšiřuje na každou cizí kopii modelu.

Výsledky bezpečnostních zkoušek se mají dát porovnávat

Podpisy se týkají širšího plánu než samotného vypínání. Státy, výzkumníci a firmy chtějí sjednotit způsob, jak se hodnotí rizika nejpokročilejších modelů. Zaměřit se mají například na zneužití při kyberútocích, pomoc s vývojem nebezpečných zbraní a ztrátu lidské kontroly nad samostatně jednajícími systémy.

Oblast výzvyCo mají účastníci zavést
Hodnocení rizikSpolečné metody zkoušek a veřejné úložiště výsledků, které nejsou citlivé.
Odpovědnost vývojářůZveřejňování schopností, omezení a známých rizik modelů, nezávislé hodnocení podle míry rizika a pojistky pro zastavení provozu.
Včasné varováníSdílení informací o závažných incidentech a důvěrné cesty pro oznamovatele.

Veřejně dostupná část má mít jednotný formát. Deklarace jako možný obsah jmenuje postupy zkoušek, při nichž se výzkumníci pokoušejí obejít ochrany modelu, nástroje pro měření schopností a výsledky zátěžových testů. Citlivá zjištění se zveřejňovat nemají. Vlády se také hlásí k ochraně lidí, kteří upozorní na systémová rizika, před právními či pracovními postihy.

Podporovatelé žádají i pravomoc model pozastavit

Francouzská organizace CeSIA výzvu podepsala, přesto podle zprávy The Next Web žádá přesnější pravidla. Chybějí jí společné hranice přijatelného rizika pro vývoj a vydání modelu i zaručený přístup nezávislých hodnotitelů a vlád k posuzovaným systémům. Chce také, aby veřejné orgány mohly provoz modelu pozastavit, pokud bude riziko příliš vysoké.

V samotné deklaraci je podpora nezávislého hodnocení podmíněna vhodností a přiměřeností riziku a má odpovídat dosavadním postupům a dohodám. Nezakládá tak automatický přístup každého výzkumníka ke každému modelu. Státy uznávají potřebu vyjasnit právní odpovědnost za rozsáhlé škody včetně těch přeshraničních; hotový společný režim náhrad dokument nepřináší.

Také seznam podporovatelů se průběžně mění. Při ověření 10. listopadu uváděl Élysée 12 zemí, zatímco kanadské zveřejnění téže výzvy jmenovalo šest a The Decoder psal o osmi. Oba vládní weby výslovně uvádějí, že se mohou připojovat další účastníci. Samotný počet podpisů proto neříká, zda už funguje slíbené veřejné úložiště testů nebo postup pro zastavení rizikového provozu.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Infrastruktura

    USA rozšířily kontroly AI čipů na vzdálený přístup čínských firem

    Americký úřad BIS od 19. listopadu omezuje vzdálený přístup čínských firem k významnému výkonu AI čipů v zahraničních datových centrech. Pravidla zasahují i již běžící…

  2. Regulace a právo

    Komise sjednotila pravidla pro testování AI pod dohledem úřadů

    Regulační sandbox má firmám pomoci vyjasnit právní požadavky před uvedením systému na trh. Výstupní zprávu uznají úřady v celé EU, sama však nenahrazuje prohlášení o…

  3. Regulace a právo

    Texas chce soudně zakázat OpenAI nabízet ChatGPT nezletilým Texasanům

    Texaský prokurátor Ken Paxton zažaloval 23. října OpenAI i osobně Sama Altmana. Mezi čtrnácti body, které má soud firmě zakázat, je nabízet ChatGPT nezletilým v Texasu a…

  4. Regulace a právo

    Zákaz DeepSeeku na amerických federálních úřadech platí už od července

    Příkaz ministerstva vnitřní bezpečnosti USA č. 2026-01 vyřazuje produkty DeepSeeku z nákupů i počítačových systémů civilních federálních úřadů a nese datum 24. července.…