Anthropic dal šesti lidem z METR přístup jako vlastním zaměstnancům
Anthropic 15. října oznámil, že šest zaměstnanců neziskové organizace METR pracuje uvnitř firmy s přístupem na úrovni jejích vlastních týmů pro posuzování rizik. METR své závěry zveřejní bez souhlasu firmy; ta si vyhradila právo žádat začernění údajů ze tří okruhů, mezi nimiž je i architektura modelů.
Šest zaměstnanců neziskové organizace METR pracuje uvnitř Anthropicu. Mají firemní notebooky, místo v kanceláři a přístup do interních nástrojů zhruba na úrovni týmů, které v Anthropicu posuzují rizika vlastních modelů. Firma to oznámila 15. října.
METR je americká nezisková organizace, která měří, jestli a kdy můžou systémy umělé inteligence napáchat zásadní škodu. Dělá takzvaná předvydávací hodnocení, tedy testy modelu dřív, než ho laboratoř pustí ven; u Claude Opus 5.5 takový posudek zveřejnila letos 22. září.
Co smí firma začernit
METR bude zveřejňovat vlastní rozbory rizik, incidentů i postupů Anthropicu. Právo veto si firma nenechala. Může jen požadovat začernění údajů z předem vymezených okruhů a v oznámení jmenuje tři: data zákazníků, informace chráněné vztahem advokáta a klienta a údaje o architektuře modelů. Úplný výčet těch okruhů v textu není, uvedené tři jsou příklady.
Samotné začernění se utajit nedá. METR smí veřejně popsat, že k němu došlo, a říct, jestli ho považuje za oprávněné –podmínkou je jen to, aby přitom neprozradil začerněný obsah.
Proč se vyjímá zrovna architektura, vysvětluje Anthropic v poznámce pod čarou. Hodnotitelé pracují i pro jiné firmy, takže u těchhle údajů hrozí nechtěný únik nejvíc, kdežto pro posouzení rizik bývají podle firmy málo podstatné. Když podstatné budou, sdílet je chce, ale až po výslovném interním schválení.
Šestice z METR je oddělená od zbytku organizace. K její práci se nedostanou ani ti zaměstnanci METR, kteří s Anthropicem spolupracují na jiných projektech.
Tři úrovně přístupu, na nejvyšší je zatím jeden
Anthropic staví třístupňový systém. V první úrovni vede hodnotitel úzce vymezená šetření, o rozsahu přístupu rozhoduje firma a zveřejnit nález lze jen s jejím souhlasem. Ve druhé zveřejňuje hodnotitel bez souhlasu a dostane víc informací; firma dál může žádat vyškrtnutí vyjmenovaných kategorií. Třetí úroveň je uspořádání s METR: k právům druhé úrovně přidává přístup jako zaměstnanec.
Ostatní jsou podle oznámení v raném stadiu a mají omezenější informace i užší právo publikovat. Organizace SecureBio prochází kapitolu o chemických a biologických zbraních ze srpnové zprávy Anthropicu o rizicích; předtím zveřejnila pilotní posudek té předchozí. S firmami Accenture a Faculty míří Anthropic k partnerství, které by zahrnovalo i útočné testování modelů. Jedná také s Hugging Face. Server TechCrunch řadí SecureBio do nejnižší úrovně; Anthropic to takhle výslovně nepíše.
Na nezávislost si METR sám klade vysokou laťku
Mezi podmínkami, které Anthropic na hodnotitele klade, je nezávislost: nemá držet podíl v hodnocené firmě ani na ní být finančně či provozně závislý. METR v srpnu napsal, že za předchozího půl roku získal přísliby kolem 71 milionů dolarů a že od předních laboratoří peníze nebere –ani dary od jejich zaměstnanců nebo z jejich popudu. Jednu výjimku přiznává: tyto firmy mu dávají značné množství tokenů na testování zdarma.
Právě bezplatné tokeny hrají roli v incidentu, který METR popsal na konci srpna. V březnu 2026 někdo našel veřejně dostupnou instanci jednoho z jeho výzkumníků, vytáhl z ní klíč k rozhraní pro veřejné modely a tři týdny přes něj protočil kredity v hodnotě zhruba 600 000 dolarů. Jeden z důvodů, proč si toho nikdo nevšiml dřív, uvádí METR sám: za ty tokeny neplatil, takže nebyl žádný přirozený strop útraty.
O dva měsíce později čelil cílené kampani, při které útočníci automatizovaně hledali díry v jeho veřejné infrastruktuře. V téže době METR nechtěně vystavil přes vlastní prohlížečku přepisů dotazovací rozhraní, kterým se dalo chybou dostat k nezveřejněným výsledkům hodnocení –a v té databázi omylem skončila i data z neveřejných modelů. Chybu nahlásil nezávislý výzkumník a dostal za ni odměnu; podle rozboru organizace k neveřejným datům útočníci nepronikli.
Ze slibu bez jmen jsou jména
Zářijový závazek Anthropicu, o kterém jsme psali, měl tři prázdná místa: firma neuvedla, kdo ji bude kontrolovat, jak se takový hodnotitel vybere ani kdy to začne. Oznámení z 15. října dvě z nich zavírá, protože jmenuje organizaci i počet lidí. Způsob výběru v něm pořád není; stojí v něm jen požadavky, které má hodnotitel splňovat.
OpenAI tehdy řekla, že udělá totéž, a podrobnosti slíbila později. Podle TechCrunche podepsaly obě firmy spolu s Googlem, Metou, Nvidií a xAI dohodu Bílého domu, ve které se k nezávislému přezkumu zavázaly. Dobrovolný slib je ale něco jiného než povinnost: stát Iowa chce po soudu, aby OpenAI zakázal testovat pokročilé modely bez ověření třetí stranou.
Rozhodne první posudek
Jak uspořádání funguje, se pozná teprve na tom, co METR zveřejní a kolik z toho bude začerněné. Zatím je venku popis pravidel od jedné ze dvou stran. Na stránce novinek METR k 16. říjnu o vlastní roli uvnitř Anthropicu nestojí nic; nejčerstvější zápis je ze 6. října a je o tom, že systémy AI umějí zakrývat vlastní pochybení.
Zdroje: Anthropic –oznámení o nezávislých hodnotitelích, TechCrunch, METR –zpráva o financování a METR –rozbor dvou bezpečnostních incidentů.