Anthropic vypíná biologické ochrany Claudu jen u prověřených projektů

Anthropic 17. září otevřel přihlášky do beta programu Life Sciences Verification Program. Ověřeným biologickým týmům dovolí pracovat i na úlohách, které běžně dostupné modely odmítají. Firma tvrdí, že v předběžném přístupu už přijala desítky organizací a během prvního týdne čeká stovky dalších.

Nejde o přepínač dostupný každému platícímu uživateli. Anthropic kontroluje výzkumnou kvalifikaci žadatele, jeho bezpečnostní standardy i etický dohled. Teprve potom může správce organizace požádat o jeden ze dvou druhů povolení.

Celý tým dostane rok, rizikový projekt půl roku

Povolení Standard Use platí pro celý tým a obnovuje se jednou ročně. Zahrnuje většinu výzkumu a vývoje v biologii, klinický vývoj, výrobu, kontrolu kvality i regulační práci. Týmy dostanou modely Mythos 5.1, Opus 5 a Sonnet 5 s mírnějšími filtry pro vědecké dotazy. Běžně dostupný Claude Fable 5.1 má proti Mythosu přísnější ochrannou vrstvu; program z tohoto rozdělení dělá konkrétní přístupový režim.

High-risk Use je užší výjimka. Váže se na jediný projekt, nikoli na celý tým, a musí se obnovovat po šesti měsících. Podle oznámení odstraní všechny ochrany, které blokují požadavky z věd o živé přírodě. Neodstraňuje však ostatní filtry, například ochrany proti kybernetickému zneužití.

Vysoce rizikové povolení je od spuštění dostupné pro Opus 5 a Sonnet 5. U Mythosu ho Anthropic zatím omezuje na malou skupinu organizací s dalším prověřením a tvrdí, že širší zpřístupnění řeší s vládou USA. Jako příklad dvojího užití uvádí výzkum, jak lidská imunita rozpoznává konkrétní rodinu virových vektorů.

Dotaz projde hned, kontrola přijde zpětně

Program přesouvá část dohledu z okamžitého filtru do zpětné kontroly. Běžný filtr rozhoduje při každém požadavku a podezřelý dotaz rovnou odmítne. V novém režimu se provoz vyhodnocuje také napříč více požadavky a relacemi. Anthropic tím chce najít vzorce, které po jednotlivých dotazech vypadají neškodně.

Každá organizace v žádosti popíše povolené použití jen na úrovni pracovního inzerátu, bez obchodního tajemství a citlivých údajů. Firma pak sleduje, zda se provoz od tohoto rámce neodchyluje. Případ označí správci organizace, který ho má prověřit a napravit v předem sjednané lhůtě.

Za méně okamžitých blokací se platí uchováváním dat. Provozní data LSVP musí zůstat k dispozici 30 dní, aby šlo chování vyhodnotit v souvislostech. Anthropic slibuje jejich oddělení od ostatních dat, zákaz použití k trénování a zákaz přístupu pro vlastní biologické výzkumníky. Oznámení ale neuvádí přesnost tohoto dohledu ani počet případů, ve kterých by zpětná kontrola zachytila něco, co okamžitý filtr minul.

Beta není určená pro chráněné zdravotní údaje

Program je nyní ve vlastní konzoli pro rozhraní API a v tarifech Team a Enterprise. Chybí v osobních tarifech i na platformách třetích stran. Beta není dostupná organizacím, které mají s Anthropicem uzavřenou smlouvu BAA pro práci s chráněnými zdravotními údaji PHI.

Americké ministerstvo zdravotnictví vysvětluje smysl BAA tak, že poskytovatel, který pro zdravotnickou organizaci vytváří, přijímá, udržuje nebo přenáší PHI, musí ve smlouvě převzít povinnost tyto údaje chránit. Mezi příklady výslovně řadí cloudové služby i chatbot s umělou inteligencí na pacientském portálu.

Anthropic zákazníkům s PHI doporučuje pro LSVP samostatnou organizaci mimo režim BAA a HIPAA. Pravidla HHS však nedovolují organizaci spadající pod HIPAA poslat PHI poskytovateli bez odpovídající BAA. Oddělené prostředí proto může sloužit k výzkumu léčiv a biologie bez pacientských dat, nikoli v současné betě ke zpracování PHI.

Povolení nahrazuje část filtru odpovědností organizace

Přihlašovací stránka říká, že formulář musí vyplnit správce organizace a jeho odeslání přístup nezaručuje. V Claude.ai a Claude Code se navíc zpočátku použije jediné předem zvolené povolení; mezi více povoleními lze přepínat v API a Claude Science.

Biologické riziko tu Anthropic převádí z jediného filtru do kombinace ověření žadatele, vymezeného projektu, správce odpovědného za nápravu a měsíčního okna pro kontrolu. Výzkumník dostane méně odmítnutých dotazů, ale zároveň odevzdá poskytovateli širší obraz své práce. Zda tento obchod sníží počet planých blokací bez přehlédnutého zneužití, zatím firma žádným měřením nedoložila.

Zdroje

• Anthropic, oznámení Life Sciences Verification Program – datum, druhy povolení, rozsah vypnutých ochran, dohled, uchování dat a dostupnost
• Přihlašovací stránka programu – modely v jednotlivých režimech a podmínka schválení organizace
• Ministerstvo zdravotnictví USA, Business Associates – definice PHI, BAA a příklady cloudové služby a chatbotu s AI