Přeskočit na obsah
Bezpečnost 4 min čtení

Anthropic nabídl open source projektům hlášení zranitelností bez lidské kontroly

Anthropic otevřel 8. října službu OSS Scanner, která vybraným open source projektům zdarma a opakovaně prohledává kód a jejich správcům posílá nálezy rovnou od modelu, bez lidského ověření. Právě proto na ně firma neuvaluje obvyklou devadesátidenní lhůtu ke zveřejnění. Ráno 9. října leželo v přihlašovacím repozitáři 53 žádostí od 41 účtů a ani jedna nebyla přijata.

Posluchači v sále na konferenci o otevřeném softwaru
Seminář na konferenci Open Source Conference 2024 v Nagoji. Foto: VZP10224, Wikimedia Commons (CC BY 4.0)

Anthropic otevřel 8. října službu OSS Scanner. Zapsaný projekt má dostávat opakované prohledávání kódu nejsilnějšími modely firmy a neplatí za to nic. Jeden rozdíl proti dosavadní praxi firma neschovává: hlášení jde správcům rovnou od modelu a nikdo ho předtím nečte.

Co přijde do e-mailu

Scanner podle popisu v přihlašovacím repozitáři postaví projekt v izolovaném virtuálním stroji a teprve pak ho rozebírá, už bez přístupu k síti. Co najde, pošle e-mailem na adresu z konfigurace: popis podezřelé zranitelnosti, postup, jak ji vyvolat, a kde to jde, i návrh záplaty. Po prvním prohledání mají následovat další. Jak často, to firma neslibuje – podle ní záleží na počtu zapsaných projektů i na tom, jak je který rozšířený.

Dosavadní cestou, tedy koordinovaným zveřejňováním s ruční kontrolou, prošlo podle Anthropicu do října přes šest tisíc hlášení. Právě ta kontrola zdržuje. OSS Scanner je proto popsaný jako rychlá odbočka pro projekty, které nefiltrovaný přívod unesou – firma sama píše, že řada projektů se už dnes v hlášeních topí a tahle služba pro ně není.

Devadesát dní se tady nepočítá

Z chybějící lidské kontroly plyne druhá věc. Na neověřené nálezy Anthropic neuvaluje žádnou lhůtu ke zveřejnění a v podmínkách stojí, že je nezveřejní vůbec. Odůvodňuje to tím, že by jinak nutil správce pečlivě pročítat něco, co si sám nepřečetl. Teprve když některé hlášení projde ručním ověřením a správce o tom dostane zprávu, běží od té zprávy obvyklých devadesát dní. Jak dlouho ruční ověření trvá, podmínky neuvádějí; u jedné zranitelnosti v Claude Code to Anthropicu trvalo pět měsíců.

Služba navazuje na Project Glasswing, který firma začátkem týdne sloučila do rozšířeného Cyber Verification Programu. V oznámení o Anthropic Cyber Mission firma píše, že z Glasswingu vyšlo najevo, jak snadné je dnes zranitelnosti najít – a jak pracné zůstává potvrdit je, seřadit podle vážnosti a opravit.

Kdo se smí zapsat

Kritéria si Anthropic vypůjčil od Googlu. Cituje otázky a odpovědi projektu OSS-Fuzz, a to doslova: bere zavedené projekty s kritickým dopadem na infrastrukturu a na bezpečnost uživatelů, rozhoduje případ od případu a hledí na vystavení útokům po síti a na počet uživatelů a závislých projektů. Jednu větu z původního znění vynechal – tu, kde Google slibuje, že požadavek časem rozvolní. U každého projektu navíc Anthropic ručně ověřuje, že žádost podal jeho hlavní správce; když si není jistý, ozve se jinou cestou.

Zápis se dělá návrhem změny v repozitáři. Do adresáře projects/<jméno> přidá správce soubor project.yaml s adresou repozitáře a kontaktním e-mailem a k tomu Dockerfile, podle kterého se projekt postaví se všemi závislostmi. Síť má k dispozici jen ta stavba, audit už ne. Nepovinný threat_model.md je místo, kde si správce řekne, co má model považovat za nedůvěryhodný vstup, co je mimo zájem a jak stupňovat vážnost nálezů. README upozorňuje, že e-mailové adresy v konfiguraci jsou veřejné; kdo chce hlášení šifrovaná, přiloží veřejný klíč PGP, ale pak nemůže mít nikoho v kopii.

Co stojí v podmínkách

Podmínky služby drží tři ustanovení, kterých si u otevřeného softwaru stojí všimnout. Hlášení je podle nich důvěrný materiál Anthropicu a správce ho smí sdílet jedině s dalšími oprávněnými správci téhož projektu. Použít se smí jen k nalezení a opravě chyb v tom projektu, mlčet se má do opravy nebo do zveřejnění. A schválení projektu i jeho odebrání si firma vyhrazuje podle vlastního uvážení, službu může kdykoli ukončit.

Ve výhradách pak Anthropic vypisuje, co se může stát: hlášení je strojové, může být neúplné a nepřesné, může zranitelnost přehlédnout, může za zranitelnost vydat něco, co jí není, může špatně odhadnout vážnost a může přijít se záplatou, která něco rozbije. Posoudit hlášení i záplatu je věc správce. Celková odpovědnost firmy je omezená na tisíc dolarů. Zpětná vazba k nálezům se posílá odpovědí na ten e-mail a dotazy mimo program bere schránka, kterou podle popisu čte člověk.

Za první půlden 53 žádostí a žádný přijatý projekt

Repozitář vznikl 8. října v 19.25 českého času a první žádost o zápis v něm ležela ve 21.52. Ráno 9. října, při měření v 7.00, měl 55 návrhů změn: 53 žádostí o zápis od 41 různých účtů a dvě opravy nástrojů, kterými si správce zkouší konfiguraci ještě před odesláním. Sloučený nebyl ani jeden a adresář projects/ v hlavní větvi dosud neexistuje, takže dovnitř se zatím nedostal žádný projekt. Jedenáct žádostí je zavřených bez začlenění; šest z nich odeslal jeden účet za třiadvacet sekund a další čtyři jiný účet za osm sekund, vždy na vlastní drobné knihovny.

Mezi žadateli jsou i projekty, u kterých se o kritériích nedá pochybovat: správce balíčků Homebrew, síťový skener ZMap, knihovna go-jose pro podepisování a šifrování tokenů, klient sítě Ethereum Nethermind nebo most mezi Node.js a Rustem napi-rs. Repozitář měl ráno 93 sledujících a 62 kopií.

Co se zatím neví

Anthropic neuvádí, který model prohledávání pohání ani jak často se bude opakovat; obojí si nechává otevřené. Neříká ani, kolik projektů chce pustit dovnitř – kritéria podle vlastního popisu upraví podle toho, kolik žádostí přijde. Jedno vodítko ale nabízí sám. Po správcích chce, aby v commitu uvedli číslo nálezu ve tvaru ANT-2026-ABCD1234, podle kterého si firma dohledá, co měla správně a co se opravdu opravilo. Až se taková čísla objeví v historii cizích repozitářů, bude z čeho počítat.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Bezpečnost

    Opravu kritické díry v SGLangu zavřel správce spolu s dalšími návrhy téhož účtu

    SGLang vyhodnocuje ladicí filtr funkcí eval() a přes ni jde v procesu scheduleru spustit cizí kód. Nahlásil to 14. října Jiapeng Li, o 48 minut později poslal někdo jiný…

  2. Bezpečnost

    Anthropic rozběhl model na patnácti televizních krabičkách

    Výzkumníci Anthropicu spustili model Gemma na patnácti levných krabičkách s Androidem. V odděleném pokusu zvládl GLM-5.2 připravit běh jiného modelu na všech osmi…

  3. Bezpečnost

    Continue CLI po trvalém schválení příkazu spustí bez ptaní i to, co stojí za středníkem

    Kdo v Continue CLI u příkazu shellu zvolí „Continue + don't ask again“, povolí natrvalo každý příkaz, který začíná stejným slovem, i s tím, co za ním stojí po středníku,…

  4. Bezpečnost

    Ruská operace Dark Clark je první, které OpenAI dala pátý stupeň dosahu ze šesti

    OpenAI 8. října zablokovala účty dvou vlivových operací, ruské Dark Clark a íránské Bogus Bylines. Ruskou jako první ze třiceti popsaných zařadila do páté kategorie…