Přeskočit na obsah
0 komentářů Laboratoře 3 min čtení

Agenti Googlu ověřili vybrané bezpečnostní vlastnosti šifrovacího kódu Signalu

AlphaProof Code vytvořil matematické důkazy pro knihovnu libsignal přeloženou pro procesory Arm. Lidé schvalovali zadání a důkazy kontroloval Lean. Výsledek se nevztahuje na celou aplikaci Signal.

Google DeepMind 10. listopadu představil AlphaProof Code, systém agentů pro matematické ověřování programů. Na knihovně libsignal ukázal, že takto lze propojit vybrané záruky šifrovacího protokolu se skutečnými instrukcemi programu. Pět lidí na důkazech pracovalo čtyři týdny. Jejich největší práce podle technické zprávy spočívala v určení toho, co přesně má být dokázáno.

Vstup do kanceláří Google Docks v Dublinu s logem Googlu
Vstup do kanceláří Googlu v Dublinu. Ilustrační snímek. Foto: OutreachPete (www.outreachpete.com), Wikimedia Commons (CC BY 2.0)

Důkaz míří až na přeložený program

Běžný test spustí program s vybranými vstupy a sleduje výsledek. Formální ověřování místo toho stanoví matematické tvrzení a hledá důkaz, že platí za všech vymezených podmínek. Rozhoduje ovšem právě jejich vymezení: slabě položená otázka může mít správný důkaz, který o bezpečnosti mnoho neřekne.

Podle technické zprávy AlphaProof Code tým připojil libsignal k malému programu ovládanému z příkazového řádku a běžným překladačem Rustu jej přeložil pro Linux a AArch64, tedy 64bitové procesory Arm. Důkazy se vztahují k tomuto sestavení. Výzkumníci kvůli snadnějšímu dokazování neupravovali vlastní kód knihovny.

To zachycuje i rozdíl mezi zamýšleným návrhem a tím, co vykonává procesor. Chyba překladače, která by porušila dokazovanou vlastnost, by podle autorů znemožnila dokončit platný důkaz. Překladač proto nemusí být mezi součástmi, jejichž správnosti tým předem důvěřuje.

Agenti píší důkazy, lidé schvalují požadavky

Nejdřív lidé s pomocí modelů převedli bezpečnostní požadavky do jazyka Lean. Ten umožňuje zapisovat matematická tvrzení i kontrolovat jejich důkazy. Na formulování zadání se podílely Gemini 4 Carbon a Claude Opus 5.5; vlastní dokazování pak podle oznámení zajišťovali agenti s Gemini Carbon. Dokončené důkazy přijímá až kontrolní jádro Leanu, nikoli další slovní souhlas modelu.

Agenti vytvořili přibližně 6,5 milionu řádků důkazů. Mimo ně zůstává základ, který musí člověk posoudit: asi 18 tisíc řádků definic a tvrzení v repozitáři a dalších osm tisíc řádků popisu instrukcí AArch64. Velikost důkazu tedy neříká, že lidé četli miliony řádků, ani že jejich kontrola odpadla.

Výzkumník Swarat Chaudhuri v rozhovoru pro The Register popsal posun od obtížného dokazování k otázce, co vlastně ověřovat. Ani technická zpráva nepovažuje návrhy agentů za hotové zadání. Tým je opakovaně upravoval a někdy nechal přepsat kvůli čitelnosti pro další kontrolory.

Ověřený protokol není celá aplikace

Práce zahrnuje úvodní dohodu klíčů PQXDH a mechanismus Triple Ratchet, který během konverzace obnovuje klíče. Zabývá se například utajením starších zpráv po pozdějším úniku klíčů, ověřením původu zprávy a obnovením ochrany po kompromitaci za popsaných podmínek. Každá z těchto záruk má v práci vlastní předpoklady.

Autoři použili dva druhy rozboru. Symbolický zachází se základními šifrovacími operacemi jako s idealizovanými součástkami. Výpočetní rozbor váže úspěšnost útočníka na obtížnost podkladových kryptografických úloh. The Register shrnuje výsledek jako teoretický bez záruky výpočetního utajení bajtů. Technická zpráva však vedle symbolického důkazu předkládá i výpočetní rozbor a vymezuje jeho platnost. Výpočetní rozbor podle zprávy neposkytuje záruku proti kvantovému útočníkovi; symbolický důkaz pokrývá část této otázky u úvodní dohody klíčů.

Výsledek není prověrkou celého Signalu v telefonu. Výpočetní rozbor například neobsahuje stav více zařízení a zprávy v něm mají pevnou délku. Symbolický rozbor nechává stranou postranní kanály, tedy úniky informací jinudy než samotnými zprávami, například časováním. Oba spoléhají na správný popis prostředí a na předpokládané vlastnosti základních šifrovacích operací.

Dvě staré chyby posloužily jako zkouška

Aby tým ověřil sílu zadání, vrátil do oddělených sestavení dvě skutečné chyby, které už správci libsignal opravili. Pro obě pak získal Leanem zkontrolovaný důkaz, že porušují symbolické bezpečnostní tvrzení. Nejde tedy o oznámení dvou nových děr v aktuální aplikaci.

Na AI světem jsme už popsali ověřování vybraných testů knihoven pomocí Clauda. Tam šlo o to, aby stanovené vstupy nevedly k pádu programu; AlphaProof Code řeší vztah mezi bezpečnostními zárukami protokolu a jeho implementací. Podklady nyní Google zpřístupňuje v repozitáři code-verification. Samotné důkazy jsme znovu nespouštěli.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Bezpečnost

    OpenAI si dohodla interní prověrky se čtyřmi hodnotiteli

    OpenAI podepsala dohody s Apollo Research, METR, Transluce a Goodfire o prověrkách modelů a jejich ochrany. Šest lidí z Apolla má uvnitř firmy pracovat čtyři měsíce.…

  2. Laboratoře

    Meta pustila telefonování agenta Muse k americkým předplatitelům

    Asistent obvolá restaurace, kabelové operátory nebo úřady a vydrží čekat na lince. Nová funkce navazuje na zářijovou zkoušku s lidskou obsluhou. Část podniků automatické…

  3. Laboratoře

    OpenAI zkouší v ChatGPT firemní agenty pro americké e-shopy

    OpenAI spustila zkušební firemní agenty pro americké e-shopy a online služby. Zákazníkovi vysvětlí nabídku či vrácení zboží, ale objednávku ani rezervaci nevyřídí.…

  4. Laboratoře

    OpenAI chce koupit firmu Pierre, jejíž knihovny už používá v Codexu

    OpenAI oznámila, že převezme firmu Pierre, která vytváří nástroje pro práci s kódem a jeho historií. Slibuje zachovat její otevřené projekty i službu Code Storage;…