Agenti Googlu ověřili vybrané bezpečnostní vlastnosti šifrovacího kódu Signalu
AlphaProof Code vytvořil matematické důkazy pro knihovnu libsignal přeloženou pro procesory Arm. Lidé schvalovali zadání a důkazy kontroloval Lean. Výsledek se nevztahuje na celou aplikaci Signal.
Google DeepMind 10. listopadu představil AlphaProof Code, systém agentů pro matematické ověřování programů. Na knihovně libsignal ukázal, že takto lze propojit vybrané záruky šifrovacího protokolu se skutečnými instrukcemi programu. Pět lidí na důkazech pracovalo čtyři týdny. Jejich největší práce podle technické zprávy spočívala v určení toho, co přesně má být dokázáno.

Důkaz míří až na přeložený program
Běžný test spustí program s vybranými vstupy a sleduje výsledek. Formální ověřování místo toho stanoví matematické tvrzení a hledá důkaz, že platí za všech vymezených podmínek. Rozhoduje ovšem právě jejich vymezení: slabě položená otázka může mít správný důkaz, který o bezpečnosti mnoho neřekne.
Podle technické zprávy AlphaProof Code tým připojil libsignal k malému programu ovládanému z příkazového řádku a běžným překladačem Rustu jej přeložil pro Linux a AArch64, tedy 64bitové procesory Arm. Důkazy se vztahují k tomuto sestavení. Výzkumníci kvůli snadnějšímu dokazování neupravovali vlastní kód knihovny.
To zachycuje i rozdíl mezi zamýšleným návrhem a tím, co vykonává procesor. Chyba překladače, která by porušila dokazovanou vlastnost, by podle autorů znemožnila dokončit platný důkaz. Překladač proto nemusí být mezi součástmi, jejichž správnosti tým předem důvěřuje.
Agenti píší důkazy, lidé schvalují požadavky
Nejdřív lidé s pomocí modelů převedli bezpečnostní požadavky do jazyka Lean. Ten umožňuje zapisovat matematická tvrzení i kontrolovat jejich důkazy. Na formulování zadání se podílely Gemini 4 Carbon a Claude Opus 5.5; vlastní dokazování pak podle oznámení zajišťovali agenti s Gemini Carbon. Dokončené důkazy přijímá až kontrolní jádro Leanu, nikoli další slovní souhlas modelu.
Agenti vytvořili přibližně 6,5 milionu řádků důkazů. Mimo ně zůstává základ, který musí člověk posoudit: asi 18 tisíc řádků definic a tvrzení v repozitáři a dalších osm tisíc řádků popisu instrukcí AArch64. Velikost důkazu tedy neříká, že lidé četli miliony řádků, ani že jejich kontrola odpadla.
Výzkumník Swarat Chaudhuri v rozhovoru pro The Register popsal posun od obtížného dokazování k otázce, co vlastně ověřovat. Ani technická zpráva nepovažuje návrhy agentů za hotové zadání. Tým je opakovaně upravoval a někdy nechal přepsat kvůli čitelnosti pro další kontrolory.
Ověřený protokol není celá aplikace
Práce zahrnuje úvodní dohodu klíčů PQXDH a mechanismus Triple Ratchet, který během konverzace obnovuje klíče. Zabývá se například utajením starších zpráv po pozdějším úniku klíčů, ověřením původu zprávy a obnovením ochrany po kompromitaci za popsaných podmínek. Každá z těchto záruk má v práci vlastní předpoklady.
Autoři použili dva druhy rozboru. Symbolický zachází se základními šifrovacími operacemi jako s idealizovanými součástkami. Výpočetní rozbor váže úspěšnost útočníka na obtížnost podkladových kryptografických úloh. The Register shrnuje výsledek jako teoretický bez záruky výpočetního utajení bajtů. Technická zpráva však vedle symbolického důkazu předkládá i výpočetní rozbor a vymezuje jeho platnost. Výpočetní rozbor podle zprávy neposkytuje záruku proti kvantovému útočníkovi; symbolický důkaz pokrývá část této otázky u úvodní dohody klíčů.
Výsledek není prověrkou celého Signalu v telefonu. Výpočetní rozbor například neobsahuje stav více zařízení a zprávy v něm mají pevnou délku. Symbolický rozbor nechává stranou postranní kanály, tedy úniky informací jinudy než samotnými zprávami, například časováním. Oba spoléhají na správný popis prostředí a na předpokládané vlastnosti základních šifrovacích operací.
Dvě staré chyby posloužily jako zkouška
Aby tým ověřil sílu zadání, vrátil do oddělených sestavení dvě skutečné chyby, které už správci libsignal opravili. Pro obě pak získal Leanem zkontrolovaný důkaz, že porušují symbolické bezpečnostní tvrzení. Nejde tedy o oznámení dvou nových děr v aktuální aplikaci.
Na AI světem jsme už popsali ověřování vybraných testů knihoven pomocí Clauda. Tam šlo o to, aby stanovené vstupy nevedly k pádu programu; AlphaProof Code řeší vztah mezi bezpečnostními zárukami protokolu a jeho implementací. Podklady nyní Google zpřístupňuje v repozitáři code-verification. Samotné důkazy jsme znovu nespouštěli.