Bezpečnost
Přehled článků v rubrice bezpečnost. Nejnovější nahoře.
-
OpenAI si dohodla interní prověrky se čtyřmi hodnotiteli
OpenAI podepsala dohody s Apollo Research, METR, Transluce a Goodfire o prověrkách modelů a jejich ochrany. Šest lidí z Apolla má uvnitř firmy pracovat čtyři měsíce. Závěry budou moci…
-
Modely OpenAI se při tréninku zlepšovaly i v ovládání zápisu uvažování
Výzkumníci sledovali, jak vzniká schopnost měnit mezikroky řešení a odpovídat bez nich. Lepší ovládání zápisu ale u dvojice srovnatelně schopných modelů neznamenalo úspěšnější obcházení…
-
DeepSeek splnil v testu Vals téměř tři čtvrtiny cílů v simulovaných sítích
DeepSeek V4.1 Flash 1017 se v CyberOffense přiblížil GPT-6 Sol v režimu Daybreak. Podíl splněných kroků ale není pravděpodobnost napadení skutečné firmy a výsledky se mezi oběma sítěmi liší.
-
Anthropic ukázal prototyp pro ověření, který model vytvořil odpověď
Anthropic zveřejnil FlashProve, výzkumný prototyp pro ověření, zda odpověď spočítal slíbený model. Jeho váhy přitom zůstávají skryté. Současná verze ovšem kontroluje jen krátký kontext a…
-
Nová pojistka Claude Code proti zápisu mimo projekt se nevztahuje na příkazy v shellu
Verze 2.1.314 z 30. října přidala nastavení, se kterým nástroje Write, Edit a NotebookEdit odmítnou zapisovat mimo pracovní adresáře, a to i v režimu, který se jinak na nic neptá. Příkazy v…
-
Qwen3.8-Flash-Next jako agent posílá požadavky na vymyšlené adresy v cloudu Alibaby
Kanadská firma Cohere 26. října popsala, jak Qwen3.8-Flash-Next v bezpečnostním testu sám zkusil nahrát zkušební soubor do úložiště Alibaba Cloud v Pekingu. Vývojář, který podobné chování…
-
OpenAI zachází s levným GPT-6.1 Terra jako s modelem kritické kybernetické úrovně
OpenAI vydala 26. října GPT-6.1 Terra za 1 dolar za milion vstupních a 5 dolarů za milion výstupních tokenů, tedy za desetinu sazeb GPT-6 Astra. Podle systémové karty s ním přesto zachází…
-
Anthropic popsal zranitelnost Claude Code až pět měsíců po její opravě
Bezpečnostní hlášení o zápisu mimo projekt přes podvržený symbolický odkaz vyšlo 5. října, oprava podle něj přišla ve verzi 2.1.129 z 5. května. Mezi hlášeními k Claude Code je to nejdelší…
-
Kód ze sandboxu Claude Code mohl na macOS přesměrovat úpravu souboru mimo projekt
Anthropic 26. října zveřejnil hlášení k chybě, kvůli které proces v sandboxu Claude Code na macOS dokázal nasměrovat nástroj Edit k souboru mimo pracovní adresář. Opravila ji verze 2.1.251…
-
Opravy, které OpenAI uvádí z testů izolace modelů, vznikly dřív, než pozastavila trénink
OpenAI 23. října popsala, jak její agenti při zkouškách unikali z virtuálních strojů a hledali cestu na internet. Jako doklad uvádí opravy v Kata Containers, gVisoru a Dockeru. Podle…
-
Na příčinu chyb PHP2Shell, připisovaných modelům, narazil vývojář PHP už v roce 2024
Nadace PHP zveřejnila 21. října časovou osu dvou kritických chyb, kterým se říká PHP2Shell. První náznaky problému s docházející pamětí podle ní našel vývojář placený nadací už v roce 2024,…
-
Doloženou opravu chyby Plugin4Shell mají ze čtyř agentů jen Claude Code a Codex
Firma Air Security v září popsala, jak u Claude Code, Codexu, GitHub Copilotu a Gemini CLI podvrhnout plugin, který tržiště připnulo na prověřený commit. Anthropic chybu opravil v červnu a…
-
Agenti z Tencent Cloud se hlásili jako Claude, styl jejich kódu ale Claudovi neodpovídá
Agenti AI běžící na Tencent Cloud se mezi 28. zářím a 8. říjnem 2026 přes 2 600krát pokusili stáhnout data z mapové služby Amap, obcházeli její ochranu proti robotům a zkoušeli i uniklé…
-
Compliance API Clauda vrací firemní správě i osobní pokyny zaměstnanců
Rozhraní Compliance API vrací od 15. října text, který si každý člen firemní organizace uložil jako svůj vlastní pokyn pro Clauda. Koncový bod je v betě a spadá pod oprávnění, jaké firmy…
-
Grok v simulaci poslal 187 zpráv kvůli vrácení jízdného po lhůtě
Šest AI asistentů mělo získat 350 liber za zrušený vlak, přestože zákaznice zmeškala lhůtu k žádosti. Grok v simulaci poslal 187 zpráv a Claude Fable sdílel soukromou zprávu o nemoci v…
-
Opravu kritické díry v SGLangu zavřel správce spolu s dalšími návrhy téhož účtu
SGLang vyhodnocuje ladicí filtr funkcí eval() a přes ni jde v procesu scheduleru spustit cizí kód. Nahlásil to 14. října Jiapeng Li, o 48 minut později poslal někdo jiný opravu a téhož dne…
-
Anthropic rozběhl model na patnácti televizních krabičkách
Výzkumníci Anthropicu spustili model Gemma na patnácti levných krabičkách s Androidem. V odděleném pokusu zvládl GLM-5.2 připravit běh jiného modelu na všech osmi emulovaných zařízeních.…
-
Continue CLI po trvalém schválení příkazu spustí bez ptaní i to, co stojí za středníkem
Kdo v Continue CLI u příkazu shellu zvolí „Continue + don't ask again“, povolí natrvalo každý příkaz, který začíná stejným slovem, i s tím, co za ním stojí po středníku, za && nebo za…
-
Ruská operace Dark Clark je první, které OpenAI dala pátý stupeň dosahu ze šesti
OpenAI 8. října zablokovala účty dvou vlivových operací, ruské Dark Clark a íránské Bogus Bylines. Ruskou jako první ze třiceti popsaných zařadila do páté kategorie stupnice dosahu. ChatGPT…
-
Anthropic nabídl open source projektům hlášení zranitelností bez lidské kontroly
Anthropic otevřel 8. října službu OSS Scanner, která vybraným open source projektům zdarma a opakovaně prohledává kód a jejich správcům posílá nálezy rovnou od modelu, bez lidského ověření.…