Přeskočit na obsah

Všechny články

Kompletní výpis, od nejnovějšího.

  1. Čísla

    vLLM 0.26.0 bere tři až sedm bitů na váhu, jenže dva bity model v měření položily

    Nástroje pro běh jazykových modelů zmenšují váhy skoro vždy na osm nebo čtyři bity. Vydání vLLM 0.26.0 z 27. července 2026 přidalo dvě schémata, která ke kratším šířkám přiberou i…

  2. Nástroje

    TensorRT-LLM odstranil svůj backend nad TensorRT, zatím mimo stabilní vydání

    Návrhy změn sloučené v červenci 2026 odebraly z knihovny TensorRT-LLM celý původní běhový backend postavený nad TensorRT. Zmizely příkazy trtllm-build, trtllm-prune a trtllm-refit i…

  3. U sebe doma

    Laguna S 2.1 uvádí milion tokenů kontextu, vlastní GGUF od výrobce má 256 tisíc

    Firma poolside vydala 21. července otevřené váhy modelu Laguna S 2.1 se 118 miliardami parametrů a kontextovým oknem 1 048 576 tokenů. Balíčky GGUF, které k němu sama nabízí, jsou ale…

  4. Modely

    NVIDIA radí sdílet KV hlavu mezi víc dotazů, ale neříká, na kterých GPU měřila

    Nový technický rozbor rozděluje obsluhu dlouhého kontextu na dvě odlišné úlohy: načtení zadání omezuje výpočetní výkon, generování dalšího tokenu propustnost paměti. NVIDIA z toho odvozuje…

  5. U sebe doma

    llama.cpp ve Windows zapíná rychlé jádro na Intel Xe2 a Xe3 od verze 8860

    Vydání b10215 z 31. července zrušilo plošné vypnutí rychlé Walshovy-Hadamardovy transformace na grafikách Intel ve Windows. Na architekturách Xe2 a Xe3 ji povolí až s ovladačem 32.0.101…

  6. U sebe doma

    Llama.cpp umí dvoubitový Q2_0 i na kartách NVIDIA a ternární model 8B má 2,15 GiB.

    Do hlavní větve llama.cpp přibyla 30. července 2026 podpora formátu Q2_0 pro karty NVIDIA, o den později i pro rozhraní SYCL. Formát ukládá váhu do dvou bitů a s jedním měřítkem na každých…

  7. Čísla

    Výsledek fontu proti sběru dat se mezi čtyřmi filtry liší víc než třicetkrát

    Projekt ShieldFont zaměňuje slova ve zdroji stránky, aby robotům sbírajícím trénovací data podstrčil jiný text než čtenáři. Jeho vlastní měření v repozitáři zkoušelo čtyři filtry kvality a…

  8. Licence a podmínky

    Komise smí pokutovat poskytovatele obecných modelů od 2. srpna, rok po povinnostech

    Poskytovatelé obecných modelů mají povinnosti z evropského nařízení o umělé inteligenci už od 2. srpna 2025. Pokutu za jejich porušení ale Evropská komise smí uložit teprve od 2. srpna 2026…

  9. Bezpečnost

    Opravy pěti CVE v Ruby SDK protokolu MCP vyšly o tři týdny dřív než hlášení

    Databáze bezpečnostních hlášení GitHubu přidala 30. července 2026 k oficiální rubyové knihovně protokolu MCP pět záznamů najednou, dva s vysokou závažností. Všechny opravuje verze 0.23.0,…

  10. Nástroje

    Které ze dvou rozšíření v balíčku Cline 4.1 se spustí, řídí vzdálený příznak

    Vydání 4.1 rozšíření Cline pro Visual Studio Code sloučilo starou a novou verzi do jednoho balíčku: uvnitř leží obě vedle sebe a při každém otevření okna vybere zavaděč jednu z nich.…

  11. Licence a podmínky

    Konec 27 verzí modelů v Microsoft Foundry se posunul dál, medián posunu je 182 dní.

    Microsoft změnil 31. července tabulku, ve které katalog Foundry vede data ukončení modelů. U 27 kombinací modelu a verze se datum posunulo dál, u žádné blíž; medián posunu je 182 dní. Do…

  12. Infrastruktura

    Ollama pozastavila prodej tarifu Max, protože prý nestačí kapacita cloudu

    Ollama, nástroj na provoz jazykových modelů na vlastním počítači, přestala prodávat nejdražší předplatné Max za 100 dolarů měsíčně. V odpovědi na ceníku uvádí, že objem tokenů v jejím…

  13. Modely

    Váhy Solar Open 2 mají 500 GB, licence chce jméno začínající na Solar

    Korejský Upstage vydal 22. července otevřené váhy modelu Solar Open 2 – 250 miliard parametrů, z toho 15 miliard aktivních na token, kontext milion tokenů. Ke stažení je 500,62 GB. Licence…

  14. Bezpečnost

    Langflow je v katalogu CISA popáté, federální úřady dostaly tři dny

    CISA zařadila 21. července do katalogu zneužívaných zranitelností chybu CVE-2026-0770 v Langflow, nástroji na skládání agentů nad jazykovými modely. Dovoluje spustit kód bez přihlášení a s…

  15. Licence a podmínky

    Inkling-Small má váhy pod Apache 2.0, k nim ale patří pravidla užití, jež smí firma měnit.

    Thinking Machines Lab zveřejnila váhy modelu Inkling-Small pod licencí Apache 2.0. Vedle ní ale platí samostatná pravidla přijatelného užití, ke kterým se člověk zaváže už tím, že soubory…

  16. Modely

    DeepSeek vydal V4-Flash pod MIT se 167 GB vah a skripty místo šablony chatu

    DeepSeek zveřejnil 31. července ostrou verzi modelu V4-Flash. Licence je čistá MIT bez prahů tržeb a bez podmínek navíc, kontext má milion tokenů a váhy 166,9 GB. Devět čísel v tabulce…

  17. Čísla

    Test agentů nechal na Hugging Face 205 stejnojmenných modelů, 107 vzniklo za tři dny.

    Sada úloh Toolathlon nechává agenta nahrát model na Hugging Face pod pevným jménem MyAwesomeModel-TestRepo. Úklid je ale zapsaný v přípravě před testem, ne za ním, takže repozitáře…

  18. U sebe doma

    vLLM vyřadil Fuyu, Persimmon a první TeleChat kvůli malému využití

    Vydání vLLM 0.26.0 z 27. července přestalo podporovat architektury Fuyu, Persimmon a první generaci TeleChatu. Oba návrhy změn uvádějí jako důvod nízké využití, psané pravidlo projektu…

  19. Nástroje

    MCP dal rušení funkcí pravidla, podle kterých mají Roots i Logging nejmíň rok

    Revize protokolu MCP z 28. července odložila tři funkce protokolu: Roots, Sampling a Logging. Poprvé u toho platí psané pravidlo, kolik času mezi odložením a smazáním musí uplynout, a…

  20. Bezpečnost

    Claude při testech napadl tři skutečné organizace a vydal škodlivý balíček na PyPI

    Anthropic prošel zpětně 141 006 testovacích běhů a našel šest, ve kterých se model dostal z uzavřeného prostředí na internet a napadl provozní systémy tří organizací. Nejstarší případ je z…