Přeskočit na obsah
Čínské modely 3 min čtení

Qwen vydal Qwen-Image-2.1-Turbo, který obrázek vygeneruje na osm kroků místo čtyřiceti

Tým Qwen vydal 9. října Qwen-Image-2.1-Turbo, nové váhy svého obrazového modelu, které obrázek vytvoří nebo upraví na osm kroků odšumování; příklady u základního modelu jich počítají čtyřicet. Licence zůstala nekomerční a Alibaba nabízí Turbo i jako placenou službu za 0,016 dolaru za obrázek.

Otevřený strojek mechanických stopek Heuer s kalibrem 7700
Strojek mechanických stopek Heuer s kalibrem 7700. Foto: Ikonicstopwatch, Wikimedia Commons (CC BY-SA 4.0)

Tým Qwen čínské skupiny Alibaba zveřejnil 9. října na Hugging Face Qwen-Image-2.1-Turbo. Jsou to nové váhy modelu Qwen-Image-2.1, který obrázky vytváří z textu i upravuje. Turbo k tomu podle karty potřebuje osm kroků odšumování. Příklady u základního modelu počítají se čtyřiceti a stejné číslo má jako výchozí i kód modelu v knihovně Diffusers.

Krok odšumování je jeden průchod obrazovým transformátorem. Model začne od náhodného šumu a v každém kroku z něj kus odebere, až zbude obrázek. Osm kroků místo čtyřiceti znamená pětkrát méně průchodů sítí o sedmi miliardách parametrů.

O základním modelu jsme psali při jeho vydání, hlavně kvůli licenci, která dovoluje jen nekomerční použití. Turbo na ní nic nemění. Mění počet kroků a s ním i to, co musí umět knihovna, která model spouští.

Transformátor má stejnou stavbu, ale jiné váhy

Konfigurace transformátoru je v obou repozitářích totožná: 32 vrstev, 32 hlav pozornosti a tytéž rozměry. Rozhraní Hugging Face hlásí u obou 7 115 124 736 parametrů v BF16 a oba soubory transformátoru mají shodnou velikost, dohromady 14,23 GB. Otisky sha256 se ale liší, takže hodnoty vah jsou nové. Jak je Qwen získal, karta neříká. Mluví jen o „zrychleném checkpointu“.

Dvě změny jsou mimo transformátor. Textový kodér o 17,53 GB leží v jednom souboru místo čtyř. VAE, tedy část, která převádí obraz mezi pixely a zhuštěným zápisem, se zmenšil z 1,35 na 0,68 GB. Proč, ukáže hlavička souboru: nese stejných 238 tenzorů, jen ve formátu BF16 místo dřívějšího F32. Turbo tak podle našeho součtu stáhne 32,44 GB vah proti 33,12 GB u základního modelu.

Rozvrh osmi kroků leží v konfiguraci modelu

Kolik kroků model udělá a při jaké úrovni šumu, u Turba neurčuje uživatel, ale soubor model_index.json. Je v něm nový klíč sample_sigmas s osmi hodnotami od 1,0 do 0,414568. Šest z nich leží mezi 1,0 a 0,845, poslední dvě jsou 0,705 a 0,415. Bez toho klíče rozloží Diffusers kroky rovnoměrně.

Karta upozorňuje, že samotný parametr num_inference_steps uložený rozvrh nepřepíše. Jiný se dá zadat jen přímo při volání parametrem sigmas, a Qwen k tomu dodává, že žádný jiný rozvrh pro tenhle checkpoint nehodnotil. Popis změny v Diffusers navíc říká, že i zadané hodnoty ještě projdou úpravou nastavenou ve scheduleru. Osm čísel v konfiguraci proto není konečný rozvrh, se kterým model počítá.

Podporu nese už vydané Diffusers 0.41.0

Klíč sample_sigmas přidal do Diffusers návrh změny #14950. Jeho autor ho otevřel 5. října odpoledne a večer téhož dne byl začleněný. O den později vyšla verze 0.41.0, jejíž poznámky změnu jmenují, a porovnání přes API GitHubu potvrzuje, že ji značka v0.41.0 opravdu obsahuje. Ve verzi 0.40.0 není ještě ani samotný QwenImage21Pipeline.

Karta Turba z 9. října přesto radí instalovat Diffusers z hlavní větve na GitHubu. Podle zdrojového kódu by mělo stačit vydání 0.41.0 z PyPI, sami jsme ale model nespouštěli. Pro provoz to není maličkost: hlavní větev se mění každý den, kdežto vydanou verzi jde zafixovat.

Pětkrát méně kroků neznamená pětkrát rychlejší obrázek

Kolik času Turbo ušetří, Qwen číslem neuvádí ani na kartě, ani na GitHubu. Menší počet kroků zkracuje jen práci transformátoru. Zpracování zadání textovým kodérem a převod výsledku z VAE do pixelů zůstávají, takže celý požadavek se podle nás zkrátí méně než pětkrát. Podobně dopadlo rychlejší jádro SGLangu u starší řady Qwen-Image, jehož zisk se v celém požadavku ztratil.

Srovnání kvality se čtyřicetikrokovým modelem karta nepřináší. Ukazuje jen vybrané výstupy po jednom z každé kategorie: portrét, plakát s písmem, průhledné pozadí, skládání z více předloh.

Licence se nezměnila, služba stojí 0,016 dolaru za obrázek

Soubor LICENSE je v obou repozitářích bajt po bajtu týž, se shodným otiskem a délkou 7 831 bajtů. I pro Turbo tedy platí Qwen Research License, která váhy pouští jen k nekomerčnímu výzkumu a hodnocení.

Firma, která model potřebuje v placeném provozu, má druhou cestu. Alibaba Cloud spustil podle README na GitHubu 9. října v Model Studiu službu qwen-image-2.1-turbo. Ceník pro mezinárodní nasazení v Singapuru uvádí 0,016 dolaru za úspěšně vygenerovaný obrázek a deset obrázků zdarma. Verze qwen-image-2.1-pro stojí 0,04 dolaru, tedy dvaapůlkrát víc. Jestli služba běží na týchž vahách, jaké leží na Hugging Face, Alibaba neuvádí.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

  1. Čínské modely

    Z.ai přijal přepis šablony GLM-5.3, která u stovek volání nástrojů počítala kvadraticky

    Šablona, která u GLM-5.3 skládá dotaz z historie chatu, přiřazovala výsledky nástrojů k jejich voláním vnořenými cykly. Při osmi stech paralelních voláních v jednom tahu…

  2. Licence a podmínky

    Tencent vydal Youtu-Parsing-Omni s licencí, podle níž model není určený pro EU

    Tencent 9. října zveřejnil na Hugging Face model Youtu-Parsing-Omni s pěti miliardami parametrů, který převádí dokumenty, obrázky, zvuk i video do strukturovaného JSONu.…

  3. Modely

    DeepSeek po měsíci přijal opravu cache indexeru v kódu pro V4.1 Flash

    DeepSeek 12. října přijal do repozitáře V4.1 Flash opravu, kterou dostal hned v den zveřejnění vah. Ukázkový kód pro spuštění modelu při některých krocích četl klíče…

  4. Bezpečnost

    Autor uzavřel kód ARTEX, nástroje spojovaného s útoky na jihokorejské banky

    Vývojář s přezdívkou Autumn-27 znepřístupnil 8. října repozitář nástroje ARTEX a oznámil, že další verze nevydá. Stovky kopií pod licencí AGPL-3.0 ale na GitHubu…