Přeskočit na hlavní obsah
Atmosférická scéna domácí AI workstation s vícekartovým GPU rigem na dřevěném stole v teplém světle moderního pracovního studia.
Novinky a trendy

Je Qwen 3.6 nejlepší AI model, který si můžeš spustit doma?

Alibaba vydala open-weight model, který v některých coding testech dohnal Claude Opus 4.7 a vejde se na jeden 24 GB GPU. Co to znamená pro firmy a vývojáře?

7 minHugging Face
DůležitostNízká
ÚroveňPokročilý
VyužitíÚzké

Novinka + rozbor

Qwen 3.6 + Ollama

Co je nového

Dne 17. dubna 2026 vyšel Qwen 3.6-35B-A3B od Alibaby. Klíčový detail je v architektuře: jde o tzv. Mixture-of-Experts model s 35 miliardami parametrů celkem, ale jen 3 miliardami aktivních na každý zpracovaný token. To znamená, že běží rychle i na hardwaru, který by 35B model klasické architektury vůbec neutáhl.

V Q4 kvantizaci si vystačí s přibližně 21 GB VRAM, takže se vejde do jednoho RTX 4090 nebo RTX 5090. Na benchmarku SWE-Bench Verified, který měří schopnost modelu dotáhnout reálný coding úkol od zadání po funkční pull request, dosáhl 73,4 %. Na řadě dalších testů se přibližuje proprietárnímu Claude Opus 4.7, modelu, který běží jen v cloudu a stojí výrazně víc za milion tokenů.

Parametrů celkem

35 miliard, MoE architektura

Aktivních na token

3 miliardy, zbytek spí

VRAM v Q4

~21 GB, vejde se na RTX 4090

SWE-Bench Verified

73,4 %, blízko výkonu Claude Opus 4.7

Qwen 3.6 nebyl v dubnu sám. Vyšla Gemma 4 26B MoE od Googlu (Apache 2.0, runs i v 16 GB RAM), Kimi K2.6 od Moonshotu (kolem 1 bilionu parametrů celkem, ale potřebuje serverové GPU), GLM-5.1 od Zhipu AI a DeepSeek V4 Pro/Flash. Pro reálný self-host na rozumném hardwaru ale Qwen 3.6 vede kombinací výkonu, paměťových nároků a otevřené licence.

Co na tom oceníš nejvíc?

Data ti nikdy neopustí hardware. To je hlavní hodnota open-weight modelu, kterou hostované API z principu nedá. Pro banky, právní kanceláře, zdravotnictví nebo dev týmy s NDA to není feature, ale podmínka, aby šlo AI vůbec nasadit.

Porovnání toku dat: cloudové LLM posílá tvá data poskytovateli, lokální LLM je drží na tvém hardware.
Cloud LLM vs lokální LLM: rozdíl není v tom, kdo počítá odpověď, ale kam jdou tvá data po cestě.

Privacy

Prompt, kontext, výstup — vše zůstává na tvém serveru. Nic neopustí firmu.

Žádné limity

Bez rate limitu, bez kreditů, bez ceny za milion tokenů. Strop je výkon GPU.

Fine-tune

Stáhneš váhy a doladíš na firemní terminologii, branding nebo interní postupy.

Bez guardrailů

Pen testy, analýza škodlivého kódu, citlivé medicínské texty — lokál to nezablokuje.

MoE architektura je v tom klíčová. Tři miliardy aktivních parametrů na token udržují inference rychlou, zbylých 32 miliard se zapojí, jen když to zadání skutečně potřebuje.

Pro koho to je

Firmy s citlivými daty jsou hlavní cílovka. Banky, advokátní kanceláře, zdravotnictví, vývojářské týmy s přísnou NDA. Pro ně je Qwen 3.6 první open-weight model, který může reálně nahradit cloud služby, ne být jen kompromis.

Firmy s citlivými daty

Banky, advokátní kanceláře, zdravotnictví, dev týmy pod přísnou NDA. Když data nesmí opustit firmu, hostovaná AI je mimo hru. Lokální Qwen je první open-weight model, který tyhle firmy můžou dát vývojářům jako plnohodnotnou náhradu cloud služeb.
  • NDA
  • klientská data
  • zdravotnictví
  • banking
  • právo

Vývojáři, kteří chtějí kontrolu

Stavíš si vlastního agenta, customizuješ chování, fine-tunuješ na specifický doménový jazyk. Lokální deployment ti dá plnou kontrolu nad prompt cachingem, retry logikou a toolingem, nic z toho nedělá cloud API jen tak.
  • Vlastní agent
  • fine-tune
  • prompt caching
  • retry logic

Pokročilí uživatelé

Lidé, kterým vadí, že proprietární modely se mění bez ohlášení a že se musí přizpůsobovat každé nové verzi. Vlastní váhy = vlastní pravidla, žádné překvapení v changelogu.
  • Bez guardrailů
  • neomezené tokeny
  • vlastní hardware

(pozor) Pro běžné uživatele subscription vyhrává

Pro běžnou agenturu, OSVČ nebo marketéra, který používá AI pár hodin denně, je Claude Code nebo ChatGPT Plus za pár tisíc měsíčně levnější a pohodlnější než vlastní rig za desítky až stovky tisíc plus elektřina, údržba a hodiny ladění.
  • Agentura
  • OSVČ
  • pár hodin denně
  • mobile workflow

Jak to použít v praxi

Nasazení Qwen 3.6 stojí na třech rozhodnutích: hardware, inference engine, kvantizace.

Hardware. Tady je třeba být upřímný, výpočetní technika v posledním roce výrazně podražila kvůli AI poptávce. RTX 5090 má MSRP 2 000 USD, ale na trhu se reálně prodává za 3 000 až 4 000 USD. Datacentrová H100 začíná na sekundárním trhu kolem 12 000 USD. Setupy se proto dělí do tří kategorií:

Entry (70–100k Kč)

1× RTX 5090 nebo 4090, 64 GB RAM. Q4 stačí pro jednoho člověka nebo malý tým.

Mid (200–400k Kč)

2× GPU, větší šasi, silnější CPU. Zvládne Q8 a fine-tuning. Tým 5–20 vývojářů.

Enterprise (1M+ Kč)

4–8× H100/H200, 10GbE, redundantní napájení. Produkce s desítkami uživatelů.

Inference engine. Pro vyzkoušení a malé týmy stačí Ollamaollama pull qwen3.6:35b a hotovo. Pro plnou kontrolu nad kvantizací a parametry jde llama.cpp. Pro produkční nasazení s vysokou propustností a více souběžnými dotazy je standardem vLLM.

Kvantizace. Q4_K_M potřebuje kolem 21 GB VRAM, mírně ztrácí kvalitu — default pro 24 GB GPU. Q6_K si bere kolem 28 GB, kvalita lepší. Q8_0 vyžaduje 48+ GB hardwaru a od plných vah už je prakticky nerozeznatelný.

Příklad z praxe

Příklad z praxe

Fintech, 30 vývojářů, NDA na zdrojový kód. Posílat soubory do Claude API je pro ně neprůchodné, ale produktivita bez AI asistenta klesá.

Postaví server se dvěma RTX 5090 (přibližně 200 000 Kč na hardware), nainstalují Ollama s Qwen 3.6-35B-A3B v Q4 kvantizaci a vystaví OpenAI-kompatibilní endpoint na interní síti. Vývojáři ho používají v Continue.dev, Cursoru v lokálním režimu nebo přes vlastní VS Code rozšíření. Provoz: zhruba 600 W ve špičce, žádný měsíční poplatek, žádný rate limit. Po roce a půl se hardware ekonomicky zaplatí oproti hypotetické spotřebě cloud API, citlivý kód neopustil firmu a model se navíc dvakrát fine-tunoval na interní knihovny, takže lépe rozumí firemním konvencím než kterýkoli cloud model bez doplňkového kontextu.

Doporučené nástroje

Tři open-weight modely k vyzkoušení podle toho, jaký hardware máš:

A tooling, který potřebuješ navrch:

Inference engine & UI:
  • Ollama
  • llama.cpp
  • vLLM
  • Open WebUI

Shrnutí

Duben 2026 ukázal, že open-weight modely doháněly proprietární špičku rychleji, než se ještě před rokem čekalo. Qwen 3.6 je dnes nejlepší kompromis mezi výkonem a hardwarovými nároky — zkušenost na úrovni Claude Opus 4.7 ve vybraných úkolech, ale vejde se na jedno 24 GB GPU.

Pro většinu lidí ale subscription pořád vyhrává. Třicet až šedesát dolarů měsíčně versus 100 000 Kč jen za vstupní hardware, plus elektřina, údržba, čas. Lokální model dává smysl tam, kde data nesmí opustit firmu, kde potřebuješ neomezené tokeny pro intenzivní práci, nebo kde chceš fine-tune na specifický kontext.

Trend je ale jasný: open-weight modely zlepšují schopnosti rychleji, než stoupá cena hardwaru. Otázka pro firmy s citlivými daty není "jestli", ale "kdy" se vyplatí přepnout.

Q4 stačí na 24 GB

~21 GB VRAM, vejde se na jednu RTX 4090 nebo 5090.

73,4 % SWE-Bench

Blízko Claude Opus 4.7 ve vybraných coding testech.

Entry setup ~70k Kč

Jeden RTX 5090, 64 GB RAM, Ollama. Hotovo za odpoledne.

Subscription ~300 Kč/měs

Pro běžné uživatele Claude/ChatGPT pořád ekonomičtější.

Zdroje

Časté otázky

Na co se nás často ptáte?

Vyplatí se mi vlastní hardware místo subscription Claude nebo ChatGPT?

Záleží na tom, co s AI děláš. Pro běžnou agenturu, OSVČ nebo marketéra je subscription Claude Code nebo ChatGPT Plus levnější a pohodlnější. Stojí pár tisíc měsíčně, zatímco vstupní hardware začíná na 70 000 Kč. Vlastní setup dává smysl tam, kde data nesmí opustit firmu (banky, právo, zdravotnictví, NDA), kde potřebuješ neomezené tokeny pro intenzivní práci, nebo kde chceš model fine-tunovat na vlastní data.

Jsou čínské open-weight modely bezpečné z hlediska dat?

Záleží na tom, jestli běží lokálně nebo přes hostovanou službu. Když si stáhneš váhy Qwen 3.6 a spustíš model na vlastním hardwaru, data z promptů nikam neodejdou. Hostované služby (kimi.ai, deepseek.com a další) jsou jiný příběh. Wiz Research v roce 2025 odhalil u kimi.ai veřejně dostupnou databázi s více než milionem chat logů včetně API klíčů. Lokální spuštění váh tenhle problém řeší úplně.

Jak rozjet Qwen 3.6 doma?

Nejrychlejší cesta je Ollama. Po instalaci stačí spustit `ollama pull qwen3.6:35b` a model se sám stáhne v kvantizaci vhodné pro tvůj hardware. Pro plnou kontrolu nad parametry a paměťovými nároky použij llama.cpp. Pokud chceš obsluhovat víc souběžných uživatelů nebo nasadit do produkce, standardem je vLLM. Pro chat interface se hodí Open WebUI jako drop-in náhrada za ChatGPT UI.

Co je MoE architektura a proč na ní záleží?

MoE (Mixture of Experts) je architektura, kde model má velký počet parametrů, ale na každý zpracovaný token aktivuje jen jejich část. Qwen 3.6 má 35 miliard parametrů celkem, ale jen 3 miliardy aktivních na token. Důsledek: model běží rychle i na hardwaru, na kterém by 35B model klasické architektury vůbec nefungoval. Zbylé experty se zapojí jen když to konkrétní zadání skutečně potřebuje.

Kolik VRAM potřebuje Qwen 3.6?

V Q4 kvantizaci potřebuje Qwen 3.6 přibližně 21 GB VRAM. Vejde se tak na jeden RTX 4090 nebo RTX 5090. Q6 si bere kolem 28 GB, Q8 už 48+ GB. Plné váhy bez kvantizace vyžadují server-class hardware. Pro většinu domácích uživatelů je správnou volbou Q4 na 24 GB GPU.

Pokračuj dál

Související články

Další texty podle stejné zóny, témat a nástrojů.