Velké jazykové modely (LLM)
18 min • +25 XP
Rozcvička
Krátké zopakování z předchozích lekcí. Po zobrazení ji můžeš přeskočit.
Po přihlášení se rozcvička sestaví z předchozích chyb, pastí a termínů opakování.
Teorie
Nejdřív si vytvoř pevný základ.
2.2 Velké jazykové modely (LLM)
Rozcvička: Co je váha? · Seřaď 3 kroky učení.
Otázky:
- Tokenizér hra: Kolik tokenů má "nejnezaměstnatelnější"? A kolik "cat"? Ukaž reálný rozklad na kousky.
Feedback: Čeština se láme na víc kousků než angličtina → víc tokenů → dráž a někdy hůř. Proto zní čeští modely někdy "přeloženě".
- Autocomplete hra (klíčová): Model dostal "Praha je hlavní město". Ukaž 5 nejpravděpodobnějších pokračování s procenty. Student vybere, co si myslí, že model zvolí.
Feedback: Tohle je celé LLM v jednom obrázku. Žádná databáze, žádné hledání — jen "co je pravděpodobné dál".
- Párování teploty: 3 výstupy na stejný prompt "Napiš první větu pohádky" → přiřaď k teplotě 0 / 0,7 / 1,5.
Feedback: Teplota = jak často si model dovolí sáhnout mimo nejpravděpodobnější slovo. Nízká pro fakta a kód, vyšší pro nápady.
- 🪤 ABCD: Když se LLM zeptám na fakt, co udělá?
a) prohledá internet b) najde odpověď v databázi c) vygeneruje nejpravděpodobnější text — a to bývá často, ale ne vždy, i pravda ✔ d) zavolá expertovi
Feedback: Pokud nemá připojený nástroj (vyhledávání, dokumenty), nehledá nic. Odtud plyne všechno ostatní.
- Detektiv halucinací: Odstavec o historii Prahy s 3 vloženými nepravdami (neexistující studie s konkrétním rokem, přesmyknuté datum, vymyšlené jméno autora). Klikni na ně.
Feedback: Všimni si vzorce — halucinace bývají nejpřesvědčivější tam, kde jsou nejkonkrétnější. Čísla, jména, citace = místa ke kontrole.
- Scénář kontextového okna: Dlouhý rozhovor, model "zapomněl" instrukci z začátku. Proč?
Feedback: Kontext je stůl, ne archiv. Co se nevejde, spadne na zem. Řešení: zopakuj instrukci, zkrať, nebo shrň.
Mikro-úkol: Zadej modelu stejný prompt 3× a najdi rozdíly. Pak zadej "odpověz jednoznačně a stručně" a porovnej.
---
Kontrolní otázky
Odpovídej postupně, feedback dostaneš ihned.
Otázka 1
Kolik tokenů mají „nejnezaměstnatelnější“ a „cat“?
Zjednodušená předpočítaná ukázka tokenizace; konkrétní model může slovo rozdělit jinak.
Klávesnice a dotyk: u každé položky vyber cíl v nabídce.
Otázka 2
Co model doplní po „Praha je hlavní město“?
Pravděpodobnosti jsou předpočítaná didaktická ukázka, ne živá inference.
Otázka 3
Přiřaď výstup k teplotě 0, 0,7 nebo 1,5.
Klávesnice a dotyk: u každé položky vyber cíl v nabídce.
Otázka 4
Co udělá LLM při dotazu na fakt bez připojeného nástroje?
Otázka 5
Najdi tři nepravdy v odstavci o historii Prahy.
Otázka 6
Proč model zapomněl instrukci ze začátku dlouhého rozhovoru?
Mikro-úkol
Dobrovolný úkol přidá XP, ale neblokuje dokončení lekce.
Zadej modelu stejný prompt 3× a najdi rozdíly. Pak zadej "odpověz jednoznačně a stručně" a porovnej.
Zapamatuj si
Tři myšlenky, ke kterým se můžeš vrátit.
- Čeština se často láme na více tokenů než angličtina, proto může být dražší a někdy znít přeloženě.
- Tohle je celé LLM v jednom obrázku.
- Žádná databáze, žádné hledání — jen co je pravděpodobné dál.