JSON Toolkit

JSON z LLM se useknul: nejdřív se podívejte na důvod zastavení, pak mluvte o opravě

Shrnutí: Model vrátí JSON utnutý uprostřed hodnoty a parser sdělí jen číslo sloupce. Zavření závorek ho zase nechá projít, ale každé chybějící pole se schová uvnitř dat. Článek vytyčuje hranici mezi tím, co oprava useknutí může poctivě vrátit, a tím, co je nutné zadat znovu.

Praxe~5 min čteníPublikováno 2026-11-14Aktualizováno 2026-11-14
Zavření useknutého JSON zásobníkem po skenování citlivém na řetězce

Useknutí není syntaktická chyba, ale chybějící data. Syntaxi opravíte, useknutí vrátíte jen částečně. Ve chvíli, kdy nástroj mezeru zavře, přestane zbytek mezery být chybou parsování a stane se něčím, o čem nikdo neví.

Jak useknutí vypadá: číslo sloupce nestačí

Model píše JSON podle schématu, narazí na limit výstupu a text prostě skončí. Předložte to modulu json v Pythonu 3.11:

{"scores": {"clarity": 8, "depth": 7}, "items": [{"name": "a", "qty": 2}, {"name": "b", "qty"

json.loads vyhodí Expecting ':' delimiter, col 94. Sloupec ukazuje na klíč "qty" bez hodnoty, ale skutečnou příčinou je, že dokument nemá konec. Chamtivý regex s doplněným "} nepomůže; zavření zásobníkem citlivým na řetězce (šestá sekce) projde, ale v items zůstanou 2 záznamy a třetí částečný zmizí. Číslo sloupce říká, kde se text zastavil. Nikdy neříká, kolik jste ztratili.

To je první skutečný rozdíl od běžné chyby JSON. U přebytečné čárky existuje jasný koncový stav: odstraňte ji a dokument je celý. Useknutí takový stav nemá. Opravte ho a pořád je to fragment.

Useknutí není poškození syntaxe: slepé místo opravných nástrojů

Nástroje jako jsonrepair mění syntakticky rozbitý JSON na legální: sundají markdownové ploty, čárky na konci, převedou jednoduché uvozovky. Tam je záměr celý a oprava jen čištění. Useknutý vstup vypadá pro stejný nástroj jako rozbitý JSON, takže zavře otevřený řetězec, pole i objekt a vrátí něco parsovatelného. Z 83 useknutých zpráv Claude nástroj „opravil" 79, tvrdě selhaly jen 4. Monitoring chyb viděl četnost dvacetkrát nižší, než byla skutečnost.

Jak výstup vypadal? Zpětná vazba k otázce 6 končila uprostřed věty, otázky 7 až 9 neexistovaly, pole next_steps zmizelo. Pydantic přesto validoval, protože next_steps mělo výchozí [] a seznam neměl omezení délky. Každá vrstva dělala svou práci. Produkt vydal sebejistou a špatnou zprávu.

Dejte opravu syntaxe na cestu useknutí a tiše se změní z čištění ve vymýšlení. Proto nejdřív hranice: opravný nástroj řeší jen nečistoty formátu u úplných odpovědí; useknutá odpověď by se k němu neměla dostat vůbec. O nečistotách formátu čtěte v průvodci opravou JSON.

První krok je vždy důvod zastavení

Každé velké API uvádí v metadatech, proč generování skončilo — zdarma. Je to zároveň nejignorovanější řádek kódu v integracích LLM. Anthropic vrací stop_reason, chat API OpenAI finish_reason: max_tokens znamená useknutí, end_turn nebo stop znamená, že model skončil sám.

resp = client.messages.create(model=MODEL, max_tokens=4096, ...)
if resp.stop_reason != "end_turn":
    raise TruncatedOutput(
        f"stop_reason={resp.stop_reason}, "
        f"output_tokens={resp.usage.output_tokens}"
    )
data = json.loads(resp.content[0].text)

Když se useknutí stane výslovnou výjimkou, má opakování spouštěč a monitoring zdroj poplachu. Těch 83 zpráv se našlo zpětně jedním dotazem na pole stop_reason v logech, které se vždy ukládaly a nikdy nečetly. Gemini hlásí length a incomplete ve stejném smyslu; u nového poskytovatele si nejdřív ověřte mapovací tabulku.

max_tokens je zábradlí, ne rozpočet

Přímou příčinou bývá limit dimenzovaný pro dřívější verzi produktu: 1500 tokenů, které po nasazení dlouhých relací stříhají 39 % dlouhých zpráv. Zvednout limit je zdarma. Účtuje se podle skutečně vygenerovaných tokenů, takže 4096 u zprávy na 1100 tokenů stojí přesně jako 1500. Limit má zastavit rozjetou generaci, ne šetřit.

Počítejte z dat: týden sledujte reálné rozdělení, vezměte p99 a nechte rezervu. Tým z incidentu zvolil 4096, protože p99 po opravě byl 2350. Druhý směr je zmenšit samotný výstup. Opakované klíče v homogenních polích spotřebují většinu tokenů; tabulkové kódování před voláním (viz průvodce formátem TOON) zmenší objem, který se musí vejít pod limit.

Pořadí polí schématu rozhoduje, co se usekne

Modely píší JSON shora dolů. Když rozpočet dojde, mizí nejdřív to, co stojí na konci seznamu vlastností. Schéma v pořadí summary, per_question_feedback, scores, next_steps ztratí nejdřív scores — právě to, co uživatel snímá a každý týden porovnává. Oprava je přeuspořádání: krátká kritická pole dopředu, dlouhé obnovitelné detaily potom, volný text na konec.

Chování poskytovatelů mění i následky téhož useknutí:

Poskytovatel Mechanismus strukturovaného výstupu Chování při useknutí
OpenAI response_format s strict: true Garance na úrovni vzorkování, ale nejužší dialekt; obvykle odmítne generovat
Anthropic input_schema v tool use Bez garance při dekódování; může vrátit nezavřené závorky
Gemini responseSchema s MIME JSON Dekódování vynucuje jen enum a typ; useknutí je stále možné

„Strukturovaný výstup zapnut, validace zbytečná" je iluze. Čím slabší garance poskytovatele, tím víc potřebujete vlastní validaci schématu a smyčku opakování. Jak takový kontraktní test postavit, popisuje kontraktní test JSON Schema.

Když je částečné obnovení opravdu nutné: zavření zásobníkem citlivým na řetězce

Některé případy nutí vymačkat z fragmentu aspoň něco: streamovaný náhled, degradovaná odpověď, fronta na ruční kontrolu. Tam je zavření posledním stupněm opravného žebříku a potřebuje dvě podmínky. Za prvé, sken závorek musí být citlivý na řetězce: sledujte stav uvozovek a escapování znak po znaku, jinak { uvnitř hodnoty rozbije zásobník. Za druhé, neúplné páry klíč–hodnota odstraňte před zavřením. Klíč "qty" bez hodnoty nelze zavřít do {"qty"}; celý pár musí pryč.

def close_truncated(s: str) -> str:
    # 1) Sken citlivý na řetězce; nejdřív zavři otevřený řetězec
    out, in_str, esc = [], False, False
    for ch in s:
        out.append(ch)
        if esc: esc = False; continue
        if ch == '\\' and in_str: esc = True; continue
        if ch == '"': in_str = not in_str
    text = ''.join(out) + ('"' if in_str else '')
    # 2) Odstraň neúplné páry a visící dvojtečku či čárku
    text = re.sub(r',\s*"[^"]*"\s*$', '', text)
    text = re.sub(r'[{,]\s*"[^"]*"\s*:\s*$', '}', text)
    text = re.sub(r':\s*$', '', text)
    text = re.sub(r',\s*$', '', text)
    # 3) Znovu proskenuj zásobník a zavři LIFO
    stack, in_str, esc = [], False, False
    for ch in text:
        if esc: esc = False; continue
        if ch == '\\' and in_str: esc = True; continue
        if ch == '"': in_str = not in_str; continue
        if not in_str:
            if ch in '{[': stack.append(ch)
            elif ch in '}]' and stack: stack.pop()
    return text + ''.join('}' if c == '{' else ']' for c in reversed(stack))

Na vstupu ze začátku článku vrátí {"scores": {...}, "items": [{"name": "a", "qty": 2}, {"name": "b"}]} v Pythonu 3.11 s pouhou standardní knihovnou. Projde to, třetí záznam se ztratí. Na straně lokálních modelů totéž dělají specializované knihovny jako partial-json-parser: zavřít zásobníkem, přistřihnout podle úplnosti.

Klíčové je zveřejnění. Funkce zavření musí hlásit, na kterém stupni výsledek vznikl; vše ze stupně truncation je částečný výsledek a musí se označit: doptat se na chybějící rozsah, zopakovat s větším limitem, nebo uživateli říct, že data jsou neúplná. Předstírat, že se nic nestalo, znamená vyrábět halucinace deterministickým kódem.

Opravit, nebo zopakovat: tabulka hranic

Tvar vstupu Správná akce Proč
Ploty, čárky na konci, jednoduché uvozovky Opravný nástroj Záměr je celý, špinavá je jen syntaxe
Useknutí uprostřed řetězce Opakování, nebo částečné obnovení s oznámením Chybí samotná hodnota
Useknutí uprostřed struktury Částečné obnovení s oznámením Dokončená pole přežijí, neúplné páry zmizí
Projde, ale vypadá špatně Byznys validace Není to useknutí, ale často jde spolu

Jeden finanční tým cenu vyčíslil. Dlouhé faktury se usekávaly, zavření závorek dalo platný JSON, chybějící pole total dostalo 0, a systém s 98,2 % shody formátu vydával zhruba 200 chybných faktur měsíčně. Po pojetí useknutí jako tvrdé degradace a přidání kontroly identity (total == součet položek) klesla míra chyb v částkách z 0,8 % na 0,02 %, zatímco shoda formátu stoupla jen na 99,1 %. Tři měsíce optimalizace „shody formátu" mířily na špatnou metriku. Projít parserem není totéž jako projít byznysem.

Čtyřbodový seznam: před parsováním zkontrolujte důvod zastavení; limit nastavte podle p99, ne jako rozpočet; kritická pole schématu dopředu; opravnému nástroji nechte jen nečistoty formátu úplných odpovědí. Se všemi čtyřmi se useknutí vrátí z tiché korupce dat k hlasité a opakovatelné poruše.

Můžu prostě zavřít závorky a výsledek použít

Ne. Zavření garantuje jen syntaktickou legalitu, data zůstávají fragmentem: věta se láme, koncové záznamy chybí, místo skutečných hodnot jsou výchozí. Označte výstup jako částečný, spusťte opakování nebo degradaci a logujte míru obnovení.

Jak rozeznám useknutí od skutečné syntaktické chyby

Čtěte důvod zastavení v metadatech: max_tokens, length nebo incomplete je useknutí; end_turn nebo stop při chybě parsování je skutečné poškození syntaxe. Bez metadat se dívejte na konec: utnutí uvnitř uvozovky nebo závorky s nezavřenou vnější strukturou je téměř vždy useknutí.

Proč je opravené useknutí nebezpečnější než hlasitá porucha

Opravný nástroj optimalizuje „aby to prošlo", a zavřené useknutí projde, takže monitoring mlčí a navazující validace projde díky výchozím hodnotám. Tak 83 useknutých zpráv dalo jen 4 chyby. Nástroj nezná záměr a neví, co chybí, proto se useknutí musí zachytit výš.

Stojí vyšší max_tokens víc peněz

Ne. Účtuje se podle skutečně vygenerovaných tokenů, limit je jen zábradlí. 4096 při 1100 vygenerovaných tokenech stojí přesně jako 1500. Nastavte podle reálného p99 s rezervou a investujte do prevence rozjeté generace.

Zdroje

Vhodné nástroje

Související články

Průvodce opravou JSON: jak zachránit pokazený výstup LLM a zachovat důvěru

Výstup LLM zabalený do markdownového plotu, s koncovými čárkami a literály Python, striktní parser odmítne celý — stejně tak konfigurace ručně upravené bez uvozovek. Tento průvodce vytyčuje skutečnou hranici mezi devíti třídami chyb, které opravný nástroj zvládne, a čtyřmi, které neopraví nikdy, vysvětluje, proč stavový automat poráží regex, a dodává produkční řetězec parsování s jsonrepair a json-repair.

Středně pokročilý~6 min čteníAktualizováno 2026-11-08

Průvodce formátem TOON: odlehčete JSON před tím, než ho dáte LLM

Když předáváte jazykovému modelu uniformní pole ve formátu JSON, opakující se názvy klíčů a závorky polykají tokeny. TOON deklaruje strukturu jednou pomocí odsazených objektů a tabulkových polí a data vypisuje řádek po řádku. Oficiální benchmarky ukazují přibližně o 40 % méně tokenů s vyšší přesností parsování. Tento průvodce pokrývá syntaxi, kdy úspora funguje, kdy se konverze nevyplatí a jak propojit encode a decode.

Střední~6 min čteníAktualizováno 2026-11-10

Kontraktní testování JSON Schema: svařte validační pravidla do CI

Schéma nekončí napsáním — tam začíná úpadek. Jedno překlepnutí potichu uvolní validaci, jeden refaktoring rozbije všechny fixture. Tato příručka rozebírá použitelné uspořádání kontraktního testování: pozitivní, negativní a snapshot fixture, lint samotného schématu, jednorázovou kompilaci s opakovaným použitím a čtyři brány CI, které promění porušení kontraktu v červený build.

Střední~8 min čteníAktualizováno 2026-11-05