Jak ověřovat odpovědi AI: praktický postup krok za krokem

AI asistent je výborný pomocník, ale ne neomylný zdroj. Nemusíte kontrolovat každé slovo – stačí vědět, co ověřit, jak a kdy je ověření nutné. Tento návod vám dá jednoduchý systém.

Co ověřovat vždy

Typ informace	Proč je riziková
Čísla, statistiky, data	Snadno se spletou nebo vymyslí
Citace a zdroje	Model může vytvořit neexistující knihu nebo článek
Zákony, paragrafy, lhůty	Mění se a liší se podle země
Zdravotní a finanční rady	Vysoký dopad chyby
Názvy funkcí, příkazů, balíčků	Mohou být vymyšlené nebo pro jinou verzi
Aktuální události, ceny	Model nemusí mít aktuální informace

Naopak vysvětlení obecných principů, návrhy formulací nebo brainstorming obvykle kontrolu tak přísnou nevyžadují.

Pravidlo podle dopadu

Kolik času ověřování věnovat, určete podle toho, co se stane, když bude odpověď špatně:

• Nízký dopad (nápad na název, přeformulovaný e-mail) – stačí zdravý rozum.
• Střední dopad (kód do vlastního projektu, podklad pro poradu) – otestujte, zkontrolujte klíčová fakta.
• Vysoký dopad (smlouva, daně, zdraví, produkční server) – ověřte v primárním zdroji nebo u odborníka.

Postup 1: Nechte AI rozložit odpověď

Rozepiš svou předchozí odpověď na jednotlivá faktická tvrzení.
U každého uveď, jak bych ho mohl ověřit (jaký typ zdroje).

Získáte kontrolní seznam. Často se už při tom ukáže, že některá tvrzení jsou nejistá.

Postup 2: Křížová otázka

Položte stejnou otázku jinak, nebo v nové konverzaci. Pokud se odpovědi v podstatných bodech liší, je to signál, že model si není jistý.

Je pravda, že [tvrzení z předchozí odpovědi]?
Uveď argumenty pro i proti.

Pozor: shoda dvou odpovědí ještě neznamená pravdu, ale neshoda je spolehlivé varování.

Postup 3: Primární zdroje

Nejspolehlivější je ověřit informaci tam, kde vzniká:

• zákony – oficiální sbírka zákonů a e-Sbírka,
• technologie – oficiální dokumentace projektu, man stránky,
• věda – původní studie, ne populární články o nich,
• firmy a ceny – web dané firmy.

U příkazů v Linuxu je ověření rychlé:

man rsync          # manuálová stránka
rsync --help       # přehled přepínačů
tldr rsync         # stručné příklady (pokud máte nainstalováno tldr)

Postup 4: Otestujte kód

U kódu je nejlepším ověřením spuštění:

1. Spusťte ho v testovacím prostředí, ne rovnou na produkci.
2. Zkuste i okrajové případy: prázdný vstup, velká data, neplatné hodnoty.
3. Nechte AI napsat testy – a zkontrolujte, že testují to podstatné.
4. Přečtěte si kód, než ho spustíte – zvlášť pokud maže soubory nebo mění databázi.

Napiš k této funkci testy v pytest včetně okrajových případů.
Vysvětli, co který test kontroluje.

Postup 5: Varovné signály

Zbystřete, pokud odpověď:

• uvádí velmi přesná čísla bez zdroje („přesně 73,4 % firem…“),
• cituje konkrétní studii s autorem a rokem, kterou nemůžete dohledat,
• obsahuje URL, která vypadá věrohodně, ale nefunguje,
• používá funkci nebo parametr, který nenajdete v dokumentaci,
• je příliš hladká u otázky, na kterou neexistuje jednoznačná odpověď.

Ověřování u příkazů na serveru

Pokud AI navrhuje příkazy pro server, je opatrnost zvlášť důležitá. Před spuštěním si položte otázky: Co příkaz mění? Dá se vrátit? Mám zálohu? V ColdHost AI při práci s VPS přes SSH AI příkazy pouze navrhuje a každý musíte schválit kliknutím – to je ideální chvíle na kontrolu. Když nerozumíte, co příkaz dělá, zeptejte se dřív, než ho schválíte.

Rychlý kontrolní seznam

• Jaký je dopad, když je to špatně?
• Která tvrzení jsou faktická a ověřitelná?
• Mám primární zdroj?
• Je kód otestovaný?
• Ukazuje odpověď varovné signály?

Ověřování se rychle stane zvykem. A čím lépe víte, kde AI chybuje, tím efektivněji ji používáte.