Bezpečné a zodpovědné používání AI

1. Co znamená bezpečné používání AI

• možnosti a omezení generativní AI
• odpovědnost člověka za výsledný výstup
• rozdíl mezi pomocníkem a automatickým rozhodovacím nástrojem
• proč nelze každé odpovědi AI automaticky důvěřovat

2. Jaké informace do AI nevkládat

• osobní údaje
• citlivé firemní informace
• hesla a přístupové údaje
• interní dokumentace
• obchodní tajemství
• informace chráněné smlouvou nebo interními pravidly

3. Ochrana soukromí a firemních dat

• práce s dokumenty a soubory
• rizika při kopírování obsahu do veřejných AI nástrojů
• anonymizace a minimalizace dat
• rozdíl mezi veřejným a firemním AI prostředím
• základní pravidla pro bezpečné sdílení informací

4. Halucinace a nepřesné výstupy

• proč AI někdy vytvoří přesvědčivou, ale nesprávnou odpověď
• smyšlené informace, zdroje a citace
• zastaralé informace
• jak rozpoznat problematický výstup
• kdy je nutné výsledek ověřit

5. Ověřování výsledků AI

• kontrola klíčových faktů
• práce s primárními zdroji
• porovnání více nezávislých zdrojů
• ověřování aktuálnosti informací
• rozlišení mezi faktem, odhadem a doporučením

6. AI a rozhodování

• proč AI nemá nahrazovat odborný úsudek
• práce s důležitými rozhodnutími
• vysokorizikové situace
• význam lidské kontroly
• odpovědnost za konečné rozhodnutí

7. Autorská práva a původ obsahu

• AI jako pomocník při tvorbě textu a dalších materiálů
• potřeba kontroly původu a správnosti obsahu
• opatrnost při používání cizích materiálů
• transparentní používání AI tam, kde je to vhodné

8. Manipulace a podvodný obsah

• phishing a sociální inženýrství
• generované texty a obrázky
• falešné identity a deepfake obsah
• proč AI zvyšuje kvalitu některých podvodů
• základní principy ověřování podezřelého obsahu

9. Bezpečnost při používání AI nástrojů

• práce s účty a přístupovými údaji
• silná hesla a vícefaktorové ověřování
• kontrola aplikací a služeb, kterým poskytujeme data
• opatrnost při používání neznámých AI nástrojů
• aktualizace a základní digitální hygiena

10. Pravidla pro organizaci

• proč je vhodné stanovit jednoduchá interní pravidla
• které nástroje lze používat
• s jakými daty lze pracovat
• kdo odpovídá za kontrolu výstupů
• jak zaměstnance průběžně vzdělávat

11. Praktická cvičení

• rozpoznání nevhodného zadání obsahujícího citlivé údaje
• anonymizace pracovního zadání
• kontrola nepřesného výstupu AI
• ověření podezřelého tvrzení
• rozpoznání rizikové situace
• návrh jednoduchých pravidel pro bezpečné používání AI na pracovišti

Co si účastník odnese

• používat AI s větším důrazem na bezpečnost a ochranu informací
• rozpoznat, které údaje není vhodné do AI nástrojů zadávat
• kriticky posuzovat výstupy AI
• ověřovat důležitá tvrzení
• lépe rozpoznávat manipulativní nebo podvodný obsah
• používat AI s vědomím vlastní odpovědnosti
• navrhnout základní pravidla pro bezpečné používání AI ve své organizaci

Doporučená délka

Prezenční varianta: přibližně 4 až 6 hodin včetně praktických cvičení. Kurz lze upravit jako kratší workshop zaměřený například na ochranu firemních dat, ověřování výstupů AI nebo bezpečné používání AI v konkrétní profesní oblasti.