AI-first development bezpečně

Praktický úvod do bezpečnostní problematiky využití AI nástrojů v rámci vývoje. Společně identifikujeme rizika práce v nástrojích, se kterými pracujete denně, a navrhneme možnosti nakládání s daty způsobem, který tým nebrzdí a zároveň v dostatečné míře eliminuje riziko úniku citlivých dat.

Naučíte se:

• Nejčastější hrozby, kterým jako vývojáři čelíme v éře AI
• Rizika a realita AI nástrojů: kam putují naše data, co AI nástroje vidí, shadow AI
• Klasifikace dat: s jakými daty AI smí pracovat, jaká data mohou a jaká data nesmí opustit firemní perimetr
• Kdy využít lokální modely, RAG a vektorové databáze
• Základy context engineeringu: jak předávat AI bezpečně správný kontext

Navážeme více praktickou částí zaměřenou na postupy během vývoje.

Naučíte se:

• Jak si nastavit AI workflow: skills, agenti, kontext, MCPs…
• Jaké nástroje volit a na základě čeho se rozhodovat
• Jak předcházet chybným výstupům, halucinacím a generovaným zranitelnostem
• Code Review v éře AI
• Guard rails a automatické testy: lokální i v CI/CD pipelines
• Bezpečná správa secrets: SSH klíče, API klíče, connection stringy…

Ve chvíli, kdy máme vývoj pod kontrolou, je čas zamyslet se, jakým způsobem můžeme posunout využití AI na další úroveň a škálovat tak možnosti, které nabízí.

Naučíte se:

• Principy AI agentů, jejich orchestrace a tvorba MCPs
• Rizika agentních systémů
• Typy útoků na AI a jejich prevence
• Sdílení postupů mezi členy týmu
• Šíření osvědčených principů napříč týmy