Bezpečné, etické a smysluplné využívání služeb umělé inteligence (AI) na VŠE v Praze (SR 3/2026)

Anotace

Vymezení pojmů

1. KC-AI: Kompetenční centrum AI – je tým na provoz a rozvoj AI, jehož základem je oddělení KC AI, které je součástí Centra informatiky. Součástí týmu KC AI jsou i externí členové v roli AI mentorů
2. AI služba: digitální systém využívající metody strojového učení nebo jiné techniky umělé inteligence ke vytváření či zpracování obsahu, dat či informací, od interaktivních chatbotů po autonomní vykonávání úkolů.
3. Chráněné informace označuje následující skupiny informací:
   1. Osobní údaje dle GDPR,
   2. Neveřejné a důvěrné informace VŠE,
   3. Informace, při jejichž zpracování pomocí AI služby by mohlo dojít k porušení autorského zákona, obchodního zákoníku či jiných zákonů.

4. Posuzování rizikového přístupu v užívání AI služeb probíhá v následující škále:
   1. Zakázané
   2. Rizikové
   3. Povolené

Článek 1
Účel a působnost

1. Tato směrnice stanovuje základní principy, pravidla, pravomoci a odpovědnosti pro používání služeb umělé inteligence (dále jen „AI“) na Vysoké škole ekonomické v Praze (dále jen „VŠE“) pro zajištění efektivního, smysluplného, bezpečného, etického, odpovědného a udržitelného využití AI služeb.
2. Směrnice má celoškolní působnost a vztahuje se na oprávněné uživatele podle čl. 2 odst. 1, kteří v souvislosti s prací nebo jinou obdobnou činností vykonávají následující činnosti:

1. 1. Závislou práci vykonávanou v pracovněprávním vztahu.
   2. Službu.
   3. Dobrovolnickou činnost.
   4. Odbornou praxi nebo stáž.
   5. Studium.

Článek 2
Governance AI služeb – role, pravomoci a odpovědnosti

1. AI služby mohou využívat pouze oprávnění uživatelé (dále též uživatelé).
   1. Oprávnění uživatelé používají AI služby zodpovědně, eticky a bezpečně.
   2. Oprávněnými uživateli se rozumí:
      1. zaměstnanci Vysoké školy ekonomické v Praze v rozsahu potřebném k plnění pedagogických, vědeckých a dalších pracovních povinností vyplývajících z jejich pracovní náplně na Vysoké škole ekonomické v Praze,
      2. studenti Vysoké školy ekonomické v Praze v rozsahu potřebném k plnění studijních a dalších povinností vyplývajících ze studijního poměru na Vysoké škole ekonomické v Praze,
      3. jiné osoby, kterým bylo na základě smluvního ujednání vydáno povolení k užívání AI služeb (zpravidla formou přidělení uživatelského jména a licence k AI službě).
2. Pro schválení užívání AI služby v prostředí VŠE rozhoduje datový režim poskytovatele AI služby a právní rámec ČR takto:
   1. Je uzavřena smlouva mezi VŠE a poskytovatelem AI služby.
   2. Ze strany VŠE je akceptována smlouva o zpracování osobních údajů (DPA), která zaručuje, že poskytovatel AI služby nakládá s daty v souladu s GDPR, tj. nezneužije a neprotrénuje na nich své modely, pokud VŠE do AI služby vkládá klientská či univerzitní data.
   3. Jsou zakázány veškeré bezplatné (free/spotřebitelské) AI služby bez institucionální smlouvy a bez prověřené smlouvy o zpracování osobních údajů (DPA).
3. Vedoucí zaměstnanci zajišťují, aby používání AI služeb jimi a jejich podřízenými bylo v souladu s touto směrnicí.
4. Univerzitou pověřené osoby k dobrovolnickým nebo smluvním činnostem zajišťují, že osoby, které pro ně vystupují na VŠE nebo vykonávají svou činnost dobrovolnicky, jsou seznámeny s touto směrnicí a ve sjednaných činnostech jednají v souladu s touto směrnicí.
5. Vedení VŠE:
   1. Podporuje rozvoj kompetencí v oblasti AI, zejména v kontextu managementu, ekonomiky a rozhodování.
   2. Schvaluje pravidla etiky a bezpečnosti AI služeb.
   3. Odpovídá za nastavení AI governance k plnění právního rámce ČR pro rozvoj a provoz AI služeb.
   4. Odpovídá za soulad AI strategie se Strategickým záměrem VŠE.
6. Kompetenční centrum AI (KC AI) je kontrolní a operativní orgán pro AI na VŠE a zejména koordinuje:
   1. Efektivní, smysluplné, bezpečné a etické využití AI.
   2. Návrhy a změny jednotných pravidel, standardů a metodik.
   3. Aktivní podporu transferu know-how a nejlepších praktik.
   4. Rozvoj AI gramotnosti a podporu vzdělávání uživatelů AI služeb v oblasti možností, limitů, rizik, bezpečnosti a odpovědného používání AI.
   5. Selektivní nebo úplnou implementaci AI služeb v rámci životního cyklu zavádění AI služeb.
   6. Mapování AI iniciativ.

Článek 3
Základní principy používání AI služeb na VŠE

1. Používání AI služeb na VŠE se řídí zejména těmito principy:
   1. Efektivita – AI služba je využívána tak, aby podporovala produktivitu, kvalitu a minimalizovala finanční náklady.
   2. Smysluplnost – AI služby jsou využívány tehdy, pokud prokazatelně přispívají ke kvalitě výuky, studia, výzkumu nebo řízení univerzity.
   3. Bezpečnost – Při používání AI služby uživatel zajišťuje ochranu informací, dat a know-how VŠE i autorských práv třetích stran. Uživatelé si jsou vědomi osobní odpovědnosti za informace vkládané do AI služeb.
   4. Etika a integrita – používání AI služeb nesmí narušovat akademickou integritu, poctivost a odpovědnost jednotlivce. Uživatelé AI služeb si jsou vědomi omezení AI služeb a své osobní odpovědnosti za publikované výsledky vzniklé použitím AI služeb.
   5. Transparentnost – používání AI služeb je dokumentovatelné a zdroje pro výstupní tvrzení z AI jsou dohledatelné. Uživatelé AI služeb si jsou vědomi omezení AI služeb a své osobní odpovědnosti za výsledky použití AI služeb. Za splnění transparentnosti je považováno, že výstup z AI je jasně označen.
   6. Rizikově orientovaný přístup – při používání AI služeb musí být zohledněna povaha a míra rizika konkrétního využití AI, zejména pokud může mít dopad na práva, povinnosti, hodnocení nebo postavení studentů, zaměstnanců nebo dalších osob.
   7. Lidský dohled a kritické ověřování – výstupy AI služeb musí být vždy přiměřeně ověřeny člověkem, zejména pokud mohou mít dopad na rozhodování, hodnocení, výzkum nebo práva a povinnosti dalších osob.
   8. Nediskriminace a férovost – při používání AI služeb je třeba přiměřeně zohledňovat riziko zkreslení, diskriminace nebo neobjektivních výstupů.
   9. Proporcionalita – pravidla a omezení při používání AI služeb musí odpovídat povaze konkrétního použití, míře rizika a možným dopadům na dotčené osoby a akademické prostředí.

Článek 4
Etika používání AI služeb

AI služby a jejich výstupy musí být užívány v souladu s obecnými etickými principy a zásadami obsaženými v Etickém kodexu Vysoké školy ekonomické. Minimálně musí být splněny následující etické zásady:

1. AI služba by měla sloužit jako nástroj na podporu rozhodování, nikoliv jako jeho náhrada.
2. Za výstupy práce vždy nese odpovědnost konkrétní uživatel AI služby.
3. Vždy by mělo být jasně označeno, pokud je text, obrázek či kód vytvořen pomocí AI služby.
4. Do veřejně dostupných AI služeb nesmí být bez odpovídajícího právního titulu nebo schválení Kompetenčním centrem AI vkládány neveřejné osobní údaje, důvěrné informace, obchodní tajemství nebo autorsky chráněný obsah, pokud by mohlo dojít k jejich dalšímu využití poskytovatelem AI služby.
5. Rozhodnutí AI služby s významným dopadem na práva, povinnosti nebo postavení studentů, zaměstnanců či dalších osob nesmí být činěna výhradně automatizovaně bez odpovídajícího lidského posouzení.

Článek 5
Transparentnost používání AI služeb

1. Uživatelé informačních služeb VŠE musí být informováni, pokud komunikují s AI systémem nebo službou.
2. Generovaný obsah AI službou používaný ve výuce, administrativě nebo komunikaci musí být označen.
3. Generovaný deepfake obsah a syntetická média musí být jednoznačně označena.
4. Pokud je výstup AI služby použit jako podklad pro rozhodnutí nebo hodnocení konkrétní osoby, musí být na žádost umožněno přiměřené vysvětlení způsobu použití AI a lidský přezkum výsledku.
5. Výstupy nástrojů pro detekci obsahu vytvořeného AI nesmí být samy o sobě považovány za důkaz porušení studijních nebo pracovních povinností a musí být vždy podrobeny individuálnímu lidskému posouzení.

Článek 6
Povolené a doporučené způsoby využití AI služeb

1. Doporučené způsoby využití AI služeb na VŠE jsou:
   1. Vysvětlování pojmů či postupů nebo brainstorming nápadů.
   2. Konzultace postupů pro práci s daty.
   3. Příprava studijních podkladů.
   4. Strukturování textů.
   5. Shrnutí informací.
   6. Návrhy variant řešení.
   7. Rešerše a vyhledávání odborných zdrojů a orientační shrnutí literatury.
   8. Kontrola pravopisu, gramatiky, úprava citačního aparátu, úprava formátu a stylistiky textu, tabulek a grafů, pokud nedochází ke změně významu sdělení.
   9. Použití ke strojovému překladu textu, který je součástí odevzdané práce. Rozsah přeloženého textu nesmí zasahovat do autorského přínosu práce. Pokud jde o cizí text (pasáž z knihy), musí být text označen v souladu s citačními pravidly.
2. Použití AI služby jako jazykové, technické nebo podpůrné asistence není samo o sobě porušením akademické integrity, pokud nedochází k nahrazení vlastního odborného, analytického nebo tvůrčího přínosu autora.
3. Povolené způsoby využití AI služby pro agentní chování, automatizaci či jednorázové akce lze realizovat jen, pokud:
   1. Nedochází ke změně a mazání chráněných informací.
   2. Nedochází k negativnímu ovlivňování provozu informačních systémů VŠE.
4. Rozsah povinnosti uvést použití AI služby by měl odpovídat míře jejího vlivu na výsledný výstup.
5. Použití AI služeb nesmí vést k rezignaci na vlastní odborný úsudek, kritické myšlení nebo odpovědnost za výsledný výstup.

Článek 7
Zakázané a rizikové způsoby využití AI služby

1. Je zakázáno:
   1. Používat Kompetenčním centrem AI neevidované, neschválené a zakázané AI služby.
   2. Používat pro pracovní činnost s neveřejnými nebo interními informacemi osobní soukromé účty u veřejných AI služeb.
   3. Vkládat do AI služeb osobní údaje, citlivá data nebo neveřejné informace v rozporu s GDPR a interními předpisy VŠE, viz článek 4.
   4. Vydávat výstupy AI služeb za vlastní odbornou nebo tvůrčí práci bez odpovídajícího přiznání použití AI, viz článek 4.
   5. Používat AI služby k obcházení studijních povinností, hodnocení nebo kontrolních mechanismů, viz článek 4.
   6. Jakékoliv jiné využití AI služby směřující k neoprávněnému nebo k nezaslouženému osobnímu zisku (jak finanční, tak nefinanční osobní výhody), např. viz článek 3 1, písm. d.
   7. Neoprávněně využívat AI služby k porušování práv duševního vlastnictví.
2. Rizikové použití AI služby:
   1. 1. Musí být vždy konzultováno s nadřízeným, v případě nejasností z kontextu nebo právního rámce zamýšleného užití AI služby, pak s alespoň s jedním z následně uvedených: Kompetenčním centrem AI, garantem předmětu, řešitelem výzkumného
      2. Je považováno vydávání generovaných výstupů z AI služby za vlastní originální práci, tj. neuvedení využití služby AI formou citace nebo prohlášení, pokud se nejedná o povolené využití AI bez povinnosti uvedení.
      3. Je považováno v konfiguraci jako autonomní agenty k vytěžování dat a informací z informačních systémů VŠE bez schválení Kompetenčním centrem AI.
3. Za rizikové použití AI služeb se považuje zejména:
   1. Použití AI při hodnocení studentů.
   2. Použití AI při personálním rozhodování.
   3. Profilování
   4. Automatizované doporučování nebo klasifikace
   5. Zpracování citlivých nebo neveřejných údajů.
   6. Použití AI v disciplinárních nebo kontrolních řízeních.
4. Porušení pravidel použití AI služeb se řeší dle příslušných zákonů a vnitřních předpisů. V případě porušení pravidel používání AI v této směrnici:
   1. V oblasti výuky řeší pochybení fyzické osoby studenta Disciplinární komise příslušné fakulty.
   2. V oblasti pracovně právního vztahu řeší pochybení fyzické osoby Děkan, případně Etická komise či Interní kontrolor.
   3. V oblasti obchodně právního vztahu řeší pochybení fyzické osoby Právní oddělení.
   4. V oblastech jiných než výše uvedených nebo do stavu určení fyzické osoby řeší pochybení fyzické osoby Kompetenční centrum AI, případně Interní kontrolor.

Článek 8
Evidence AI služeb

1. Centrum informatiky vede centrální evidenci AI služeb využívaných v:
   1. Administrativě.
   2. Výuce.
   3. Výzkumu.
   4. Infrastruktuře.
   5. Informačních systémech.
2. Evidence AI služby obsahuje:
   1. Název AI služby.
   2. Použitý AI model a poskytovatel a datový režim AI služby (zero-data-retention, formulovaný rozsah zpracování dat).
   3. Rozsah potřebných oprávnění k systémům VŠE a způsob ovládání AI služby (desktop nástroj, WWW klient, REST API rozhraní).
   4. Forma chování AI služby (agentní, neagentní).
   5. Účel použití AI služby na VŠE.
   6. Očekávaný přínos zvolení konkrétního řešení AI služby.
   7. Uvedení Garanta AI služby.
   8. Typ zpracovávaných dat.
   9. Popis financování.
3. Evidování AI služby musí být zajištěno před zahájením využívání.
4. Povinnost evidence AI služeb se vztahuje na AI služby, které ovlivňují zákonné povinnosti VŠE, zejména:
   1. Používané systémově.
   2. Integrované do systémů VŠE.
   3. Využívané ke zpracování neveřejných, citlivých nebo významných institucionálních dat.
5. Používání neevidovaných AI služeb formulovaných v 4 je zakázáno.

Článek 9
Bezpečnost AI služeb

1. Je zaměřena na plnění zákonných požadavků univerzity, tj.:
   1. Zpracování a ochranu osobních informací vkládaných do zpracování AI služeb v internetu nebo Cloud prostředí v kontextu GDPR.
   2. Zpracování a ochranu dat z výzkumu a vědy v kontextu dle zákona č. 328/2025 Sb., Zákon o výzkumu, vývoji, inovacích a transferu znalostí.
   3. Ochranu informací a kybernetické bezpečnosti dle zákona č. 264/2025 Sb., o kybernetické bezpečnosti.
   4. Ochranu autorských práv dle zákona č. 121/2000 Sb., o právu autorském, o právech souvisejících s právem autorským a o změně některých zákonů (autorský zákon).
2. Je zaměřena na minimalizaci případné škody či na jiné negativní důsledky způsobené provozem AI služeb na VŠE.
   Uživatelé AI služeb:
   1. Smí používat jen povolené a schválené standardy AI služeb uvedené v článku 11 odst. 1.
   2. Smí používat AI služby povoleným způsobem uvedeným v článku 4 a 6.
   3. Odpovídají za důsledné ověřování spolehlivosti výstupů z AI služeb: jejich správnosti, aktuálnosti, pravdivosti, ale i nezávadnosti.
   4. Nesmí používat agentní AI služby proti univerzitním informačním systémům z důvodů negativního vlivu na dostupnost informačních systémů a zkreslování detekce anomálních projevů uživatelů k odlišení legitimního a nelegitimního chování, viz článek 7, odst. 1.
3. AI služby provozované na VŠE musí umožňovat auditovatelné logování činností.
4. Logování AI služeb musí zahrnovat zejména:
   1. Identifikaci uživatele.
   2. Čas použití.
   3. Použitý AI
   4. Vstupy a výstupy
   5. Metadata rozhodování.
   6. Informace o automatizovaných akcích.
5. Log záznamy AI služeb musí být:
   1. Automaticky generované.
   2. Chráněné proti neoprávněné změně.
   3. Uchovávané minimálně 6 měsíců.
   4. Dostupné pro audit a bezpečnostní analýzu.
6. Bezpečnost AI služeb monitoruje Kompetenční centrum

Článek 10
Bezpečnostní incidenty v AI službách

1. Za bezpečnostní incident v AI službách se považuje zejména:
   1. Únik dat prostřednictvím AI služby.
   2. Neautorizované použití AI služby.
   3. Manipulace výstupů AI služby.
   4. Halucinování AI služby s dopadem na provoz interního workflow nebo univerzitní agendy.
   5. Kompromitace AI služby.
   6. Neoprávněné agentní chování AI služby.
2. Bezpečnostní incidenty v AI službách musí být neprodleně hlášeny Centru informatiky – Manažer KB.
3. Manažer KB vede evidenci bezpečnostní incidenty v AI službách a provádí jejich vyhodnocování.

Článek 11
Standardy AI služeb pro provoz, administrativu, tvůrčí činnost a vzdělávání

1. Povolené standardy AI služeb VŠE jsou:
   1. Schvalovány Vedením VŠE v souladu s koncepcí Kompetenčního centra AI na VŠE.
   2. Evidovány Kompetenčním centrem AI.
   3. Uvedeny na webové stránce Centra informatiky.
2. Z nařízení NÚKIB je zakázán AI nástroj DeepSeek. Jeho používání je monitorováno bezpečnostními nástroji Centra informatiky. Pozitivní nález používání DeepSeek je považován za bezpečnostní incident a porušení tohoto zákazu může být posuzováno jako porušení interních bezpečnostních pravidel.

Článek 12
Závěrečná ustanovení

1. Tato směrnice nabývá účinnosti dnem podpisu
2. Směrnice bude pravidelně přezkoumávána a aktualizována zejména s ohledem na technologický vývoj, regulatorní změny, bezpečnostní rizika a zkušenosti z praktického používání AI služeb na VŠE.
3. Tato směrnice je závazná pro všechny součásti VŠE.