Umělá inteligence může v zaměstnání dobře sloužit, ale je zde i varování, že může nahradit lidi. Zdroj: čtk/profimedia.cz
V dnešní době už asi každý musel zaznamenat dynamický nárůst využívání umělé inteligence (AI). AI využívají i zaměstnanci, mnohdy i k plnění pracovních povinností. Jenže využívání AI zaměstnanci má mnoho právních úskalí, o kterých by jednatelé a majitelé firem měli vědět.
Jaké je zásadní riziko nerozvážného využívání AI?
Nezřídka se stává, že zaměstnanec vloží citlivá firemní data do veřejného AI modelu (třeba do ChatuGPT). Jenže na datech vložených do konkrétního AI modelu se pak takový model učí. Je dost možné, že se pak taková citlivá data objeví na místech, kde by je firma nečekala. Už jen samotným vložením do takového modelu, který se z dat učí, často dojde k porušení mlčenlivosti a může vzniknout obrovská škoda díky uniklému know-how. S tím jsou pak také často spojené vysoké smluvní pokuty – o ztrátě důvěry u konkrétního byznysového partnera ani nemluvě.
Jaká jsou rizika nekritického přejímání výstupů z AI?
Není úplnou novinkou, že výstupy generované AI nemusí být přesné, a co hůř, mohou obsahovat nelegální obsah v podobě obsahu porušujícího duševního vlastnictví jiných osob. Při použití takových výstupů ale hrozí často pokuta přímo konkrétní společnosti, která takový obsah využila.
Může mít AI předsudky?
Předpojatost a AI? I to je veliké téma… Je důležité si také uvědomit, že AI může být do určité míry předpojatá. Je totiž otázkou, na čem konkrétně se daný model (resp. systém) učil. Pokud si necháváte vyvinout nějaký AI systém, je rozhodně vhodné si sjednat, na jakých datech se má AI trénovat. Pokud si nedá firma pozor, může se díky tomu snadno dostat do křížku s antidiskriminačním zákonem.
A jak je to s AI, která pomáhá v rozhodovacích procesech?
Podle GDPR i Aktu o umělé inteligenci (který nedávno přijala EU) je zakázáno činit automatizovaná rozhodnutí bez lidského dohledu. Začínají se množit případy, kdy se AI využívá například pro účely nabírání zaměstnanců. Do AI se vloží životopisy kandidátů a AI rozhodne o zamítnutí nebo přijetí kandidáta. Takové rozhodování ale je ve velké většině případů v rozporu nejen s Aktem o umělé inteligenci, ale i v rozporu s GDPR a antidiskriminačním zákonem.
Jak je to s firemními AI chatboty?
V posledních měsících naše advokátní kancelář několikrát posuzovala možnosti nasazení AI chatbotů – především na webové stránky a na databáze HR agentur. Jejich využití s sebou nese několik zajímavých právních otázek. Nejde generálně říci, kdy je a kdy není možné konkrétního chatbota použít, nicméně firmy, které mají o jejich nasazení zájem, by měly velmi dobře zvážit zejména:
- na jakých datech chatbota trénují;
- jestli jsou si jisté, že chatbot má vždy k dispozici stoprocentně aktuální data;
- že chatbot (resp. společnost, která jej vytvořila) nezneužívá data a především osobní údaje, které do něj uživatelé vložili.
Odpovědnost za chatbota na webových stránkách řešil například soud v Kanadě, který rozhodl o tom, že společnost Air Canada odpovídá za výstupy chatbota, které byly v rozporu s obchodními podmínkami společnosti.
Využití AI chatbota tedy vždy doporučujeme pečlivě zvážit a raději konzultovat nejen s technickými, ale i právními poradci.
S ohledem na vše shora uvedené je nutné zvyšovat AI gramotnost všech zaměstnanců. Tuto povinnost dokonce stanoví i Akt o umělé inteligenci a všechny firmy jsou povinny své zaměstnance v oblasti AI a zejména v jejím správném využívání z pohledu právních předpisů proškolit.
Velmi proto doporučujeme zavést interní mechanismy (zejména formou interních směrnic), které budou stanovovat pravidla k zákonnému a přesnějšímu užívání umělé inteligence. Dále je také třeba zaměstnance v této oblasti pravidelně školit.
