Agentura Evropské unie pro základní lidská práva varuje před riziky využívání umělé inteligence při prediktivní policejní kontrole, lékařské diagnostice či cílené reklamě. Jde o reakci na chystané přijetí unijních pravidel pro řešení výzev, které přináší využívání nových technologií. Informovala o tom agentura Reuters.
Umělá inteligence je již nyní široce využívána policejními orgány a lidskoprávní skupiny tvrdí, že je zneužívána autoritářskými režimy k diskriminaci nepohodlných osob. Kritici se proto obávají porušování základních lidských práv a pravidel ochrany osobních údajů.
Agentura EU pro základní lidská práva se sídlem ve Vídni vyzvala v pondělní politiky, aby poskytli více pokynů, jak stávající pravidla aplikovat na umělou inteligenci, aby budoucí zákony, které se na ni budou vztahovat, zabezpečily ochranu základních lidských práv.
Umělou inteligenci vytvořili lidé – a ti dělají chyby
„Umělá inteligence není neomylná, je vytvořená lidmi – a ti mohou dělat chyby. Proto musí občané vědět, kde je využívána, jak pracuje a jak případně zpochybnit její automatická rozhodnutí,“ uvedl v prohlášení ředitel agentury Michael O’Flaherty.
Roboti v ulicích i nad hlavou. Jak umělá inteligence přispívá k boji s pandemií?
Kvůli koronaviru se ocitly v karanténě miliony lidí po celém světě. Na mnoha místech tak práci těch, kteří se běžně pohybovali v terénu, musely převzít moderní technologie. Umělá inteligence pronikla do zdravotnictví, pomáhá trasovat nakažené nebo asistuje restauratérům.
Zprávu agentura vydala v době, kdy Evropská komise uvažuje o legislativě na příští rok zahrnující vysoce rizikové oblasti, jako je zdravotní péče, energetika, doprava a některé další části veřejného sektoru.
Podle agentury musí pravidla související s umělou inteligencí respektovat všechna základní lidská práva, zaručit lidem, aby mohli případně napadnout rozhodnutí přijatá AI. Firmy má nutit k tomu, aby byly schopné vysvětlit, jak jejich AI systémy rozhodují. Rovněž by se měly podrobit dalšímu zkoumání eventuální diskriminační efekty spojené s umělou inteligencí.
Zpráva agentury je založena na více než sto rozhovorech s veřejnými i soukromými organizacemi, které již umělou inteligenci využívají například v Estonsku, Finsku, Francii, Nizozemsku a Španělsku.