Plenární zasedání Evropského parlamentu ve Štrasburku Zdroj: ČTK / DPA / Philipp von Ditfurth
Návrh pravidel pro fungování umělé inteligence (AI), která by se mohla stát první regulací tohoto odvětví na světě, schválili ve středu poslanci Evropského parlamentu (EP). Například generativní systémy AI, jako je třeba ChatGPT, budou muset být podle nových pravidel označeny tak, aby bylo jasné, že obsah byl vytvořen umělou inteligencí. Vzniknout má rovněž úřad pro AI, který má vedle národních kontrolních úřadů na dodržování nových pravidel dohlížet. Finální verzi regulace nyní dojedná EP s členskými zeměmi EU.
Asi největší spor se v EP vedl o používání AI k biometrickému sledování v reálném časem, tedy užití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávají zneužití AI autoritativními režimy.
„Tady se střetává otázka soukromí a bezpečnosti,“ řekla ve Štrasburku místopředsedkyně EP Dita Charanzová (ANO). „Systém rozpoznávání obličejů potřebujeme využít například při únosech dětí či při hrozbě teroristických útoků,“ dodala.
MOHLO BY VÁS ZAJÍMAT: Nekula má skončit na ministerstvu zemědělství. Nahradí ho Výborný, prozradil zdroj z KDU-ČSL
Podle Charanzové unijní pravidla nastavením mantinelů v AI také dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“. Podle české místopředsedkyně EP bylo cílem při vytváření těchto pravidel také zvýšit důvěru spotřebitelů v tyto systémy. Unijní pravidla pro regulaci vznikala zhruba dva roky, postupně byla rozšířena, například o pravidla pro ChatGPT.
Umělé inteligence dokážou být tak přesvědčivé, že běžný uživatel internetu ani nepozná, že hovoří s AI. Právě proto unijní pravidla zahrnují povinnost transparentnosti, tedy aby uživatel poznal, že jde o systém umělé inteligence.
Nová pravidla pro ChatGPT
Úplně zakázány mají být nástroje AI k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz neplatí pro lékařské a výzkumné účely. Nová pravidla zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy automaticky třídící občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.
Zavádějí se také pravidla pro programy typu ChatGPT. Jejich provozovatelé se budou muset registrovat do databáze. Tam uvedou, odkud čerpají data, z nichž se program učí.
Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, vyjádřila v posledních týdnech řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jenž je považován za „kmotra umělé inteligence“. Altman například navrhl, aby na AI dohlížela organizace podobná Mezinárodní agentuře pro atomovou energii.
