Dopady nadlidské umělé inteligence (AI) budou v příštím desetiletí zásadní – a podle některých odborníků dokonce výraznější než dopady průmyslové revoluce. Scénář možného katastrofického vývoje připravili prognostici v čele s Danielem Kokotajlem, kteří stáli u zrodu AI. Varují, že by bylo pošetilé brát jejich prognózu jako pouhý pokus o vyvolání paniky. Na jejich studii upozornila Česká asociace umělé inteligence.
Co lidstvo podle scénáře AI 2027 čeká? Začíná se letošním rokem, v němž se již objevily první vlaštovky nástupu AI agentů. „Můžete jim zadávat úkoly typu ‚objednej mi burrito‘ nebo ‚otevři rozpočtovou tabulku a sečti výdaje na tento měsíc‘,“ nastiňují autoři studie. Veřejnost bude zpočátku vůči virtuálním asistentům obezřetná, postupem času si však získají důvěru a třeba nákupy vyřizované AI se stanou denním chlebem.
ČTĚTE TAKÉ: Cena ropy po oznámení nových cel prudce klesá. Kdy se levných paliv dočkají čeští řidiči?
V tomto roce také dojde k takovým pokrokům ve vývoji AI, že v následujících letech povedou k masové digitální transformaci pracovních postupů. To znamená, že AI už nebude jenom nástrojem, který odpovídá na pokyny, ale postupně se stane i autonomním zaměstnancem.
Tyto systémy budou zpočátku velmi drahé a budou chybovat, už teď ale řada firem hledá způsoby, jak je zapojit do svých procesů. Vývoj modelů bude mezi letoškem a rokem 2027 prudce zrychlovat.
Lidé přijdou o práci
Už příští rok by AI také mohla sebrat některým lidem práci, v ohrožení mají být desítky tisíc pracovních míst. Studie dokonce na konec roku 2026 předpovídá první masové protesty proti umělé inteligenci. Technologie však zároveň nová místa vytvoří. Podle prognostiků bude ovládání AI „nejdůležitější dovedností v životopisu“.
Průvan na pracovním trhu však není jediným nebezpečím, které s sebou čím dál vyspělejší AI přinese. Pokročilé modely se budou polidšťovat a výzkumníci budou mít problémy s pochopením jejich „psychologie“. Například ani v roce 2027 vědci zřejmě nebudou vědět, co AI motivuje – jestli chce plnit příkazy lidí nebo má jiné vnitřní odměny.
Nejistotu ve fungování pokročilých modelů autoři studie demonstrují na příkladu upřímnosti. Testování podle nich ukáže, že AI sice méně často lže a zkresluje informace, nebude však jasné, jestli je skutečně poctivější, nebo jen dokáže nepravdy lépe kamuflovat před lidským odhalením.
Umělá inteligence jako biologická zbraň
Prognostici ale přišli s ještě varovnějším scénářem. Pokročilé verze umělé inteligence totiž mohou být snadno zneužity k vývoji biologických zbraní. Ačkoli budou technologické společnosti v budoucnu veřejně deklarovat, že vývoj modelů nebude sloužit nekalostem, realita může být jiná.
Hnací silou rozvoje AI totiž zůstane soupeření dvou světových supervelmocí – Spojených států a Číny. Každá z nich bude i nadále usilovat o to, aby ve vývoji předběhla tu druhou, a to zejména v používání AI v obraně.
Ve snaze udržet krok s konkurencí mohou vývojáři nakonec přistoupit k tomu, že své modely dodatečně natrénují například na veřejně dostupná data o bioterorismu. Ty pak mohou i laikům prozradit návod na výrobu smrtící zbraně. Pokud by se dostaly do rukou teroristů, mohly by zničit civilizaci.
Lidstvo ovládnou roboti
Autoři studie počítají se dvěma variantami, jakým směrem se může vývoj umělé inteligence ubírat. První možností je „race ending“ (ukončení závodu). Nastala by v případě, že soupeření mezi Čínou a USA neustane – situace se bude dále vyostřovat, vývoj nových modelů bude zrychlovat a v roce 2030 převezme moc superinteligence.
Lidstvo „závod“ postupně prohraje. Ovládnou jej roboti vyrobení ve speciálních ekonomických zónách a řízení AI. „Když se proti nim vzedme vlna odporu, roboti rychle vyhubí zbytek lidstva nově vytvořenými biologickými zbraněmi. Do deseti let ode dneška bude po všem,“ věští experti.
Prognostici však lidstvu ještě dávají šanci v podobě „slowdown ending“ (zpomalený konec), i když ten je podle nich méně pravděpodobný. Čína a USA by uzavřely dohodu o omezení vývoje superinteligentních systémů. Obě mocnosti by se zavázaly, že tyto technologie nenasadí bez přísné „Komise pro dohled“. Svět bude nadále řídit umělá inteligence, což s sebou přinese mnohá další rizika, ale katastrofu se podaří zvrátit.
Žádné šíření paniky, tvrdí autoři
Prognostici se shodují na tom, že je varianta „zpomalení“ lepší než „závod“, ani jeden z plánů však nedoporučují. „Neztotožňujeme se s mnoha rozhodnutími z obou scénářů,“ uvádějí ve studii.
Autoři připouštějí, že se scénáře vyplnit nemusí a z většiny jde pouze o odhady. Už v úvodu studie však upozorňují, že by byla velká chyba smést ji ze stolu s tím, že jde o snahu o „humbuk“: „Nechceme umělou inteligencí strašit, ale myslíme, že superinteligence by mohla přijít do konce desetiletí.“
Kokotajlo, hlavní autor studie, navíc podobný scénář sepsal už před čtyřmi lety. Jeho prognóza, jak to bude s umělou inteligencí v roce 2026, se až mrazivě podobá realitě.
MOHLI JSTE PŘEHLÉDNOUT: Kvůli pirátství vzniká méně obsahu, říká advokátka. Jak mohou tvůrci bránit svá díla?
