V neziskové organizaci OpenAI pracují na záhadném projektu Q*, v jehož rámci se umělá inteligence údajně učí řešit matematické a logické úlohy. Výzkumníky podle listu The Guardian vyděsila efektivita AI natolik, že varovali správní radu společnosti před neřízeným vývojem. Interní dopis měl možná spojitost i s nedávným odvoláním a návratem Sama Altmana.
ChatGPT – nástroj umělé inteligence OpenAI – je mnohými považován za etalon současných programů AI, které jsou veřejně dostupné. Zřejmě ale není nic proti tomu, na čem se údajně pracuje v OpenAI a o čem veřejnost ještě příliš neví. Nová forma umělé inteligence má být natolik schopná, že vyděsila i samotné tvůrce.
VIDEO: Umí učitelé rozeznat, zda úlohu vypracoval student, nebo umělá inteligence?
Záhadný projekt nese název Q* (zkratka pro Q Star), zřejmě po vzoru pojmenování těžké neutronové hvězdy. Oproti současným variantám umělé inteligence vyniká svou schopností „přemýšlet“, informoval list The Guardian.
MOHLO BY VÁS ZAJÍMAT: Náhlé odvolání a okamžitý návrat šéfa OpenAI. Vyvine umělou inteligenci, která předčí člověka?
AI, která myslí
ChatGPT s uživatelem komunikuje. Sestaví mu jídelníček, pomůže mu s napsáním e-mailu. I když se ale zdá, že si odpovědi úplně vymýšlí, ve skutečnosti model pracuje na základě matematické pravděpodobnosti. Z naučených dat – v tomto případě neuvěřitelného množství textu – se zkrátka naučí, jak se skládají věty a jaká slova se používají v daném kontextu.
Náhlé odvolání a okamžitý návrat šéfa OpenAI. Vyvine umělou inteligenci, která předčí člověka?
Nečekaný chaos, který ovlivní budoucnost umělé inteligence. Tak technologický svět komentuje náhlé odvolání (a poté i bizarně náhlý návrat) Sama Altmana z čela projektu OpenAI – člověka, který disponuje zkušenostmi a vědomostmi o „počítačových mozcích“ jako snad nikdo jiný na světě. Altman se nikdy netajil tím, že by rád hnal vývoj umělé inteligence kupředu a ve velkém stylu. Podle mnohých byl vždy megaloman, což mohlo u mnohých členů představenstva OpenAI vyvolat obavy z toho, aby se honba za vylepšováním ChatGPT nevymkla kontrole.
Když pak ChatGPT uživateli odpovídá, v podstatě jen matematicky odhaduje další slovo. Odpovědi různým uživatelům se tak mohou dost lišit, protože variant je v případě volby a pořadí slov mnoho.
Docela jiná je situace na poli matematických výpočtů, logických problémů a faktických úloh. V takovém případě by umělá inteligence musela odpovědět striktně a věcně, bylo by zkrátka jen jediné správné řešení. A to má právě umět AI v projektu Q*.
Ba co víc. Tato umělá inteligence se umí adaptovat. Vyřeší i matematické úlohy, které by pouze na základě poskytnutých dat správně vyřešit neměla.
Hrozba pro lidstvo?
Andrew Rogoyski z Institutu pro umělou inteligenci na univerzitě v Surrey pro The Guardian uvedl, že schopnost řešit matematické problémy, které nejsou součástí tréninkové sady modelu, by byla významným pokrokem.
Tajemný projekt Q*: Umělá inteligence může ohrozit lidstvo. Šlo o důvod změn v OpenAI?
Několik výzkumných pracovníků americké společnosti OpenAI před odvoláním šéfa podniku Sama Altmana správní radu v dopise varovalo před přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo. S odvoláním na dva informované zdroje to uvedla agentura Reuters. Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala, jen aby se po několik dnech vrátil. Autoři dopisu na žádost o komentář nereagovali.
„Velká část generativní umělé inteligence přetváří existující znalosti, ať už jde o text, obrázky nebo matematiku, včetně knihoven známých matematických řešení. Pokud se vám podaří vytvořit umělou inteligenci, která dokáže vyřešit problém, a víte, že řešení ještě neviděla někde ve svých rozsáhlých tréninkových sadách, pak je to velký problém. Řešení složitých matematických úloh, které nikdo neviděl, by bylo ještě zajímavější,“ uvedl expert.
Už jen náznaky, že AI něco takového umí, měly vést v OpenAI k sepsání dopisu, ve kterém výzkumníci varovali správní radu před neřízeným vývojem projektu Q*. Podle odborníků se báli, že překotný vývoj by mohl ohrozit lidstvo.
Projekt Q* dost možná souvisí i s nedávným personálním zemětřesením v OpenAI. Z organizace byl nejprve odvolán spoluzakladatel Sam Altman, kterého následně okamžitě přetáhl Microsoft (který sám OpenAI sponzoruje). Jenže v OpenAI zaměstnanci pohrozili, že jestli půjde Altman, půjdou i oni, což by možná znamenalo i pád celého projektu.
Altman se tak nakonec vrátil. Nikdy se netajil tím, že by rád hnal vývoj umělé inteligence kupředu a ve velkém stylu. Byl vždy megaloman, což mohlo u mnohých členů představenstva OpenAI vyvolat obavy z toho, aby se honba za vylepšováním ChatGPT nevymkla kontrole.
