Ilustrační foto Zdroj: profimedia.cz / ČTK
Několik výzkumných pracovníků americké společnosti OpenAI před odvoláním šéfa podniku Sama Altmana správní radu v dopise varovalo před přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo. S odvoláním na dva informované zdroje to uvedla agentura Reuters. Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala, jen aby se po několik dnech vrátil. Autoři dopisu na žádost o komentář nereagovali.
Společnost OpenAI vyvinula populární nástroj ChatGPT. Altman po vyhazovu přešel do Microsoftu, který firmu OpenAI podporuje. Když ale většina zaměstnanců OpenAI pohrozila odchodem, pokud se Altman do šéfovského křesla nevrátí, věci nabraly nový směr. Za jeho návrat do čela společnosti lobbovali i významní investoři. Altman se tak v úterý po bouřlivém vývoji do čela firmy vrátil.
Více o zvláštních okolnostech odvolání a návratu Sama Altmana si přečtěte zde.
Zdroje pro agenturu Reuters uvedly, že dopis byl jedním z mnoha faktorů, které vedly k Altmanovu odvolání. Dalším důvodem podle nich byly obavy z komerčního využití objevu před pochopením jeho důsledků.
Projekt Q*
Společnost OpenAI věc nekomentovala. V interním dopise zaměstnancům potvrdila existenci projektu nazvaného Q* (zkratka pro Q Star) i existenci dopisu, jejž správní rada obdržela před dramatickými víkendovými událostmi.
Někteří zaměstnanci OpenAI se domnívají, že projekt Q* by mohl být průlomem v hledání takzvané obecné umělé inteligence (AGI), řekl jeden z nich Reuters. OpenAI definuje AGI jako autonomní systémy, které překonají člověka ve většině ekonomicky hodnotných úkolů.
Pokrok v matematice
Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se přitom mohou značně lišit. Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování, připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.
Na rozdíl od kalkulačky, která dokáže řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.
V budoucnu hrozí etický střet, varují čeští odborníci
Situace kolem OpenAI je podle ředitele České asociace umělé inteligence Lukáše Benzla jedním velkým střetnutím světa výzkumu, byznysu a napjatých vztahů mezi jednotlivci. „Diskutovaným přelomovým objevem podle dohadů není obecná AI řešící úlohy stejně dobře, nebo dokonce lépe než člověk, ale ještě schopnější AI předbíhající připravenost stávajících systémů z pohledu regulace, etiky či pracovního trhu,“ podotkl. Aktuální predikce komunity týkající se nasazení AGI přitom podle něj hovoří o roce 2031.
Pokud by výzkum v oblasti umělé inteligence skutečně postupoval takto rychle, je podle vedoucího týmu dat a AI ve firmě Creative Dock Adama Hanky možné, že by to znamenalo významnou změnu v současném chápání schopností umělé inteligence. „Přístup Sama Altmana může vyvolávat pochybnosti o tom, zda má OpenAI dostatečně na paměti etickou rovinu technologie, na jejímž rozvoji pracuje,“ podotkl.
MOHLO VÁM UNIKNOUT: Umělá inteligence může být pomocí i hrozbou
