Firma stojaca za ChatGPT tají projekt Q*. Podľa výskumníkov je to hrozba pre ľudstvo

Podľa dvoch osôb oboznámených s vnútornými záležitosťami spoločnosti OpenAI sa 22. novembra stala nevšedná udalosť, keď mnohí výskumníci OpenAI prezentovali predstavenstvu list, v ktorom vyjadrili znepokojenie nad potenciálnym pokrokom umelej inteligencie, ktorý by podľa nich mohol predstavovať hrozbu pre ľudstvo.

Po vyšetrovaní agentúry Reuters sa spoločnosť OpenAI odmietla vyjadriť, ale priznala projekt s názvom Q* a list predstavenstvu pred nedávnymi udalosťami. Niektorí členovia OpenAI považujú Q* (vyslovuje sa Q-Star) za potenciálny prielom vo vývoji umelej všeobecnej inteligencie (Artificial General Inteligence – AGI), ktorá sa vzťahuje na systémy, ktoré môžu autonómne prekonať človeka v ekonomicky najhodnotnejších pracovných činnostiach.

Podľa správ bol nový model schopný odpovedať na niektoré matematické problémy s využitím značného výpočtového výkonu, pričom dosiahol úroveň zodpovedajúcu deťom na základnej škole. Napriek jeho obmedzenému dosahu boli výskumníci optimistickí, pokiaľ ide o budúce vyhliadky Q*, a verili, že môže dosiahnuť veľký úspech.

Agentúre Reuters sa nepodarilo nezávisle overiť tvrdenia výskumníkov o schopnostiach Q*.

Čo teda Q* vlastne je?

Humbug okolo Q* vyvolal divoké špekulácie o jeho skutočnom pôvode. Najpopulárnejšia predstava sa sústreďuje na fascinujúcu teóriu, ktorá naznačuje, že Q* môže byť kombináciou dvoch priekopníckych algoritmických schopností. Na začiatok treba povedať, že Q-learning, priekopnícky algoritmus preslávený svojím majstrovstvom v posilňovaní učenia, sa odvážil vstúpiť do oblasti postupov pokus-omyl a posunul hranice pokroku v oblasti umelej inteligencie.

Po druhé, A*, algoritmus uznávaný pre svoju úžasnú schopnosť zlepšiť hľadanie odpovedí predvídaním prekážok, znížením nákladov na výpočty a možno otvorením dverí pre mimoriadny skok v schopnostiach AI, píše portál Barrons.

Portál MIT Technology Review píše, že potenciálny vplyv Q* presahuje rámec riešenia problémov, a to do oblasti, kde by vyššie matematické porozumenie mohlo zmeniť vedecký výskum a technické aplikácie. Napríklad možnosť individuálneho vyučovania, ktorému by pomáhali odpovede generované umelou inteligenciou. Zároveň má potenciál zjednodušiť algoritmické postupy a efektívne riešiť zložité problémy.

Tento prelomový objav sa netýka len „chrúmania“ čísel; má potenciál zmeniť spôsob, akým sa učíme a používame matematiku v rôznych disciplínach, od zlepšovania technológií až po odhaľovanie nových odpovedí. Q* poskytuje portál do budúcnosti, v ktorej praktické aplikácie matematiky spolunažívajú s technologickým pokrokom.

Čím viac pozornosti, tým viac škodnej?

Zároveň tieto uniknuté správy netreba brať na veľkú váhu, keďže už v minulosti sa takéto vyhlásenia ukázali ako prehnané. Portál Barrons informoval, že v roku 2022 inžinier spoločnosti Google odvážne vyhlásil, že ich systém umelej inteligencie, ktorý bol držaný pod pokrievkou, nadobudol vedomie – čo bolo revolučné vyhlásenie, ktoré na chvíľu vzbudilo nadšenie a zároveň hrôzu.

Toto odvážne vyhlásenie však viedlo k náhlemu prepusteniu inžiniera, po ktorom nasledovalo rýchle vyvrátenie tvrdenia zo strany spoločnosti, čím sa uhasili plamene špekulácií a zhasla akákoľvek rodiaca sa nádej, že sa staneme svedkami údajného skoku umelej inteligencie k jej plnému vedomiu.

Vykopli ho, ale zamestnanci si vydupali jeho návrat. Sam Altman sa po 5 dňoch vracia do OpenAI

Tieto vlny vzrušenia síce priťahujú pozornosť, ale často prinášajú viac škody ako úžitku. Odvádzajú pozornosť od naliehavých, skutočných problémov, ktorým čelí umelá inteligencia. Okrem toho môžu správy o potenciálne prevratnej AI technológii brzdiť snahy technologického priemyslu vyhnúť sa zaťažujúcim obmedzeniam zo strany vlád.

Za prelomovú udalosť sa taktiež považuje blížiace sa prijatie rozsiahleho zákona o umelej inteligencii v EÚ. Jeho jadrom je vášnivý spor medzi zákonodarcami o to, či dať technologickým gigantom väčšie právomoci nad výkonnými modelmi AI. Tento boj má obrovské dôsledky na smerovanie odvetvia a jeho samoregulačné schopnosti, píše portál MIT Technology Review.