Firma stojaca za ChatGPT tají projekt Q*. Podľa výskumníkov je to hrozba pre ľudstvo

  • Svetoznámy ChatGPT od spoločnosti OpenAI bude možno čoskoro vedieť prekonať svoje chyby
  • Ako vlny vzrušenia môžu oslabiť vývoj umelej inteligencie?
Sam Altman na developerskej konferencii Microsoftu
AP Photo/Barbara Ortutay, File
  • Svetoznámy ChatGPT od spoločnosti OpenAI bude možno čoskoro vedieť prekonať svoje chyby
  • Ako vlny vzrušenia môžu oslabiť vývoj umelej inteligencie?

Podľa dvoch osôb oboznámených s vnútornými záležitosťami spoločnosti OpenAI sa 22. novembra stala nevšedná udalosť, keď mnohí výskumníci OpenAI prezentovali predstavenstvu list, v ktorom vyjadrili znepokojenie nad potenciálnym pokrokom umelej inteligencie, ktorý by podľa nich mohol predstavovať hrozbu pre ľudstvo.

Po vyšetrovaní agentúry Reuters sa spoločnosť OpenAI odmietla vyjadriť, ale priznala projekt s názvom Q* a list predstavenstvu pred nedávnymi udalosťami. Niektorí členovia OpenAI považujú Q* (vyslovuje sa Q-Star) za potenciálny prielom vo vývoji umelej všeobecnej inteligencie (Artificial General Inteligence – AGI), ktorá sa vzťahuje na systémy, ktoré môžu autonómne prekonať človeka v ekonomicky najhodnotnejších pracovných činnostiach.

Podľa správ bol nový model schopný odpovedať na niektoré matematické problémy s využitím značného výpočtového výkonu, pričom dosiahol úroveň zodpovedajúcu deťom na základnej škole. Napriek jeho obmedzenému dosahu boli výskumníci optimistickí, pokiaľ ide o budúce vyhliadky Q*, a verili, že môže dosiahnuť veľký úspech.

Agentúre Reuters sa nepodarilo nezávisle overiť tvrdenia výskumníkov o schopnostiach Q*.

Čo teda Q* vlastne je?

Humbug okolo Q* vyvolal divoké špekulácie o jeho skutočnom pôvode. Najpopulárnejšia predstava sa sústreďuje na fascinujúcu teóriu, ktorá naznačuje, že Q* môže byť kombináciou dvoch priekopníckych algoritmických schopností. Na začiatok treba povedať, že Q-learning, priekopnícky algoritmus preslávený svojím majstrovstvom v posilňovaní učenia, sa odvážil vstúpiť do oblasti postupov pokus-omyl a posunul hranice pokroku v oblasti umelej inteligencie.

Po druhé, A*, algoritmus uznávaný pre svoju úžasnú schopnosť zlepšiť hľadanie odpovedí predvídaním prekážok, znížením nákladov na výpočty a možno otvorením dverí pre mimoriadny skok v schopnostiach AI, píše portál Barrons.

Portál MIT Technology Review píše, že potenciálny vplyv Q* presahuje rámec riešenia problémov, a to do oblasti, kde by vyššie matematické porozumenie mohlo zmeniť vedecký výskum a technické aplikácie. Napríklad možnosť individuálneho vyučovania, ktorému by pomáhali odpovede generované umelou inteligenciou. Zároveň má potenciál zjednodušiť algoritmické postupy a efektívne riešiť zložité problémy.

Tento prelomový objav sa netýka len „chrúmania“ čísel; má potenciál zmeniť spôsob, akým sa učíme a používame matematiku v rôznych disciplínach, od zlepšovania technológií až po odhaľovanie nových odpovedí. Q* poskytuje portál do budúcnosti, v ktorej praktické aplikácie matematiky spolunažívajú s technologickým pokrokom.

Čím viac pozornosti, tým viac škodnej?

Zároveň tieto uniknuté správy netreba brať na veľkú váhu, keďže už v minulosti sa takéto vyhlásenia ukázali ako prehnané. Portál Barrons informoval, že v roku 2022 inžinier spoločnosti Google odvážne vyhlásil, že ich systém umelej inteligencie, ktorý bol držaný pod pokrievkou, nadobudol vedomie – čo bolo revolučné vyhlásenie, ktoré na chvíľu vzbudilo nadšenie a zároveň hrôzu.

Toto odvážne vyhlásenie však viedlo k náhlemu prepusteniu inžiniera, po ktorom nasledovalo rýchle vyvrátenie tvrdenia zo strany spoločnosti, čím sa uhasili plamene špekulácií a zhasla akákoľvek rodiaca sa nádej, že sa staneme svedkami údajného skoku umelej inteligencie k jej plnému vedomiu.

Tieto vlny vzrušenia síce priťahujú pozornosť, ale často prinášajú viac škody ako úžitku. Odvádzajú pozornosť od naliehavých, skutočných problémov, ktorým čelí umelá inteligencia. Okrem toho môžu správy o potenciálne prevratnej AI technológii brzdiť snahy technologického priemyslu vyhnúť sa zaťažujúcim obmedzeniam zo strany vlád.

Za prelomovú udalosť sa taktiež považuje blížiace sa prijatie rozsiahleho zákona o umelej inteligencii v EÚ. Jeho jadrom je vášnivý spor medzi zákonodarcami o to, či dať technologickým gigantom väčšie právomoci nad výkonnými modelmi AI. Tento boj má obrovské dôsledky na smerovanie odvetvia a jeho samoregulačné schopnosti, píše portál MIT Technology Review.

Čítajte viac z kategórie: Zahraničie

Zdroje: Barrons, MIT Technology Review, Reuters

Najnovšie videá

Trendové videá