Nastane prelom, ktorý ohrozí ľudstvo: Experti z OpenAI bili na poplach deň pred zvláštnym vyhadzovom riaditeľa

A ako teda AI ohrozí ľudstvo? Niektorí zamestnanci OpenAI sa podľa Reuters domnievajú, že tento projekt mohol dosiahnuť prielom v pátraní po takzvanej všeobecnej umelej inteligencii (AGI). Ide o nový druh AI, o ktorom už v septembri informoval Fontech vo svojich článkoch. Mohol by totiž skutočne zapríčiniť zbytočnosť ľudí na planéte.

AGI sú v stručnosti autonómne systémy presahujúce ľudí vo väčšine ekonomicky hodnotných úloh, vysvetľuje Reuters.

Známa kuriérska spoločnosť na Slovensku pozastavuje činnosť. Svojich kuriérov viní z krádeží

Nový model AI dokázal pomocou obrovských výpočtových zdrojov riešiť isté matematické problémy. Úspešný bol zatiaľ len na úrovni žiakov základnej školy, no stále ide len o začiatok. A to dávalo výskumníkom nádej na budúci úspech Q*, píše Reuters. Vyplýva to z vyjadrení anonyma, ktorý s agentúrou spolupracoval.

Reuters však priznáva, že sa jej nepodarilo nezávisle overiť schopnosti AGI, ktoré pri projekte Q* uvádzali výskumníci.

Hranica vývoja

Experti považujú matematiku za hranicu vývoja generálnej AI. Tá je v súčasnej podobe dobrá v písaní a preklade jazykov. Ovládanie matematických výpočtov však naznačuje väčšiu mieru logického premýšľania. A to už naozaj napodobňuje fungovanie ľudskej mysle.

Takáto AI by sa dala použiť napríklad na nový vedecký výskum, veria vedci. Na rozdiel od bežnej kalkulačky, ktorá vie vyriešiť obmedzený počet operácií, AGI dokáže zovšeobecňovať, učiť sa a chápať.

Varovanie

Vráťme sa teda k listu, ktorý obdržala správna rada. Výskumníci v ňom podľa zdrojov Reuters poukázali práve na tieto schopnosti AI. A tie sa rovnajú vyššiemu nebezpečenstvu. Konkrétne bezpečnostné obavy však v liste nešpecifikovali.

Diskutovalo sa o nebezpečenstve, ktoré môžu predstavovať vysoko inteligentné stroje. Napríklad ak by sa vzali na um zničiť život na planéte. A to môže byť jednou z odpovedí na otázky, či AI ohrozí ľudstvo.

Pavol Rusko je vinný: Súd vyriekol verdikt v rámci podvodu v Majáku nádeje

Výskumníci tiež spomínali prácu „AI vedeckého tímu“. Jeho existenciu potvrdzujú viaceré zdroje. Vznikol kombináciou tímov „Code Gen“ a „Math Gen“ a skúmal, ako by sa dalo optimalizovať existujúce modely AI pre lepšie logické myslenie a vedeckú prácu.

Čo sa stalo pred odvolaním Altmana?

Generálny riaditeľ OpenAI Sam Altman viedol úsilie urobiť z ChatGPT jednu z najrýchlejšie rastúcich softvérových aplikácií v histórii. Získal tak investície a výpočtové zdroje od Microsoftu, ktoré tímu môžu pomôcť priblížiť sa k objavu AGI.

Tento mesiac predstavil niekoľko nových nástrojov a pred týždňom na samite svetových lídrov v San Franciscu naznačil, že firma má ďalšie veľké pokroky už na dohľad.

„V histórii OpenAI som štyrikrát stál v miestnosti, keď sme si akosi z tvárí vyhŕňali závoje nevedomosti a hranicu objavov sme posúvali vpred. Naposledy sa to stalo len v posledných týždňoch. A dosiahnuť niečo také je profesionálnou cťou na celý váš život,“ povedal na samite APEC.

Hneď na druhý deň mu správna rada vypovedala dôveru.