AI je nebezpečná, bije na poplach Musk a 1 000 odborníkov. Žiadajú pre ňu „stopku“

Nedávno sme ťa informovali, že o nebezpečenstve umelej inteligencie otvorene hovorí čoraz viac odborníkov a osobností, medzi nimi aj Bill Gates. Teraz sa k nim pridalo viac ako 1 000 odborníkov na umelú inteligenciu a mnoho ďalších osobností vrátane najbohatšieho človeka, Elona Muska.

V otvorenom liste požadujú pozastavenie ďalšieho vývoja umelej inteligencie, a to silnejšej ako nedávno predstavený model GPT-4 od spoločnosti OpenAI. Dôvodom je, že takýto pokročilý model by vraj mohol predstavovať nebezpečenstvo pre celú civilizáciu.

Ďalší vývoj až po uvedomení si rizík

„Výkonné systémy umelej inteligencie by sa mali vyvíjať až vtedy, keď si budeme istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné,“ uvádzajú signatári v liste.

Ďalej sa v ňom uvádza, že toto pozastavenie vývoja by malo byť platné, dokedy nebudú vypracované, implementované a nezávislými odborníkmi kontrolované spoločné bezpečnostné protokoly pre vývoj takejto umelej inteligencie, ako na to upozorňuje agentúra Reuters.

„Tieto protokoly by mali zabezpečiť, aby systémy, ktoré ich dodržiavajú, boli bez akýchkoľvek pochybností bezpečné,“ píše sa v liste, ktorý vydala nezisková organizácia Future of Life Institute.

zdroj: pixabay/sujins

Medzi signatármi je podpísaný okrem Elona Muska aj Steve Wozniak, spoluzakladateľ spoločnosti Apple, či Evan Sharp, spoluzakladateľ spoločnosti Pinterest. Aj oni upozorňujú na to, aké nebezpečenstvá predstavujú systémy umelej inteligencie schopné konkurovať ľuďom pre samotnú spoločnosť a civilizáciu, preto vyzývajú na okamžitú spoluprácu regulačných úradov a vývojárov týchto softvérov.

„Spoločnosť si dala pauzu v prípade iných technológií s potenciálne katastrofickými účinkami na spoločnosť, môžeme tak urobiť aj v tomto prípade,“ uzatvárajú odborníci v liste. 

K obavám sa pridáva aj Europol

Okrem už spomínaných významných mien sa k etickým a právnym obavám v súvislosti s pokročilou umelou inteligenciou, ako je ChatGPT, pridal aj policajný zbor EÚ Europol, ktorý varuje pred potencionálnym zneužitím takýchto systémov pri pokusoch o phishing či pri počítačovej kriminalite.

„ChatGPT môže poskytnúť zločincom nové príležitosti, najmä pri trestných činoch zahŕňajúcich sociálne inžinierstvo, vzhľadom na jeho schopnosti reagovať na správy v kontexte a prijať špecifický štýl písania,“ píše Europol vo svojej správe.

Bill Gates prišiel s fascinujúcou a desivou predpoveďou: Bude to obrovská zmena

„Takéto vyhlásenia majú za cieľ vyvolať rozruch. Majú v ľuďoch vyvolať obavy,“ uviedla Johanna Björklundová, výskumníčka v oblasti umelej inteligencie a docentka na univerzite v Umeå, pre Reuters. Pričom podľa nej nie je nutné rázne zastaviť vývoj AI, radšej by sa mali požadovať prísnejšie požiadavky na transparentnosť.

Society must learn how we can effectively manage AI risk. The success of this petition will be a teaching moment that we have the political will to control humanity’s destiny. The petition’s failure will be a setback in the pursuit of global human governance of AI.

— Carlos E. Perez (@IntuitMachine) March 29, 2023

Naopak Carlos Perez, odborník na umelú inteligenciu, si myslí, že sa ako spoločnosť musíme naučiť, ako účinne riadiť riziká spojené s umelou inteligenciou. „Úspech tejto petície bude poučením, že máme politickú vôľu riadiť osud ľudstva. Neúspech petície bude neúspechom v snahe o globálne ľudské riadenie AI,“ napísal Perez na Twitteri.