Nový výskum odhalil hrozbu umelej inteligencie: V tomto momente nastane kolaps internetu

4. augusta 2024 o 09:50

Umelá inteligencia môže ohroziť fungovanie internetu
Pri jej tréningu totiž dochádza k niektorým chybám
Ukazujú to výsledky novej štúdie

Ilustračné foto Canva/PhonlamaiPhoto´s

Umelá inteligencia môže ohroziť fungovanie internetu
Pri jej tréningu totiž dochádza k niektorým chybám
Ukazujú to výsledky novej štúdie

Umelá inteligencia mení spôsob fungovania života. Ako sme ťa už informovali, na Slovensku môže ohroziť pracovné miesta takmer 13 000 ľuďom, a to len v jednom sektore.

„Nová éra digitalizácie, označovaná ako piata priemyselná revolúcia, prináša revolučné zmeny v spôsobe práce a zručnostiach, ktoré sú na pracovnom trhu potrebné. Som presvedčený, že mnohí zamestnanci na Slovensku si ešte dostatočne neuvedomujú, aký významný vplyv bude mať rozšírenie generatívnej umelej inteligencie na nich a na celý pracovný trh,“ uviedol predseda Digitálnej koalície Mário Lelovský pri príležitosti Summitu Digitálnej koalície, ktorý sa konal 25. júna.

Síce môže generatívna AI zvýšiť produktivitu firiem a vytvárať nové pracovné miesta, prehĺbi zároveň neprimerané rozdiely v mzdách. V sektore IT a telekomunikácií sa podľa Sektorovej rady pre informačné technológie a telekomunikácie stane nadbytočných až 12 835 pracovných miest.

Aj napriek tomu, že umelú inteligenciu využívame takmer každý deň a prináša viacero pozitívnych vecí, môže ohroziť nielen oblasť práce, ale dokonca fungovanie celého internetu. Zároveň sa AI stále formuje, pričom sa využívajú najmä syntetické dáta na jej trénovanie. Nový výskum odborníkov z Rice University však odhalil znepokojivé zistenia o tom, čo môže využívanie syntetických dát pri trénovaní modelov umelej inteligencie (AI) priniesť.

Nebezpečenstvo opakovaného trénovania AI modelov

Tento prístup, ktorý sa pôvodne javil ako elegantné riešenie nedostatku tréningových údajov, môže mať ďalekosiahle negatívne dôsledky pre budúcnosť AI systémov a potenciálne ohroziť stabilitu internetu.

Syntetické údaje sú totiž lacnejšie ako údaje z reálneho sveta a ich ponuka je prakticky neobmedzená; predstavujú menšie riziko pre súkromie (ako v prípade lekárskych údajov) a v niektorých prípadoch môžu syntetické údaje dokonca zlepšiť výkonnosť umelej inteligencie.

Vedci z Rice University však prišli s alarmujúcim varovaním pred javom nazvaným „porucha autofágie modelu“ (Model Autophagy Disorder so skratkou MAD). Tento názov, inšpirovaný takzvanou chorobou šialených kráv, poukazuje na nebezpečenstvo opakovaného trénovania AI modelov na syntetických dátach, čo môže viesť k postupnej degradácii ich schopností.

Za 2 mesiace ušetríš stovky, za rok až tisíce eur. Títo digitálni pomocníci ti upracú vo financiách

Choroba šialených kráv

Choroba šialených kráv je smrteľné neurodegeneratívne ochorenie, ktoré postihuje kravy a má ľudský ekvivalent spôsobený konzumáciou infikovaného mäsa. Veľká epidémia v 80. – 90. rokoch 20. storočia upozornila na skutočnosť, že choroba šialených kráv sa rozšírila v dôsledku praxe kŕmenia kráv spracovanými zvyškami ich zabitých druhov ⎯ odtiaľ pochádza termín „autofágia“ z gréckeho auto, čo znamená „sám“, a phagy ⎯ „jesť“.

„Naše zistenia o MADness sme zachytili v príspevku, ktorý sme prezentovali v máji na Medzinárodnej konferencii o učebných reprezentáciách (ICLR),“ povedal profesor na Rice University Richard Baraniuk, jeden z členov tímu výskumu.

Štúdia s názvom „Self-Consuming Generative Models Go MAD“ je prvou recenzovanou prácou o takzvanej autofágii umelej inteligencie a zameriava sa na generatívne obrazové modely, ako sú populárne DALL-E 3, Midjourney a Stable Diffusion.

„Naša skupina sa takýmito takzvanými spätnoväzbovými slučkami intenzívne zaoberala a zlou správou je, že aj po niekoľkých generáciách takéhoto tréningu sa nové modely môžu nenapraviteľne poškodiť,“ vysvetľuje Baraniuk.