Podvodníkom môže čoskoro zamrznúť úsmev na tvári: Deepfake videá neobišli ani politikov, prvá regulácia AI poriadne zamieša kartami

Deepfake videá nie sú žiadnou novinkou a neobišli ani slovenských politikov či vrcholových predstaviteľov štátu. Vo veľkom sa využívajú pred každými voľbami, ale aj pri vojnách vo svete. Technológia pokročila natoľko, že už len ťažko vieme rozoznať, či ide o podvod. 

Falošné videá pritom nie sú jedinou hrozbou – AI dáva palivo podvodným mailom, ale aj botom na sociálnych sieťach či vo videohrách. Naplno je využívaná aj na sivom trhu a na páchanie ilegálnych aktivít.

Okrem toho, umelá inteligencia dnes dokáže simulovať hlas a mimiku tváre aj v reálnom čase, napríklad prostredníctvom videohovoru. Skúsenosť s takýmto typom podvodu má aj slovenská firma GymBeam. 

Podvodníkom by však už čoskoro mohol zamrznúť úsmev na tvári. Vyjednávači členských štátov Európskej únie a Európskeho parlamentu sa teraz dohodli na prvej regulácii AI, ktorá rázne zamieša kartami. 

Európska únia je tak prvá na svete, ktorá bude umelú inteligenciu regulovať ešte v jej zárodkoch. Ako vyzerá balíček opatrení, ktoré AI vážne ovplyvnia, a týkajú sa každého?

zdroj: TASR - Jaroslav Novák - Poslanci Európskeho parlamentu sú presvedčení, že regulácia umelej inteligencie je potrebná.

EÚ predstavuje prvé jasné pravidlá o umelej inteligencii

Európska únia chce v rámci svojej digitálnej stratégie umelú inteligenciu regulovať tak, aby zabezpečila lepšie podmienky pre jej vývoj a využívanie. 

AI nástroje budú musieť byť klasifikované do kategórií podľa rizika, ktoré predstavujú. Rôzne úrovne rizika budú znamenať prísnejšiu alebo voľnejšiu reguláciu. Po schválení pôjde o prvé pravidlá týkajúce sa umelej inteligencie na svete.

Úrovne rizika AI:

• neprijateľné riziko: systémy umelej inteligencie považované za jednoznačné ohrozenie základných ľudských práv a demokracie budú zakázané,
• vysoké riziko: systémy umelej inteligencie identifikované ako vysokorizikové budú musieť dodržiavať prísne požiadavky,
• minimálne riziko: prevažná väčšina systémov umelej inteligencie spadá do kategórie s minimálnym rizikom,
• osobitné riziko – dôraz na transparentnosť: používatelia systémov umelej inteligencie, ako sú chatboty, by si mali byť vedomí, že ich interakcia prebieha so strojom. 

Dôležité je, že na dodržiavanie pravidiel budú dohliadať ľudia, nie automatizácia. 

„Nové pravidlá týkajúce sa umelej inteligencie musia byť zamerané na obmedzovanie rizík s ňou spojených a podporu jej využívania na etickom základe. Budú sa snažiť o stanovenie pravidiel a povinností pre poskytovateľov, ako aj používateľov, a to v závislosti od úrovne rizika, ktoré môže umelá inteligencia vytvárať,“ myslí si europoslankyňa Monika Beňová.

„Užívateľské systémy by sa mali radiť do jednotlivých rizikových skupín, pričom tie s najvyššou mierou rizika budú označené ako neakceptovateľné, a tým pádom vylúčené z prevádzky v Európskej únii,“ dodala Beňová. 

Deepfake ohrozuje aj národnú bezpečnosť, bude musieť byť označený

AI je neoceniteľným pomocníkom vo väčšine profesií, no technológie umelej inteligencie začali vo veľkom využívať nielen podvodníci, ale hlavne dezinformátori, ruské a bieloruské trollie farmy, Hamas a podobne. 

Podporovatelia Ruska napríklad zverejnili deepfake ukrajinského prezidenta Volodymyra Zelenského, na ktorom drží dres s hákovým krížom.

Neskôr sa Zelenskyj objavil aj vo videu, v ktorom vyzýva, aby sa ukrajinská armáda vzdala Rusku. Jeho hlas a mimika sú takmer na nerozoznanie od skutočnosti. 

Mnoho falošných videí sa šíri aj v Českej republike, v ktorej sú obeťami najmä politici. Podvodníci neobišli ani Andreja Babiša. 

S deepfake videami majú skúsenosti aj slovenskí politici či celebrity. Pred voľbami sa napríklad objavovali videá, v ktorých predseda Progresívneho Slovenska Michal Šimečka hovoril o drastickom zdražení piva, ak sa jeho strana dostane do vlády. 

Naposledy však zarezonovalo aj vianočné video podpredsedu parlamentu Petra Pellegriniho. V úvode vystúpia poprední slovenskí politici, no ide o deepfake, ktorý je v tomto prípade označený.

Zákon o umelej inteligencii zahŕňa práve aj deepfake obsah. Ustanovenia o transparentnosti stanovujú povinnosť informovať o tom, že prezentovaný obsah je umelo vytvorený alebo zmanipulovaný.

„Potrebujeme jasné pravidlá pre fungovanie umelej inteligencie. Verím, že nikto z nás by nechcel byť obeťou možných nesprávnych krokov umelej inteligencie. Pretože áno, aj stroje sa môžu mýliť. Na rozdiel od ľudí však za to nemajú ako prebrať zodpovednosť, ale dopad na naše životy môže byť až príliš reálny,“ uviedol poslanec Európskeho parlamentu a podpredseda Progresívneho Slovenska Martin Hojsík.

Deepfake obsah sa týka aj naoko neškodných tém. Vo falošnom videu sa objavil aj najsledovanejší youtuber na svete MrBeast a jeho tvár a hlas sú na nerozoznanie od originálu.

Na záberoch, ktoré sa rýchlosťou blesku rozšírili po sociálnych sieťach, ponúka ľuďom nové telefóny za 2 doláre.

Lots of people are getting this deepfake scam ad of me… are social media platforms ready to handle the rise of AI deepfakes? This is a serious problem pic.twitter.com/llkhxswQSw

— MrBeast (@MrBeast) October 3, 2023

Niektoré systémy dostanú stopku

Do skupiny, ktorá predstavuje neprijateľné riziko, patria systémy AI, ktoré sa považujú za nezlučiteľné so základnými ľudskými právami. Preto budú v Európskej únii zakázané.

„Vývoj umelej inteligencie bude tak či tak rýchlo napredovať, a preto je nevyhnutné, aby sme stanovili jasné pravidlá, ochránili súkromie a najmä zakázali škodlivé aktivity, kde sa umelá technológia využíva,“ ozrejmil europoslanec Robert Hajšel. 

Hajšel podporuje úplný zákaz systémov tzv. diaľkovej biometrickej identifikácie, ktorá vie len na základe zosnímania našej tváre z diaľky a bez nášho vedomia určiť našu identitu, či už sme na ulici, na letisku, v aute, v kine alebo v divadle.

„Takéto zneužívanie umelej inteligencie je totiž zásah do súkromia spojený s obrovskými rizikami úniku informácií a ich zneužitia, a to nielen dospelých, ale aj maloletých a najzraniteľnejších.“

Dôležitá je bezpečnosť, ale aj inovácie

Podľa europoslankyne Lucie Ďuriš Nicholsonovej pre fungovanie AI potrebujeme pravidlá. „EÚ bude prvá, kto také pravidlá prijme, a preto sa na nás teraz díva celý svet. Nová legislatíva musí zabezpečiť, aby boli systémy umelej inteligencie uvádzané na trh EÚ bezpečné a aby rešpektovali existujúce právne predpisy, základné práva a hodnoty Únie,“ tvrdí Ďuriš Nicholsonová. 

Zároveň je však dôležité, aby boli pravidlá nastavené tak, aby nezahatali cestu k inováciám a investíciám do nových technológií. „Technológia ide dopredu míľovými krokmi a legislatíva zaostáva“ dodala a vyjadrila nádej, že kvalitná legislatíva sa schváli skoro, aby nebola zastaraná už v momente, keď ju schvália.

Práve systémy umelej inteligencie, ktoré majú negatívny vplyv na bezpečnosť alebo základné práva, sa budú považovať za vysoko rizikové a budú rozdelené do ďalších dvoch podkategórií.

Prvou skupinou sú systémy AI, ktoré sa používajú vo výrobkoch, na ktoré sa vzťahujú právne predpisy EÚ o bezpečnosti výrobkov. Patria sem hračky, letectvo, autá, zdravotnícke pomôcky a výťahy.

Druhou sú systémy umelej inteligencie, ktoré spadajú do ôsmich špecifických oblastí:

• biometrická identifikácia a kategorizácia fyzických osôb,
• riadenie a prevádzka kritickej infraštruktúry,
• vzdelávanie a odborná príprava,
• zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti,
• prístup k základným súkromným službám, verejným službám a výhodám a ich využívanie,
• presadzovanie práva,
• riadenie migrácie, azylu a kontroly hraníc,
• pomoc pri právnom výklade a uplatňovaní práva.

Tieto systémy budú musieť byť zaregistrované v databáze Európskej únie a budú sa posudzovať pred uvedením na trh, ako aj počas ich celého životného cyklu. Na dodržiavanie zákonov a pravidiel budú dohliadať ľudia, nie automatizácia.