Proti Deepfake sú Slováci bezbranní, väčšina sa nechá klamať. Spoznať ho je pritom jednoduché

3. decembra 2023 o 11:19

Startitup oslovil Tomáša Jevčika známeho ako „AI aktivistu“
Ten prezradil, ako vznikajú deepfake videá aj to, ako ich odhaliť
Čoskoro ich nerozoznáme

Deepfake Flickr/thủ thuật Sforum

Startitup oslovil Tomáša Jevčika známeho ako „AI aktivistu“
Ten prezradil, ako vznikajú deepfake videá aj to, ako ich odhaliť
Čoskoro ich nerozoznáme

„Prestaň na chvíľu scrollovať. Áno, som to ja, Robert Fico, viacnásobný premiér Slovenskej republiky. Chcel by som ti len povedať, že by si mal sledovať AI aktivistu. Je veľmi dobrý v tom, čo robí, tak mu hoď prosím ťa, follow na tomto profile. Ďakujem.“

Tvár aj hlas súčasného premiéra sa prihovárali fanúšikom profilu ai_ktivista. Robert Fico však takéto video nikdy nenahral. Dokonca to netvrdí aj samotné video. Je označené ako deepfake a vytvorila ho umelá inteligencia.

Inteligencia, alebo skôr pozornosť však chýbali niektorým divákom. V komentároch reagovali, akoby šlo o skutočného premiéra.

Už na začiatku boomu umelej inteligencie sa objavili varovania, že ľudia nerozoznajú vyfabrikovaný obsah ani vtedy, ak je riadne označený ako falošný. Schopnosť bežného človeka rozoznať dielo AI je doslova nulová.

V dnešnej digitálnej dobe sa čoraz častejšie stretávame s novým druhom klamstva – Deepfake videami. Deepfake môžu byť zmanipulované videá alebo obrázky vytvorené pomocou umelej inteligencie.

Tieto videá vyzerajú takmer úplne realisticky, a preto treba vedieť, ako fungujú a ako ich rozpoznať, aby sme sa chránili pred potenciálnymi podvodmi a klamstvami. Jeden z najznámejších slovenských odborníkov na umelú inteligenciu Martin Spano sám upozorňuje na to, že „dnes je AI schopná vložiť do úst ľudí vety, ktoré nikdy nepovedali,“.

Startitup oslovil populárneho „AI aktivistu“, Tomáša Jevčika, aby nám bližšie vysvetlil, ako svet Deepfake videí a fotografií funguje, ako ich odhaliť a na čo všetko si dať pozor. Podľa Tomáša vytvorenie Deepfake videí vôbec nie je jednoduché. „Momentálne na vygenerovanie poriadne presvedčivého Deepfake videa potrebuješ fakt nadupaný počítač,“ tvrdí.

Ako vznikajú Deepfake videá

Deepfake videá vznikajú vďaka umelej inteligenciou (AI) a špeciálnemu programovaniu. „Na vytvorenie Deepfake videa potrebujeme buď statický obrázok, alebo existujúce video. Výsledok je buď animácia tváre a tela statického obrázku, alebo nahradenie tváre už v existujúcom videu inou tvárou,“ vysvetľuje AI aktivista.

Okrem toho vieš urobiť aj takzvaný „lipsync“, kde prispôsobíš pohyb pier novej reči. Špeciálny softvér si totiž „naštuduje“ jedinečné rysy tejto osoby, aby sa za ňu dokázal vydávať. Keď sa tento učebný proces dokončí, Deepfake technológia môže tieto informácie upravovať a vytvárať úplne nové, falošné videá, obrázky alebo zvukové záznamy.

Zobrazit příspěvek na Instagramu

Příspěvek sdílený Tomas Jevcik (@ai_ktivista)

Tomáš Jevčik pre Startitup prezradil, že Deepfake video sa takisto dá „vygenerovať od základov podľa zadaného textu. Je to síce náročnejšie, no technológia sa neustále zlepšuje.“

A kto takýto materiál dokáže vytvoriť? Nie, nemusíš byť IT expert na to, aby si vedel robiť takéto video či fotografie, hovorí AI aktivista, ale zrovna najjednoduchšie to takisto nie je. Zatiaľ…

„Deepfake by vedeli vytvoriť aj bežní užívatelia, ale záleží ako kvalitne a presvedčivo. Existujú rôzne webové a mobilné aplikácie, kde by ich vedeli vygenerovať. Avšak, momentálne na vygenerovanie poriadne presvedčivého Deepfake videa potrebuješ fakt nadupaný počítač, aby si pracoval s modelom, ktorý je trénovaný na obrovskom množstve dát a vie to byť celkom náročný proces.“

Deepfake v praxi

Príkladov takýchto AI vymožeností je neúrekom, no my ti to ukážeme napríklad na jednom z videí Martina Spana, ktorý umelej inteligencii zasvätil doslova celý svoj život.

Práve v tomto videu môžeš vidieť dokonalé napodobeniny lídrov troch najúspešnejších politických strán, ktoré obsadili vrcholové priečky po predčasných parlamentných voľbách v septembri.

Zobrazit příspěvek na Instagramu

Příspěvek sdílený Martin Spano (@martinspa.no)

Premiér Robert Fico, líder opozičnej strany Progresívne Slovensko Michal Šimečka či predseda parlamentu Peter Pellegrini sa k tebe z obrazovky prihovárajú tak presvedčivo, že by si pri rýchlom scrollovaní sociálnych sietí ani nezistil, že to v skutočnosti nie sú skutoční ľudia.

Keďže umelá inteligencia dnes dokáže vytvoriť to, čo sa nikdy nestalo, Martin Spano sa rozhodol tento fakt overiť sám na sebe. Vybral si týchto troch vládnych predstaviteľov a donútil ich povedať jeho meno v plnom znení. A experiment dopadol skutočne brilantne.

„Je dôležité, aby ľudia vedeli, aké možnosti dnešné technológie ponúkajú. Môžeme tak predchádzať nepríjemným prekvapeniam a prijať opatrenia, ktoré minimalizujú budúce škody. Šťastie praje tým, ktorí sú dobre pripravení,“ hlása Spano s tým, že treba šíriť v tomto smere osvetu ako sa len dá.