Pravda o hrozbách a výhodách AI: Experti na kyberbezpečnosť radia, ako ich využiť na maximum

Diskusia o umelej inteligencii v posledných mesiacoch nabrala na obrátkach. Sprístupnenie nástrojov ako ChatGPT či Midjourney naštartovalo malú revolúciu vo výrobe digitálneho obsahu.

Téma AI okolo seba vytvára toľko elánu, že napríklad mediálnej firme BuzzFeed stúpli akcie o 150 %, keď oznámila, že bude pri práci využívať ChatGPT.

Nadšenie okolo umelej inteligencie pripomína nadšenie z kryptomien, NFT či iných digitálnych inovácií – je tu však ešte jedna spoločná črta. Podobne, ako sa na NFT snažili zarobiť desiatky organizácií, výnimkou nie je ani AI.

V priebehu dní vznikajú desiatky AI startupov a služieb, ktoré tvrdia, že dokážu prakticky nemožné a trúfajú si revolucionizovať celý segment.

Prečo je teraz okolo AI taký boom?

„AI je skrátka matematika, technicky to nie je nič nové,“ vysvetľuje expert na kyberbezpečnosť Michal Srnec z bezpečnostnej firmy Aliter Technologies.

„Jediný rozdiel je, že sme ako ľudstvo dospeli k tomu, že relatívne lacno vieme mať výpočtovú silu na všetku tú matematiku, ktorá je tu však s nami prakticky ešte od čias Alana Turinga.“

Srnec si pomáha kuchárskou metaforou – „uvariť“ umelú inteligenciu vieme dávno, no až teraz máme všetky ingrediencie a dostatočne silný sporák.

Neurónové siete a potrebné algoritmy totiž potrebujú mimoriadne výkonné počítače, servery na tréning a drahé grafické karty. Podľa Srnca je ľudstvo schopné trénovať veľké umelé inteligencie len možno dva roky, dovtedy ľudstvo takú výpočtovú silu k dispozícii nemalo.

Najmä technologické firmy sa však už dlhšie venujú spracúvaniu veľkých dát, stavajú obrovské datacentrá a s tým vzniká aj čoraz vyšší výpočtový výkon. „Prispelo k tomu napríklad aj hranie počítačových hier. Jednoducho sme konečne prekonali potrebnú hardvérovú hranicu.“

Aké firmy by mali spozornieť?

Podľa bezpečnostného experta Michala Srnca sú to predovšetkým firmy, ktoré pracujú s generovaním obsahu. Generatívne umelé inteligencie ako ChatGPT či Midjourney môžu byť zaujímavé napríklad pre:

• médiá a publisherov, ktorí vedia jednoduchší a nespravodajský obsah nahradiť generovaným obsahom,
• tvorcov fotiek, reklamných vizuálov, fotobanky a videobanky,
• dodávateľov textového obsahu, napríklad pre postavy vo videohrách (NPCs).

Umelá inteligencia však presahuje oblasť generovania obsahu:

• banka by vďaka AI vedela automaticky triediť a kategorizovať svojich klientov a na základe dát napríklad vyhodnocovať mieru rizika pri hypotéke,
• supermarketový reťazec by vďaka veľkým dátam z vernostných kariet a AI vedel vytvárať personalizované zľavy na mieru,
• korporácia by vďaka AI vedela automaticky zaraďovať či vystavovať faktúry alebo varovať pred rizikovými klientmi,
• účtovnému oddeleniu akejkoľvek firmy by AI mohla zachytávať chyby,
• nemocniciam či lekárom by AI vedela optimalizovať cestu pacienta, aby zdravotníckym traktom prešiel rýchlejšie a efektívnejšie,
• zdravotníckej firme by AI na veľkých dátach mohla odhaľovať zdravotné vzorce pacienta a napríklad zvýšenú šancu na určité ochorenie,
• online firma by využila AI na detekciu podozrivých používateľov podľa vzorcov ich správania.

Každý z týchto príkladov sa už v určitej miere aktuálne deje. Využitie AI je prakticky neobmedzené, pretože aj keď je dobrá v nenáročných činnostiach (triedenie, kategorizácia či rozoznávanie vzorcov), takéto úlohy rieši takmer každá firma na dennej báze a vo veľkom množstve.

Podozrivých projektov je viacero

Reklamné plochy na sociálnych sieťach sú plné reklám na rôzne AI nástroje, ktoré sľubujú, že vytvoria marketingový text alebo grafiku pre firmy na sociálne siete. Často pritom ide o projekty so zlými recenziami, na ktoré sa oklamaní zákazníci sťažujú.

„Je to tak vždy. Keď príde novinka alebo zmena, prídu aj scameri,“ porovnáva Srnec. „Pripomína mi to až dotcom bublinu. Aj teraz je zrazu všetko AI. Časom sa ukáže, ktoré projekty sú reálne a tie zvyšné prestanú fungovať a zomrú.“

Srnec však zdôrazňuje, že v mase AI produktov sú aj niektoré veľmi zaujímavé. „Podobne, ako aj z dotcom bubliny vzišli schopné firmy ako Microsoft a Amazon – a de facto zmenili spôsob, akým používame technológie či nakupujeme – aj tu sa zrejme niekomu podarí dramaticky zmeniť niektoré odvetvia či dokonca celé segmenty. Ale gro je tu len dočasne, AI je dnes len zneužívaný buzzword.“

zdroj: „Hype cycle“ podľa poradenskej firmy Gartner. Nový produkt začína celospoločenským elánom, potom prudko upadá takmer na dno. Až potom sa postupne objavujú reálne a zmysluplné využitia.

Takto by firmy mali začať s AI

Podľa odborníkov nie je také jednoduché začať s AI a vyžaduje si to vyššiu časovú investíciu. Na začiatku je dôležité vedieť, na aký proces chcem AI nasadiť – a na základe toho začať hľadať vhodné nástroje, medzi ktorými si budem vyberať.

Firma by si tiež mala ujasniť, či jej stačí jeden AI produkt alebo ich plánuje kombinovať a používať rovno viacero.

Potom je na mieste pozrieť sa na dané AI nástroje do väčšej hĺbky. Expert na oblasť cybersecurity Michal Srnec upozorňuje, že solídne AI výskumy majú nielen web, ale aj akademické výstupy, white papers, zmienky v médiách, kvantum podkladov a zrejme aj dedikovanú komunitu. „Minule sa mi do rúk dostal nejaký zoznam AI produktov a bolo ich toľko, že je to až šialené. Určite nie všetky z nich budú revolučné.“

Firmy s väčším rozpočtom by mohli zvážiť aj zamestnanie vlastného špecialistu na umelú inteligenciu. „Mal by to byť niekto, kto vie daný AI nástroj využívať naplno, ovládať ho a zvládnuť aj implementáciu. Mal by vedieť aj špecifikovať AI prompty či vedieť upravovať váhy,“ vysvetľuje Srnec. „Tu sa vlastne ukazuje, ako AI vytvára nové pracovné pozície – a nie kradne prácu.“

Podľa Srnca sú Slováci pracujúci v IT dobre vzdelaní v oblasti AI. „Nie je to tu žiadne Silicon Valley, ale žijú tu šikovní ľudia, ktorí si poradia.“ Zapracovať by podľa neho mali skôr decision-makeri vo firmách, ktorí často robia nezmyselné rozhodnutia – a bežní používatelia internetu. „Mnohokrát je hype nad rozumom. Chcú stavať dom, lebo vidia, že sa to dá, ale už sa nikto nepýta, či staviame na správnom mieste.“

Aké hrozby prináša AI?

Pre človeka zodpovedného za kyberbezpečnosť, akým je aj Michal Srnec z Aliter Technologies, neprináša AI žiadne zásadné nové metódy, no útočníkom dáva príležitosť pracovať rýchlejšie, efektívnejšie a vo väčších množstvách.

„Umelá inteligencia vie byť často podobná človeku. Phishingový mail, ktorý niekomu trvalo napísať dlhšiu dobu, teraz zvládne vytvoriť ChatGPT za pár sekúnd a rovno si ho môžem nechať vygenerovať v 150 jazykoch. Nie je to teda nič nové, phishing existuje, ale hrozba je silnejšia,“ vysvetľuje Srnec.

A sú tu aj ďalšie možnosti. „Ak už sme pri ChatGPT, ľahko sa môžem s textom rýchlo a efektívne vyhrať. Cez prompt mu napríklad zadám, aby mal mail ľahko nátlakovú emóciu.“

Textové generátory teda možnosti podvodov posunú na novú úroveň. „Je koniec SMS-iek a mailov s chybnou slovenčinou a katastrofálnou vetnou skladbou. Phishing sa stáva user-friendly.“

Srnec navyše varuje, že aj počet podvodov a útokov môže narásť – AI nástroje ako ChatGPT či Midjourney sú dostupné zadarmo alebo za malé peniaze, dostupnosť je teda široká a prakticky pre každého. Práca s nimi je navyše jednoduchá.

Riešením môže byť využívanie nástrojov, ktoré detegujú obsah vygenerovaný AI. OpenAI, firma za ChatGPT, vydala aj vlastný klasifikátor, ktorý dokáže odhaliť, či je text z ChatGPT.

Srnec si vie predstaviť, že takéto kontroly textu budú niekedy napríklad integrované v e-mailových schránkach, kde budú automaticky označovať podozrivý text.

„Rovnako však ako umelá inteligencia prináša hrozby, prináša aj riešenia. Kým podvodníci využívajú AI na nekalé veci, my na ich detekciu,“ vysvetľuje Srnec. AI vie využiť na detekciu škodlivého kódu či vyhodnocovanie toku v sieťach.

„V tomto sme už skúsení. Strojové učenie a iné AI mechanizmy na detekciu potenciálnych hrozieb využívame už dlhodobo. Tieto nástroje sú viac integrované a efektívnejšie, no žiadny zásadný gamechanger sa nekoná,“ uzatvára odborník na kyberbezpečnosť Michal Srnec.