Umelá inteligencia ťa zatiaľ nenahradí. Vieš však, že môže byť pri schvaľovaní tvojho úveru?

Jakub Mertus (27) pracuje ako dátový vedec v Tatra banke. Tá sa posledné roky intenzívne zaoberá aj využitím umelej inteligencie, ktorá dokáže zautomatizovať rutinné procesy a uľahčiť ľudskú prácu.

Do akej miery táto technológia funguje, čo vlastne znamená a ako ju vieme zodpovedne využiť? Aj o tom nám Jakub porozprával v rozhovore.

V médiách sa dnes často objavuje pojem umelá inteligencia. Ako by ste ju predstavili tým, ktorí o nej nemajú potuchy?

Umelá inteligencia (AI) je systém, ktorý sa na základe vstupov z okolitého prostredia vie rozhodnúť pre správnu akciu, ktorú aj vykoná.

Takýto systém sa správa ako inteligentný – dovnútra vchádzajú dáta a na základe algoritmu alebo mozgu sa vie systém AI rozhodnúť o najlepšom výstupe.

Rovnako ako ľudský mozog, aj AI systém sa v ideálnom prípade vie učiť zo svojich minulých chýb alebo správnych rozhodnutí a zlepšovať sa.

Pojem umelá inteligencia majú klienti Tatra banky možnosť spoznať cez chatbota Adama. Vieš nám o ňom niečo povedať?

Jednou z dôležitých oblastí umelej inteligencie je porozumenie ľudskej reči a ľudskému písmu.

V tomto prípade hovoríme o spracovaní prirodzeného jazyka, po anglicky natural language processing, označované ako NLP.

Náš chatbot Adam využíva NLP, aby porozumel otázkam našich klientov, správne ich vyhodnotil a čo najrelevantnejšie na ne odpovedal.

Adam zatiaľ nie je dokonalý, ale aj on sa vie poučiť z minulých chýb.

Okrem spomínaného NLP, využívate v Tatra banke ešte niečo čo sa dá nazvať umelou inteligenciou?

Áno, v banke sa snažíme skúmať a používať časti umelej inteligencie aj v iných oblastiach ako spracovanie jazyka.

Totiž samotný mozog AI systému je častokrát tvorený modelom strojového učenia.

Takéto modely využívame v banke napríklad pri určení rizikovosti klienta, odhaľovaní podozrivých prevodov, kategorizácii klientskych výdavkov, pri odhade vývoja pohybov na finančných trhoch a v množstve ďalších oblastí.

Strojové učenie sa dá aplikovať na veľmi rozmanité dáta od klasických tabuľkových, cez neštrukturované až po obrazové alebo textové dáta.

Umelá inteligencia u niektorých vyvoláva strach. Je na to dôvod?

Ľudia majú túto predstavu skôr z hollywoodskych filmov, kde je umelá inteligencia často zobrazovaná ako zlomyseľná potvora alebo ničiteľ ľudstva.

V krátkodobom horizonte si nemyslím, že je dôvod obávať sa niečoho podobného.

Šíri sa aj domnienka o tom, že ľudia prídu o prácu a AI ich nahradí. Je to reálny scenár?

Dnes sú to veľmi špecifické systémy aplikované v úzkej doméne.

Akýsi prirodzený vývoj software-u a hlavne nástroj, ktorý má ľuďom uľahčiť ich prácu.

V praxi pozorujeme, že prvky umelej inteligencie sa aplikujú na riešenie úloh, kde dosahujú lepšiu presnosť alebo vyššiu rýchlosť ako ľudia.

Sú však aj úlohy, pri ktorých sa na algoritmy nevieme 100 % spoľahnúť, a preto je nevyhnutný ľudský zásah.

Problémy, ktoré si vyžadujú plnohodnotnejšie a kreatívnejšie myslenie, sú stále neriešiteľné cez AI.

Naopak veci, ktoré sú repetitívnej povahy, sú zasa vhodné pre stroj.

Kvôli tomuto si myslím, že AI nebude schopné v dohľadnej dobe plnohodnotne nahradiť človeka.

Pri vývoji umelej inteligencie je potrebné veľké množstvo dát. Prečo?

Na to, aby sme trénovali mozog umelej inteligencie, napríklad modely strojového učenia, je potrebný veľký objem dát.

S rastúcim množstvom dát, ktoré máme k dispozícii na trénovanie modelu, stúpa aj počet rôznych prípadov, ktoré sa model dokáže naučiť a správne ich vyhodnotiť.

Objem dát prispieva aj k tomu, aby sa algoritmus správal predvídateľnejšie a úspešnejšie v budúcnosti.

A viete ako umelá inteligencia funguje? Na prvý pohľad pôsobí totiž úplne tajomne ako nejaká čierna skrinka.

Niektoré algoritmy sú skutočne veľmi komplikované a sofistikované.

Pri takzvaných hlbokých neurónových modeloch sme svedkami explózie počtu parametrov, a teda aj komplexnosti tohto umelého mozgu.

Napríklad známy jazykový model GPT-3 má 175 miliárd parametrov.

Vyhodnotiť, čo sa deje vnútri “čiernej skrinky”, vieme hlavne prostredníctvom úspešnosti na testovacích vzorkách, teda empiricky.

Okrem vzoriek a reálneho správania sa modelu existujú aj štatistické metódy, ktoré vedia ozrejmiť, ktoré z parametrov sú pre model dôležité a aký vplyv majú na výsledok.

Črtá sa tu však otázka – je správne používať modely, ktorým vlastne nikto úplne nerozumie?

Primárne využívame modely, ktoré vieme vysvetliť. To sú overené štatistické prístupy ako lineárna regresia alebo rozhodovacie stromy. V bankovom sektore sme veľakrát nútení používať dopredu schválený model kvôli rôznym reguláciám. Pri použití komplikovanejších modelov máme štatistické metódy a testovacie množiny, ktoré sú na to, aby odhadli skutočnú úspešnosť modelu a tým sa minimalizovalo riziko.

Akú úlohu zohráva etická stránka používania zákazníckych dát?

Ako banka máme k dispozícii množstvo údajov klientov a preto je nutné zaoberať sa dátovou etikou a posudzovať etickosť ich používania.

V rámci toho starostlivo zvažujeme parametre, ktoré vstupujú do modelov.

Regulácia nám hovorí, ako máme používať údaje ako vek, vzdelanie či príjem pri kreditnom skóringu, aby bol rizikový profil stanovený dostatočne presne. Tieto údaje nemôžeme vynechať, nakoľko sú úzko späté s tým, aby sme vedeli relevantne nastaviť služby a potencionálny úver povoliť alebo zamietnuť.

Nevytvára používanie AI zbytočné predsudky voči niektorým skupinám klientov? Viete zabezpečiť dostatočnú férovosť?

Technológia ako strojové učenie sama o sebe nemá žiadne predsudky, je to len metóda, ktorá odzrkadľuje skutočnosť v dátach.

V drvivej väčšine prípadov môžu za skreslenosť modelov nekvalitné vstupné dáta, nevhodne zvolený model strojového učenia alebo zlé vyhodnotenie výsledkov.

Nekvalitné dáta sú tie, ktoré nedostatočne reprezentujú realitu, sú chybné alebo nesprávne označené.

Keďže používanie AI je v posledných rokoch veľmi trendy, tak množstvo dátových vedcov sú viac nadšenci ako experti v tejto téme a to môže vyústiť do zlého použitia modelu alebo nesprávnej interpretácie.

Spomenul si niekoľko problémov pri používaní AI. Nenastal čas, aby niekto tento technologický segment začal regulovať?

Vo všeobecnosti som skeptický voči regulácii vedeckého pokroku. Pravdou však je, že umelá inteligencia dnes zasahuje do mnohých aspektov života a postupujúcim vývojom sa bude tento vplyv ďalej zvyšovať. Preto zavedenie určitej formy pravidiel bude čoskoro nevyhnutné.

Európska komisia už dnes pracuje na návrhu regulácie použitia AI systémov, ktorá bude mať v dohľadnej dobe dopad aj na finančný sektor. Je len otázkou času, kedy sa táto regulácia schváli a tým sa nastaví štandard modelov strojového učenia, ktoré najviac ovplyvňujú každodenný život človeka.