Slovenský startup sa zaradil medzi TOP 3 v Európe. Obrovskú konkurenciu porazili vďaka revolučnému nápadu

Sociálne siete, diskusné fóra a spravodajské portály sa často stávajú platformami, kde sa šíri nenávisť, dezinformácie a toxický obsah.

Tento problém nielen znižuje kvalitu online diskusií, ale môže mať aj vážne dôsledky pre jednotlivcov a spoločnosť ako celok. Tradičné metódy moderovania obsahu, ako manuálne kontroly a jednoduché filtre založené na kľúčových slovách, zlyhali.

Našťastie, inovatívne startupy a pokroky v oblasti umelej inteligencie prinášajú nádej na účinnejšie riešenia. Mnoho startupov sa v súčasnosti zameriava na vývoj sofistikovaných nástrojov na detekciu a filtrovanie škodlivého obsahu.

Tieto nástroje využívajú pokročilé algoritmy strojového učenia, ktoré dokážu analyzovať kontext, tón a zámer komentárov, nielen ich doslovný význam. Takéto systémy sa učia z obrovských množstiev dát a časom sa stávajú čoraz presnejšími pri identifikácii problematického obsahu.

Bill Gates vyslovil nečakane pesimistickú prognózu: Mladí ľudia budú čeliť problému, ktorý je neprekonateľný

Jedným z kľúčových prístupov je využitie prirodzeného spracovania jazyka (NLP). Táto technológia umožňuje počítačom lepšie porozumieť ľudskej reči vrátane jej jemných nuáns a kontextuálnych významov.

Vďaka tomu môžu systémy presnejšie rozlišovať medzi skutočne škodlivými komentármi a tými, ktoré sú len kontroverzné alebo kritické, ale stále v medziach slušnej diskusie. Niektoré startupy idú ešte ďalej a vyvíjajú systémy, ktoré nielen detegujú škodlivý obsah, ale aj aktívne podporujú konštruktívnu diskusiu.

Spracovanie enormného množstva dát 

Umelá inteligencia tiež umožňuje efektívnejšie spracovanie obrovského množstva online obsahu v reálnom čase. To je kľúčové pre veľké platformy, ktoré denne čelia miliónom nových komentárov. AI systémy dokážu rýchlo triediť obsah, identifikovať potenciálne problematické príspevky a priorizovať ich pre ďalšiu kontrolu ľudskými moderátormi.

Dôležitým aspektom týchto riešení je ich schopnosť učiť sa a adaptovať sa na nové formy škodlivého obsahu. Trollovia a šíritelia nenávisti neustále vymýšľajú nové spôsoby, ako obísť existujúce filtre. AI systémy sa však môžu priebežne aktualizovať a zlepšovať, čím zostávajú o krok vpred pred týmito snahami.

Napriek sľubným pokrokom v tejto oblasti zostávajú výzvy. Jednou z nich je zabezpečenie, aby systémy AI nezasahovali do slobody prejavu a neblokovali legitímny obsah. Ďalšou výzvou je vysvetliteľnosť rozhodnutí AI – je dôležité, aby používatelia rozumeli, prečo bol ich obsah označený ako problematický.

Z Bratislavy do srdca európskej inovácie

Riešenie problému škodlivých komentárov si vyžaduje komplexný prístup. Vie to aj slovenský technologický startup elv.ai, ktorý chráni média a firmy pred nenávistnými komentármi na sociálnych sieťach.

Tento startup bol najnovšie zaradený medzi 3 najlepšie európske AI startupy. Stalo sa tak v súťaži Unicorn Kingdom: Pathfinder Awards, ktoré zastrešuje vláda Spojeného kráľovstva.

Ďalšie dva startupy v kategórii AI pochádzajú z Írska a Nemecka. elv.ai je zároveň jediným slovenským startupom vo všetkých kategóriách, ktorý postúpil do európskeho užšieho výberu.

Unicorn Kingdom: Pathfinder Awards sú medzinárodnou súťažou, do ktorej sa zapájajú stovky startupov z celého sveta. Pozostáva z niekoľkých kôl, v ktorých sa od súťažiacich očakáva preukázanie svojej inovatívnosti, trakcie a silného miesta na trhu. Jej cieľom je objavovať a prezentovať najsľubnejšie rozvíjajúce sa firmy v technologickom priemysle.

Víťazi získajú akceleračný program šitý na mieru v Spojenom kráľovstve, vrátane stretnutí s poprednými odborníkmi z priemyslu a vládneho sektora a pozvánok na VIP podujatia a recepcie. 

Slovenský AI startup žiari na európskej scéne

Súťažilo sa v 4 kategóriách: Umelá inteligencia, Prepojená a automatizovaná mobilita, Kyberbezpečnosť a Digitálne riešenia výmen. Slovenské elv.ai vystúpilo v kategórii AI po boku startupov z Nemecka a Írska. Ostatné spoločnosti v užšom výbere pochádzali z Nemecka, Francúzska, Talianska, Írska či Litvy.

Slovenský startup medzi nimi dokázal, že dobré nápady sa rodia aj u nás. Výhru v kategórii AI si odniesol nemecký startup biologit, ktorý vytvoril platformu na monitorovanie lekárskej literatúry poháňanú umelou inteligenciou.

Miliardár Sam Altman odhalil zoznam kníh, o ktorých je presvedčený, že mu zmenili život

„Do Pathfinder Awards sme sa zapojili ako expandujúci startup medzi firmami, ktoré majú už veľké postavenie na západných trhoch. Napriek tomu sme sa dostali až k prezentovaniu našej vízie po ich boku. Je tak vidieť, že aj na Západe cítia problém online nenávisti. Porotu najviac zaujímalo, ako dokážeme zaručiť vysokú presnosť nášho modelu a aká je naša stratégia medzinárodnej expanzie,“ vyjadril sa CEO elv.ai, Jakub Šuster. 

Odpoveď na globálny problém

Startup elv.ai chráni viac ako 200 slovenských a zahraničných médií a značiek pred škodlivými komentármi pomocou AI a ľudských moderátorov. Táto myšlienka vznikla v PR agentúre New School Communications po vypuknutí rusko-ukrajinského konfliktu, kedy experti chceli pomôcť v boji proti hybridnej vojne na internete.

Projekt získal cenu Prokop Asociácie public relations na Slovensku a  cenu nadácie Pontis. Postupne sa produkt transformoval na komplexnú platformu pre social media marketing, ktorá nielen chráni pred škodlivými komentármi, ale aj pomáha odpovedať na pozitívne komentáre a tiež analyzuje obsah komentárov, aby značky lepšie chápali spätnú väzbu publika.