Polícii má s náčrtmi pomôcť umelá inteligencia. Je to mašina na predsudky, kritizujú odborníci

Ručným skicám policajtov pri nákrese podozrivých osôb môže byť koniec.

Dvaja vývojári použili model generovania obrázkov DALL-E 2 OpenAI na to, aby vytvorili program takzvaných forenzných náčrtov, ktorý by polícii umožnil vytvoriť takmer realistické policajné náčrty podozrivého.

Program má názov Forensic Sketch AI-rtist a vytvorili ho dvaja vývojári: Artur Fortunato a Filipe Reynaud. Dvaja priekopníci forenzných náčrtov tvrdia, že účelom tohto programu je najmä skrátiť čas, ktorý sa pri nákrese podozrivého zo zločinu „stráca“. Jeden nákres môže totiž trvať dve či tri hodiny.

„Tento produkt sme ešte nevydali, takže momentálne nemáme žiadnych aktívnych používateľov,“ pre portál Vice to potvrdili vývojári Fortunato a Reynaud.

„V tejto fáze sa stále snažíme overiť, či bude projekt životaschopný na použitie v skutočnom svete alebo nie. Práve preto plánujeme osloviť policajné oddelenia, aby sme získali vstupné údaje, na ktorých to môžeme otestovať,“ vysvetľujú vývojári ďalej.

AI náčrt nemusí byť bezpečný 

Výskumníci AI tvrdia, že používanie feneratívnej AI v policajnej forenznej analýze nemusí byť vôbec bezpečné a má potenciál zhoršiť rasové a rodové predsudky, ktoré sa pri opisoch podozrivých osôb svedkami neustále objavujú.

„Problém s tradičnými forenznými náčrtmi nie je v tom, že ich výroba si vyžaduje čas (čo je zrejme jediný problém, ktorý sa program forenzných náčrtov AI snaží vyriešiť). Problém je v tom, že akýkoľvek forenzný náčrt už podlieha ľudským predsudkom a krehkosti ľudskej pamäte,“ portál VICE uviedol citáciu Jennifer Lynch, riaditeľky pre spory v oblasti dohľadu nad Electronic Frontier Foundation.

„AI nedokáže vyriešiť takéto ľudské problémy a konkrétny program ich pravdepodobne ešte zhorší kvôli svojmu dizajnu,“ dodala Lynch ďalej.

Podľa dostupných informácií má program od používateľov vyžadovať, aby údaje zaznamenali prostredníctvom šablóny, kde musia zadať popis pohlavia, farbu pleti, obočia, typ nosa, farbu vlasov, očí, uviesť, akú má dotyčný čeľusť, bradu a priblížiť vek. Rovnako tak môžu učiniť vďaka otvorenému popisu, do ktorého zadajú ľubovoľný popis podozrivého. Následne kliknú na „generovať profil“. Ten odošle popis do DALL-E 2 a vytvorí portrét osoby vygenerovaný AI.

Z výskumov je však zrejmé, že ľudia si tváre pamätajú holisticky, teda v celku, nie jednotlivé časti. „Proces náčrtu, ktorý sa spolieha na popisy jednotlivých častí, ako je tento program AI, môže viesť k tvári, ktorá sa líši od tváre páchateľa,“ hovorí Lynch.

Za 2 hodiny začne tvoj mozog „skratovať“. Vedci odhalili závažné vplyvy smogu na funkcie organizmu

„Akonáhle svedok uvidí to, čo AI vygeneruje, tento obraz môže nahradiť v ich mysliach zahmlenú spomienku na skutočného podozrivého,“ vysvetľuje Lynch. 

Lynch taktiež hovorí, že keby sa náčrty vygenerované umelou inteligenciou dostali na verejnosť, môže to pokojne posilniť stereotypy a rasové predsudky, čo môže brániť vo vyšetrovaní napríklad tak, že policajti upriamia pozornosť na niekoho, kto vyzerá ako človek v náčrte, no skutočný páchateľ im zatiaľ môže uniknúť.

Podľa portálu sa v USA práve zlé a zavádzajúce forenzné analýzy, do ktorých spadajú aj policajné náčrty, prispeli až k 25 percentám všetkých nezákonných odsúdení v krajine.

Čítajte viac z kategórie: Inovácie a Eko