Uznávaný počítačový vedec tvrdí, že dostal email od ChatGPT: Za všetkým je jedno slovo

Paul Graham, spoluzakladateľ Y Combinator, čelí masívnej kritike. Dôvodom má byť email, ktorý podľa jeho slov napísala práve umelá inteligencia. Negatívne emócie vyvolal jeden konkrétny výraz použitý v rámci textu. Ten však podľa slov Grahama nie je v hovorenej angličtine veľmi využívaný.

Uvedená situácia ukázala, že pri používaní určitých slov na identifikáciu obsahu umelej inteligencie môže existovať potenciálna zaujatosť, najmä proti neamerickej slovnej zásobe.

Ako informuje Cryptopolitan, Graham zverejnil emailový návrh, ktorý od niekoho dostal na nový projekt. Okamžite dospel k záveru, že ho napísal textový generátor AI, ako je napríklad ChatGPT. V texte si totiž všimol slovo „delve“ (v preklade „ponoriť sa“), o ktorom tvrdil, že sa v hovorenej angličtine používa len zriedka.

„Nikto to nepoužíva v hovorenej angličtine. Je to jedno z tých slov, ktoré ľudia používajú iba vtedy, keď píšu a chcú znieť múdro.“

Graham tiež zdieľal na sociálnej sieti X graf, ktorý znázorňoval koreláciu medzi používaním výrazu „delve“ v článkoch a vznikom generátorov AI. Graf ukázal, že počet článkov obsahujúcich spomínaný termín v názve alebo abstrakte exponenciálne vzrástol od roku 2022. Teda v tom istom roku, keď spustili ChatGPT. 

Tisíce používateľov platformy X, najmä Nigérijčanov, rýchlo odsúdili teóriu ChatGPT od Grahama a povedali, že slová ako „delve“ nie sú v krajine a iných krajinách s britskou koloniálnou minulosťou nezvyčajné. Niektorí tiež tvrdili, že zriedkavé používanie takýchto slov je americkým problémom. 

Paul Graham nahneval najmä Nigérijčanov

„Nešťastnou vecou je, že americká slovná zásoba je primárne založená na hovorových jazykoch (to, čo nazývate slang) a súčasných amerických idiómoch. To do takej miery, že sa predpokladá, že sofistikované používanie anglickej dikcie a registra je vygenerované umelou inteligenciou,“ napísal istý používateľ na X.

People who have learnt English in the countries which have British colonial past – this is exactly how we learnt English.

‚Delve‘ is a normal word which we speak.

There is no sense of what word is archaic/out of fashion and what’s not!

Often times when I speak English with…

— Osho, ओशो (@oshosidhant) April 8, 2024

Doba ide neustále vpred, preto je stále ťažšie a ťažšie identifikovať a rozlíšiť texty napísané pomocou AI. Portál CryptoRank však uvádza, že problém nepredstavujú samotné slová. Ich opakovaný výskyt v dielach vytvorených generátormi AI však viedol k teóriám (ako je napríklad tá Grahamova), že články s takýmito slovami s najväčšou pravdepodobnosťou píše umelá inteligencia. 

Existuje veľká šanca, že by to v budúcnosti mohlo predstavovať veľký problém. Ľudia by totiž mohli byť diskriminovaní pre určité verbálne návyky. 

Umelú inteligenciu ale vo všeobecnosti využívame v rôznych odvetviach. Dokonca sme písali aj o tom, že môže nahradiť vybrané profesie, alebo taktiež zapríčiniť aj ich úplný zánik.

Tiež sme informovali, že bezpečnostné prvky najvýkonnejších AI nástrojov nemusia byť vždy účinné. Podľa výskumu možno opatrenia prebiť jednoducho tým, že technológiu zaplavíš príkladmi. Výskumníci nazvali túto techniku ako many-shot jaillbreaking (mnoho-strelný útek z väzenia). Pri využití ale môže byť nebezpečná.