Vedci odhalili obrovské nedostatky ChatGPT: Rozdáva nebezpečné rady ľuďom s rakovinou

V dnešnej dobe, keď technológia postupuje neuveriteľným tempom, mnohí ľudia hľadajú odpovede na svoje zdravotné otázky na internete. ChatGPT je jedným z nástrojov, ktorý môže ľuďom ponúknuť rady.

Ale aká je hodnovernosť týchto rád? Skupina vedcov sa rozhodla túto otázku preskúmať. Výsledky pokusu zhrnuli vo svojej štúdii.

Skúška správnosti pre umelú inteligenciu

Výskumníci z nemocnice Brigham and Women’s Hospital nechali ChatGPT radiť v otázkach liečby rakoviny a porovnávali jeho odpovede s oficiálnymi pokynmi, ktoré sa nazývajú NCCN. Ich zistenia boli zaujímavé a mierne znepokojujúce.

V približne tretine prípadov dával ChatGPT rady, ktoré neboli v súlade s týmito pokynmi. Tento jav slúži podľa lekárov ako varovný prst pred bezhlavým prijímaním informácií z takýchto online nástrojov.

Danielle Bittermanová, renomovaná lekárka a vedkyňa, zdôrazňuje význam osobnej konzultácie so skutočným lekárom. Internetové zdroje môžu byť užitočné, ale nikdy by nemali nahradiť osobné stretnutie s odborníkom.

Hoci ChatGPT môže znieť veľmi presvedčivo, jeho odpovede sú generované algoritmami a nemajú ľudské pochopenie a citlivosť pre zložité zdravotné problémy.

Ako si chatbot poradil s rakovinou?

Výskumný tím sa sústredil na tri najčastejšie typy rakoviny – rakovinu prsníka, prostaty a pľúc – a skúmal, ako dobre ChatGPT radil v týchto konkrétnych prípadoch. Zistili, že aj keď väčšinou chatbot odpovedal správne, často sa vyskytovali nepresné alebo dokonca nesprávne rady. Takéto informácie vedia pôsobiť nielen zavádzajúco, ale v niektorých prípadoch aj nebezpečne.

Pripraví AI o prácu veľkú časť našej planéty? Je to minca, ktorá má dve strany

Niektoré z rád, ktoré ChatGPT tímu výskumníkov dal, neboli dokonca uvedené ani v oficiálnych pokynoch pre liečenie ochorení. Toto je podľa expertov veľmi závažný problém. Pacienti by mohli dostať falošné nádeje alebo si môžu po konzultácii svojho stavu s umelou inteligenciou vytvoriť nesprávne predstavy o svojej liečbe, čo môže mať vážne dôsledky pre ich zdravie a pohodu.

Vedci teraz plánujú ďalšie štúdie, v ktorých chcú zistiť, či dokážu ľudia rozoznať rozdiel medzi radami od skutočného lekára a radami od ChatGPT. Zároveň chcú ChatGPT vystaviť ešte náročnejším testom, aby lepšie pochopili jeho schopnosti.

Treba poznamenať, že výskumný tím použil konkrétnu verziu ChatGPT s názvom GPT-3.5-turbo-0301. Túto verziu vytvorili na základe informácií, ktoré mali IT experti k dispozícii do septembra 2021. Čo to znamená pre bežného človeka? Technológia sa neustále vyvíja a stále nové verzie týchto nástrojov prichádzajú na trh.

Pripraví AI o prácu veľkú časť našej planéty? Je to minca, ktorá má dve strany

Výskumný tím nám pripomína, že hoci mnoho ľudí hľadá odpovede online, mali by sme byť vždy opatrní a kritickí. Internetové vyhľadávače alebo chatboty nemôžu a nemali by nahradiť skutočných lekárskych odborníkov.

Čo na to chatbot?

Keďže vedci skúmali, ako ChatGPT radí pri liečbe rakoviny, a zistili, že má vážne nedostatky, oslovili sme ho aj my, aby nám povedal zopár slov na svoju obhajobu, prípadne vysvetlil, ako sa také zlyhanie mohlo stať.

Chatbot nám vysvetlil, že by najskôr „rád zdôraznil niekoľko dôležitých bodov týkajúcich sa môjho fungovania a možných obmedzení“.

„Ako jazykový model som navrhnutý tak, aby som poskytoval informácie na základe trénovacích dát, ktoré som dostal. Nikdy by som nemal nahradiť skutočného lekára alebo odborníka v akejkoľvek oblasti. Moja databáza informácií je aktuálna iba do septembra 2021, neobsahuje najnovšie medicínske pokroky či štúdie uverejnené po tomto dátume,“ ozrejmil.

„Nie vždy dokážem poskytnúť dokonalé alebo absolútne správne odpovede. Vždy odporúčam, aby si ľudia overili informácie z viacerých spoľahlivých zdrojov, najmä ak ide o kritické rozhodnutia týkajúce sa zdravia. Moje odpovede by mali byť použité ako doplnkový zdroj informácií, nie ako hlavný alebo jediný zdroj,“ dodal.