Nastane prelom, ktorý ohrozí ľudstvo: Experti z OpenAI bili na poplach deň pred zvláštnym vyhadzovom riaditeľa
- Podľa expertov hrozí, že AI ohrozí ľudstvo
- Informovali o tom predstaviteľov OpenAI predtým, ako vyhodili riaditeľa
- Podľa expertov hrozí, že AI ohrozí ľudstvo
- Informovali o tom predstaviteľov OpenAI predtým, ako vyhodili riaditeľa
Sam Altman, generálny riaditeľ prelomovej firmy OpenAI, ktorá stojí za celosvetovo známou umelou inteligenciou ChatGPT, strávil štyri dni v exile. Cez týždeň prišlo jeho nečakané odvolanie a ešte prekvapivejší rýchly návrat. Na povrch však vyplávali nové informácie. Experti varovali, že AI ohrozí ľudstvo.
Zdroje prominentnej agentúry Reuters novinárov informujú, že predtým, ako Altmana odvolali, niekoľko výskumníkov odoslalo správnej rade OpenAI varovný list. Písali, že objav istého typu umelej inteligencie je až natoľko významný, že môže ohroziť ľudstvo. Vyplýva to z výpovedí dvoch anonymov oboznámených s celou záležitosťou.
Podľa správy malo ísť o jednu z kľúčových udalostí, ktoré predchádzali odvolaniu generálneho riaditeľa. Tou druhou bol práve algoritmus tohto typu AI. Ako vieme, nečakaný koniec Sama Altmana však spôsobil vo firme krízu.
Prešiel najprv do Microsoftu, najväčšieho partnera OpenAI, a následne sa vrátil na čelo firmy. Viac ako 700 zamestnancov firmy sa totiž vyhrážalo, že v solidarite s ním prejdú taktiež do Microsoftu.
Zistenia agentúry Reuters
Správna rada mala voči Altmanovi pred jeho odvolaním viacero výhrad. Obávala sa napríklad komercializácie vedeckých pokrokov bez dostatočného chápania toho, aké následky vlastne môžu mať vo svete. Kópiu listu sa však agentúre nepodarilo získať a jeho autori nereagovali na žiadosti o komentár.
Reuters sa teda pokúsila skontaktovať s predstaviteľmi spoločnosti OpenAI. Aj tí však odmietli situáciu komentovať. Následne firma svojím zamestnancom odoslala internú správu. V tej potvrdila existenciu istého projektu s označením Q* (slovne Q-Star, v preklade Q-Hviezda), zistila agentúra.
V správe sa taktiež potvrdila existencia varovného listu, ktorý obdržala správna rada.
Hovorca OpenAI uviedol, že správa od výkonnej riaditeľky Miry Murati upozorňovala zamestnancov na doterajšie mediálne správy. Správa však nekonštatovala to, nakoľko boli pravdivé a presné.
Čo je Q*? Projekt, ktorý siaha za hranice bezpečnosti a z ľudí robí irelevantné bytosti >>>
Čítajte viac z kategórie: Hlavné správy a aktuality
Pokračovanie článku nájdeš na ďalšej strane.