Eliezer Yudkowski: „Matrix“ je film o budúcnosti ľudstva

„Móda“ ChatGPT vyprovokovala mnohých podnikateľov a mysliteľov, aby predpovedali, ako by sa mohol skončiť vývoj umelej inteligencie. Eliezer Yudkowski, americký výskumník nových technológií, spisovateľ sci-fi a spoluzakladateľ think tanku Machine Intelligence Research Institute, má pre nás zlé správy. Vo svojom otvorenom liste, ktorý uverejnil časopis Time, napísal, že umelá inteligencia by mohla ovládnuť svet a zničiť nás.

Vedec navrhuje, aby si každý z nás predstavil neustále sa vyvíjajúcu umelú inteligenciu. Dodal však, aby sme tak robili oddelene od počítačov. O čo mu ide? O to, že si umelú inteligenciu predstavuje ako „mimozemskú civilizáciu, ktorá myslí miliónkrát rýchlejšie ako ľudia“. Ako príklad možností tejto civilizácie uviedol posielanie DNA elektronickou poštou do laboratórií, v ktorých môže AI vytvárať umelé formy života. Znie to desivo? Veľmi!

„Otvorene deklarovaným zámerom OpenAI je, aby niektoré budúce formy AI robili našu domácu úlohu pri prispôsobovaní umelej inteligencie. Už len to, že počujete, že ide o takýto plán, by malo stačiť na to, aby každý rozumný človek spanikáril,“ dodáva Yudkowski.

Veľké nebezpečenstvo podľa neho spočíva v tom, že ľudstvo dnes nemá žiadny plán vývoja AI. Uisťuje síce, že súčasné formy umelej inteligencie pravdepodobne len napodobňujú sebauvedomenie, ale problém je v tom, že náš prehľad o ich vnútorných systémoch je mizivý. Naznačuje preto, že umelá inteligencia možno niečo tajne chystá!

„Ak si nie ste istí, či vytvárate sebavedomú umelú inteligenciu, je to alarmujúce nielen kvôli morálnym dôsledkom časti „sebauvedomenie“, ale aj preto, že neistota znamená, že nemáte predstavu, čo robíte – a to je nebezpečné a mali by ste prestať,“ dodal.

 

„Najpravdepodobnejším výsledkom vybudovania nadľudsky inteligentnej umelej inteligencie v podmienkach podobných súčasným bude, že doslova všetci na Zemi zomrú,“ píše sa v liste.

Nie sme pripravení na GPT-5

Vyzýva tiež na zastavenie prác na ďalšej verzii ChatGPT – GPT-5, pretože na to, čo vytvárame, nemusíme byť pripravení. Je tiež presvedčený, že krajiny na celom svete by mali zastaviť vývoj laboratórií umelej inteligencie. Tie by sa mali zničiť.

„Zatvorme to všetko, ešte na to nie sme pripravení,“ uzatvára svoj list.

Ale nepreháňa? Mnohí odborníci dnes tvrdia, že AI môže zlepšiť prácu mnohých ľudí a vytvoriť nové trhy a profesie.

Naproti tomu Elon Musk, Steve Wozniak a Andrew Yang nedávno varovali pred možnosťami umelej inteligencie. Všetci podpísali otvorený list, v ktorom vyzývajú na zastavenie vývoja systémov umelej inteligencie. Generálny riaditeľ spoločnosti Coinbase Brian Armstrong s nimi nesúhlasí. Podľa neho zastavenie prác na nových technológiách nemá zmysel.