Riaditelia technologických gigantov proti AI
Celým svetom otriasla udalosť OpenAI, ktorá v novembri 2022 zverejnila ChatGPT. Popularitu ekosystému AI podporil aj bot založený na AI, ktorý odpovedá na naše otázky a pomáha nám vytvárať obsah a hľadať potrebné riešenia. V polovici marca sme dostali jeho novú a vylepšenú verziu, ktorá dostala názov GPT-4. Viac informácií o schopnostiach novej verzie si môžete prečítať tu.
Napriek možnostiam, ktoré predstavuje príchod umelej inteligencie, má však mnoho ľudí voči tejto technológii určité výhrady a obavy. Okrem iných na problém upozornil aj známy investor a generálny riaditeľ spoločnosti Galaxy Digital – Mike Novogratz. Podľa jeho názoru by umelá inteligencia mohla podnietiť „krízu podvodov s identitou“ a je prekvapený, že regulačné orgány kladú väčší dôraz na presadzovanie nariadení týkajúcich sa kryptomien a nie konkrétne tých, ktoré sa týkajú umelej inteligencie.
Nielen generálny riaditeľ spoločnosti Galaxy Digital je voči novej technológii opatrný. Viac ako 2 600 vedúcich predstaviteľov odvetvia a výskumných pracovníkov sa podpísalo pod otvorený list, ktorého cieľom je zabrzdiť vývoj AI. V zverejnenom dokumente sa kladie osobitný dôraz na „vážne riziká pre spoločnosť a ľudstvo“.
Otvorený list bol zverejnený 22. marca v mene amerického think tangu Future of Life Institute (FOLI). Zaujímavé je, že medzi ľuďmi, ktorí manifest podpísali, sú aj Elon Musk, t. j. generálny riaditeľ spoločností SpaceX a Tesla, a spoluzakladateľ spoločnosti Apple Steve Wozniak.
FOLI žiada všetky zainteresované strany zaoberajúce sa umelou inteligenciou, aby „okamžite zastavili“ svoje práce na výcviku nástupníckych systémov GPT-4 aspoň na šesť mesiacov. Ako dôvod tejto žiadosti sa uvádzajú obavy, že „konkurenčná inteligencia medzi ľuďmi by mohla predstavovať vážnu hrozbu pre spoločnosť a ľudstvo“.
📢 We're calling on AI labs to temporarily pause training powerful models!
Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc
A short 🧵on why we're calling for this – (1/8)
— Future of Life Institute (@FLIxrisk) March 29, 2023
„Pokročilá umelá inteligencia by mohla predstavovať zásadnú zmenu v histórii života na Zemi a mala by sa plánovať a riadiť s náležitou starostlivosťou a prostriedkami. Bohužiaľ, táto úroveň plánovania a riadenia sa neuskutočňuje,“ píše sa v otvorenom liste.
Máme sa čoho báť?
Okrem toho sa v ňom uvádza, že v súčasnosti prebiehajú „nekontrolovateľné preteky“ medzi spoločnosťami zaoberajúcimi sa umelou inteligenciou. V hre je vývoj čo najvýkonnejšieho systému učenia sa na báze umelej inteligencie, ktorému „nikto – ani ich tvorcovia – nedokáže porozumieť, predvídať ho alebo spoľahlivo kontrolovať“.
BREAKING: A petition is circulating to PAUSE all major AI developments.
e.g. No more ChatGPT upgrades & many others.
Signed by Elon Musk, Steve Wozniak, Stability AI CEO & 1000s of other tech leaders.
Here's the breakdown: 👇 pic.twitter.com/jR4Z3sNdDw
— Lorenzo Green 〰️ (@mrgreen) March 29, 2023
Ako príklad potenciálnych obávaných aktivít je zaplavenie spravodajských kanálov „propagandou a nepravdami“. Navyše sa FOLI domnieva, že snaha spoločností zaoberajúcich sa umelou inteligenciou získať v týchto pretekoch náskok by mohla viesť k „existenčnej hrozbe“.
Mali by sme vyvinúť neľudské mysle, ktoré nás nakoniec môžu prekonať, prechytračiť, zastarať a nahradiť? Mali by sme riskovať stratu kontroly nad našou civilizáciou? Takéto rozhodnutia nesmú byť delegované na nevolených technologických lídrov,“ uvádza sa v liste.
Having a bit of AI existential angst today
— Elon Musk (@elonmusk) February 26, 2023
Inštitút tiež cituje slová zakladateľa OpenAI Sama Altmana, ktorý vyhlásil, že predtým, ako sa začne budúci výcvik systémov umelej inteligencie, musí sa najprv vykonať nezávislé posúdenie ich bezpečnosti.
Generálny riaditeľ spoločnosti OpenAI uverejnil 24. februára na blogu spoločnosti príspevok, v ktorom píše o tom, že spoločnosť sa musí pripraviť na roboty, ktoré pracujú so všeobecnou umelou inteligenciou (AGI) a umelou superinteligenciou (ASI).