Hovoríme o projekte Q* (Q-Star), na ktorý vedenie v osobitnom vyhlásení upozornili dvaja zamestnanci. Tieto udalosti sa údajne odohrali deň pred Altmanovým náhlym odvolaním. Mohla by byť AGI, teda silná umelá inteligencia, bližšie, než si všetci doteraz mysleli?
OpenAI sa ponáhľa s vývojom umelej inteligencie – ale nie je tento šprint príliš nebezpečný?
GPT (Generative Pre-Trained Tramsformer) a ďalšie LLM (Large Language Models) prekvapili svojou účinnosťou celý svet. Aj keď ich presné odpovede môžu vzbudzovať dojem, že interagujeme s inteligenciou, GPT je založená najmä na pravdepodobnosti a predpovedaní, aké slovo by malo nasledovať. Je to niečo ako veľmi rozsiahly slovník T-9 známy zo starších telefónov. Napriek tomu niektorí výskumníci a vedci uviedli, že schopnosť dospieť ku konkrétnym záverom už ukazuje zárodky inteligencie.
Bolo zrejmé, že OpenAI pracuje na oveľa pokročilejších typoch umelej inteligencie. Sam Altman aj napríklad Szymon Sidor veľmi často spomínali AGI, teda Silnú umelú inteligenciu. Ukázalo sa, že OpenAI už nejaký čas pracuje na projekte Q*. Jeho vývoj predčil očakávania aj zamestnancov OpenAI. Schopnosti Q-Star ich navyše vydesili natoľko, že sa to rozhodli oznámiť vedeniu spoločnosti.
Mystery Q* – prečo by mohol byť najnovší projekt OpenAI nebezpečný pre ľudstvo?
Podľa únikov má Project Q* zvládnutú matematiku na úrovni žiaka základnej školy. Aj keď to neznie ako niečo, čo by skutočne ohrozilo existenciu nášho druhu, situácia sa dramaticky zmení, keď zvážime, ako Q-Star získala tieto znalosti. No, Q* sa neučila matematiku, pretože tento model nebol určený na riešenie týchto typov problémov. Q* sama prišla na to, ako zvládnuť základnú matematiku.
To zase ukazuje tempo vývoja projektu a naznačuje, že Q* má schopnosť riešiť problémy a spracovávať informácie na ľudskej úrovni. Preto je to dokonalý príklad toho, že základy pre AGI existujú, učia sa sami a neustále sa rozvíjajú. Preto je také dôležité, aby bol tento projekt vyvinutý na základe etiky a dodržiavania bezpečnostných princípov, a nie len na snahe o vytvorenie kybernetickej entity uvedomujúcej si seba samého.