Systém ToxMod je založený na umelej inteligencii, ktorá bude mať za úlohu zachytávať toxické správanie hráčov a blokovať ho. Systém sa má dostať do jednej z najznámejších FPS hier Call of Duty. Znamená to, že každá konverzácia bude monitorovaná a analyzovaná umelou inteligenciou?
ToxMod alebo umelá inteligencia bude zachytávať toxických hráčov
Toxicita v hrách je už dlhé roky veľkým problémom mnohých hráčov. Nejde samozrejme o zdravú rivalitu, ale skôr o hate, ktorý môže mať naozaj veľmi extrémne podoby. V priebehu rokov sa proti tomu spoločnosti snažili bojovať prostredníctvom rôznych systémov nahlasovania, ale účinok bol takmer vždy zanedbateľný.
ToxMod je revolučný systém založený na umelej inteligencii. Softvér bol vycvičený pomocou strojového učenia. To umožní systému ToxMod určiť konkrétne posolstvo slov, ktoré hráči vyslovujú. Umelá inteligencia bude brať do úvahy faktory, ako je tón reči, emócie a zámery hráča. Spoločnosť Modulate zdvihla latku vysoko, pretože sa očakáva, že ToxMod bude schopný rozlíšiť hecovanie od jednoduchých priateľských posmeškov. Systém tiež rozpozná toxické správanie so sexuálnym podtextom.
Stojí za zmienku, že úlohou ToxModu bude nahlasovať používateľa, ktorý by mal byť zakázaný, keďže konečné rozhodnutie bude stále robiť človek. Spoločnosť tiež ubezpečuje, že všetky konverzácie budú riadne zabezpečené. Hráči však toto nadšenie nezdieľajú.
Prevezme umelá inteligencia moderovanie online hier a sociálnych médií?
ToxMod bude toxických hráčov posielať moderátorom, ale je určite otázkou niekoľkých rokov, kým ich úlohu prevezme umelá inteligencia. Bude to účinný spôsob boja proti toxickému správaniu nielen vo videohrách, ale napríklad aj na sociálnych sieťach? Účinnosť takéhoto riešenia bude určite mimoriadne vysoká, môže však zaviesť pocit neustáleho dohľadu a kontroly.
Ďalším problémom je, že ani najlepšie vycvičená umelá inteligencia nie je neomylná. Napriek tomu sa už mnohé spoločnosti rozhodli nahradiť napríklad pracovníkov podpory umelou inteligenciou, takže moderovanie obsahu alebo online hier umelou inteligenciou vôbec neznie ako futuristická vízia, ale skôr ako opis budúcnosti.