V poslední době pracuje několik společností na algoritmech a databázích umělé inteligence, aby zabránily „špatným lidem“ napomáhat „nenávist“ na webu a na pracovišti. Na konci roku 2019 Hatebase oznámila, že to chce odstranit online nenávistné projevy a držet krok s „bílým nacionalistickým žargonem“. V polovině května 2020 Facebook oznámil Výzva Hateful Memes, jejímž cílem je zastavit „urážlivé memy a nenávistné projevy“. A od tohoto týdne se Mezinárodní asociace herních vývojářů (IGDA) snaží řešit problémy a podporovat rozmanitost pomocí databáze k hlášení „špatného chování“.

S rostoucím počtem databází a algoritmů umělé inteligence, které jsou trénovány tak, aby omezily jakékoli „nesprávné myšlení“ nebo špatné chování, lze pouze očekávat, že se v blízké i vzdálené budoucnosti objeví více těchto programů.

Do té doby, gamesindustry.biz uvádí, že Renee Gittins – výkonná ředitelka IGDA (v záhlaví obrázku zcela vpravo) – se od dnešního dne snaží řešit čtyři „klíčové problémy“ v oboru. To zahrnuje „rozmanitost událostí“, „drť“, „etika“ a „správný kredit za dokončenou práci“.

IGDA a Gittins tvrdí, že chtějí „pomoci zlepšit průmysl a zajistit, aby podporovalo každého v něm“. Navíc se to údajně projeví prostřednictvím databáze, která může shromažďovat zprávy o špatném chování.

Níže Gittins vysvětluje, jak ona a IGDA chtějí vyvinout tlak na herní průmysl, aby prozkoumal čtyři klíčové problémy, protože uvedený průmysl od nynějška „potřebuje pomoc“:

„Mysleli jsme si, že by bylo dobré je předložit všechny dohromady, aby měly největší efekt, s plánem vyvinout tlak, aby firmy o nich skutečně uvažovaly. Chceme, aby to byly rozhovory, které lidé vedou, a je jasné, že právě teď je v herním průmyslu obrovská potřeba.“

Zaměstnanci navíc budou moci volat svou společnost prostřednictvím zprávy. Tento přehled bude převeden na anonymizovaný účet, který bude poté přidán do databáze:

"Budeme sledovat zprávy, pokud lidé řeknou, že společnost tyto standardy výslovně porušila."

Tyto účty budou sledovány pro budoucí použití, abychom měli přehled o chování společnosti. Gittins dále vysvětluje tuto metodu, jak je uvedeno níže:

„Pokud někdo uvažuje o spolupráci s [společností] v budoucnu, nebo má nějaké otázky o tom, jak se chová, lidé mohou... získat historii toho, jak se chovali v porovnání se standardy, které navrhuje IGDA. To se bude vyvíjet na základě potřeb komunity a sledování těchto dat bude z dlouhodobého hlediska důležité.“

Na rozdíl od jiných systémů, které mohou být v konceptu a praxi hlasité, tato metoda, kterou Gittins a IGDA navrhují, bude probíhat tiše. Jinými slovy, společnost se v průběhu času změní, aby vyhovovala současným standardům tím, že bude získávat odznaky, aniž by se na veřejnost dostal velký hluk:

„Nechceme oslovovat lidi – snažíme se zlepšit průmysl. Naším posláním je podporovat a posilovat herní vývojáře v naplňujících a udržitelných kariérách. Aby k tomu došlo, společnosti, pro které pracují, musí být udržitelné, jako v pokračování provozu, a musí být udržitelné pro práci, jako v tom, aby nespálili své zaměstnance.

Nicméně jedna věc, na které pracujeme, na opačné straně spektra, je systém odznaků. Naši partneři ve studiu, kteří si vedli obzvláště dobře při získávání kreditů [svým zaměstnancům] nebo kteří si vedli opravdu dobře při podpoře těch, kteří jsou na otcovské a mateřské dovolené, budou oslavovat odznaky, že podporují zaměstnance osvědčenými postupy.

Snažíme se posouvat věci kupředu a nevolat konkrétní společnosti – chceme zlepšit všechny společnosti.“

A konečně, neočekávejte, že to bude poslední společnost, která přinese další databázi a algoritmus AI pro sledování „špatného chování“ v herním průmyslu. S tím se Gittins uzavírá slovy:

„Děláme něco nového v oblasti oslovování společností, spolupráce s nimi a poskytování zdrojů. A skutečně být hlasem pro vývojáře her a prezentovat jejich nejlepší zájmy na jednom místě.“