Současné nástroje pro moderátory v Disqus umožňují uživatelům filtrovat komentáře podle IP adresy, podle slov a dokonce i přes odkazy. A co víc, pokud tyto nástroje nestačí, uživatelé mohou ručně zablokovat, nahlásit nebo zakázat uživatele ve skutečných vláknech komentářů. Zřejmě to nestačí, a proto Disqus přidal nový filtr „Toxic“, který mohou moderátori použít k cenzuře nebo zákazu komentářů.

Nový filtr byl nedávno přidán do aplikace pro komentáře Disqus a zaměstnanci společnosti Disqus vysvětlili, jak to funguje, v nedávném příspěvku na oficiální webové stránky.

Společnost Disqus použila data shromážděná a zveřejněná ve spolupráci s levicově orientovanou webovou stránkou Wired, aby vytvořila své nové API pro sledování a označování komentářů jako „toxické“. Můžete vidět stupnici „toxicity“ se systémem hodnocení komentářů níže z nejnovějších webových stránek Internetová trollská mapa.

Jak vidíte, příklady, které použili, jasně ukazují, že určitý druh mnohomluvnosti zaměřený na SJW bude pravděpodobně označen jako komentář. Uvidíme, zda to bude platit stejnou měrou i pro útoky proti pravicově smýšlejícím lidem.

Podle Disqus je toxický obsah identifikován zneužíváním, trollingem, nedostatečným přínosem a přiměřeným čtenářským majetkem. Pokud mají pocit, že komentář pravděpodobně způsobí, že čtenář opustí obsah místo toho, aby přispěl, pak mají pocit, že komentář je pravděpodobně… „toxický“.

Příspěvek znamená, že správci obsahu budou moci vidět komentáře označené společností Disqus jako „toxické“ a rozhodnout se, zda s tím chtějí něco udělat, jako je automatické skrytí nebo odstranění toxických komentářů nebo jejich přesunutí do složky se spamem.

Příspěvek také uvádí, že budou používat algoritmus strojového učení, aby lépe identifikovali a upravili filtr toxicity pro různé komunity, což vysvětluje…

„Toto první vydání stanoví základní linii toxicity v celé naší síti. Víme však, že to, co je považováno za přijatelné a co je považováno za toxické, se bude v různých komunitách lišit. Abychom to lépe řešili, pracujeme na způsobech, jak začlenit komunitní normy do hodnocení toxicity, s nadějí, že nakonec poskytneme přizpůsobenější řešení pro jednotlivé weby a komunity.“

Označení „toxický“ prozatím pouze označuje komentáře, ale nejsou proti nim podnikány žádné kroky. Moderátoři mají stále kontrolu nad tím, zda chtějí nebo nechtějí odstranit nebo zanechat „toxické“ komentáře.