FACEIT nimmt mit maschinellem Lernen die Toxizität an

FACEIT, eine der größten unabhängigen, erschwinglichen Esport-Plattformen, hat Partnerschaft mit Alphabet im Besitz von Jigsaw um mit dem wiederkehrenden Problem giftiger Aktionen im Internet-Gaming umzugehen. Sowohl Jigsaw als auch FACEIT haben Perspective, eine maschinenlernende KI, die darauf abgestimmt ist, gefährliche Bemerkungen zu entfernen, auf den wettbewerbsfähigen Webservern von FACEIT angewendet.

mittels FACEIT

FACEIT ist ein erschwingliches Esport-System mit über 15 Millionen Kunden, das täglich unzählige Online-Matches organisiert. Schädliche Äußerungen, Belästigungen sowie Spam-Nachrichten sind ein häufiges Problem im Internet-Gaming, bestehend aus unabhängigen Diensten wie FACEIT. In der Vergangenheit hingen viele der kleinen Mengen von FACEIT-Anmerkungen im Spiel davon ab, dass Benutzer einen Fall meldeten und auch menschliche Mediatoren die Nachrichten bewerteten, bevor sie eine Bestrafung austeilten. Dies war zeitlich nicht zuverlässig, und es gab auch keine andere Möglichkeit, jede schädliche Person aus dem System zu verbannen.

FACEIT hat derzeit sogar auf maschinelles Lernen zurückgegriffen, um mit der anhaltenden Besorgnis über Belästigungen im Internet-Gaming umzugehen. In Zusammenarbeit mit der Alphabet-Organisation Jigsaw wurde Point of view tatsächlich direkt in die Wettbewerbsplattformen von FACEIT implementiert. Mit der Ausrüstungslerntechnologie ist Viewpoint in der Lage, schädliche Nachrichten, die auf der Plattform gesendet werden, sowohl zu überprüfen als auch aufzufangen – und eine geeignete Aktion an alle verärgerten Spieler zu senden. Eine „Toxizitätsgrenze“ kann festgelegt werden, was bedeutet, dass die Formel darauf trainiert ist, Kunden zu bestrafen, die Nachrichten versenden, von denen angenommen wird, dass sie einen bestimmten Toxizitätsgrad überschreiten. In den wenigen Wochen seit der Implementierung von Viewpoint wurden über 160.000.000 Nachrichten ausgewertet und auch als toxisch geltende Nachrichten tatsächlich schnell bestraft. „Die Perspektive hat sich von der Unterstützung kleiner und großer Verlage zu einer wirklich breiten Palette von Branchen entwickelt. Esports und auch Videospiele sind einzigartig, weil die Geschwindigkeit und der Webinhalt wirklich anders sind als das, was Sie sicherlich auf einer Informationsseite entdecken würden ,“ behauptet Lucy Vasserman, Supervisor und Technical Lead in der Diskussions-KI-Gruppe.

FACEIT meldet einen Rückgang der Kommentare um 7 % über der festgelegten „wirklich hohen“ Toxizitätsschwelle und einen Rückgang der schädlichen Nachrichten um 20 % im Allgemeinen. FACEIT erwischt Berichten zufolge die führenden 5% der unsichersten Personen auf der Plattform, was dazu führt, dass täglich rund 1.000 Kunden über ihre Gewohnheiten informiert werden.

mittels FACEIT

In einer Initiative zur Vermeidung falscher Beschränkungen und ignorierter Toxizität hat Point of view den Moderationsprozess nicht vollständig unter Kontrolle. FACEIT muss noch die bewerteten Nachrichten überprüfen, um die Präzision von Perspective zu beurteilen. „FACEIT hat tatsächlich bemerkenswerte Arbeit geleistet, die Notwendigkeit einer sofortigen Reaktion zu stabilisieren und gleichzeitig die Menschen in der Lücke zu halten, indem es markierten Spielern ermöglicht hat, eine Überprüfung durch die Moderatorengruppe zu verlangen, nachdem das Videospiel tatsächlich beendet wurde“, sagt Vasserman, „The Gaming Der Sektor ist so lebendig und schnelllebig, dass es erstaunlich war zu sehen, wie unsere Innovation mithalten und Spielern helfen kann, Echtzeitkommentare zu ihren Nachrichten zu erhalten.“

Momentan kann Perspective nur auf schriftliche Nachrichten abzielen, die im Spiel gesendet werden. Die Gruppe erkennt an, dass gefährliches Verhalten auf vielfältige Weise aufgedeckt werden kann, darunter über Voice-Chat, Trauer, Betrug und viele andere, die nicht über Nachrichten im Spiel zu sehen sind. FACEIT bereitet sich darauf vor, sein Verfahren für kleine Beträge zu erweitern und auch voranzutreiben, wobei Viewpoint der erste Schritt in Richtung einer „größeren Initiative“ ist.