Twórcy Call of Duty będą walczyć z toksycznością z pomocą SI. Activision wprowadza nowy system moderacji

W grach, które oferują tryb multiplayer, niejednokrotnie możemy spotkać się z objawami toksycznych zachowań innych osób. Choć producenci gier pracują nad rozwiązaniami, które ograniczają takie działania użytkowników, problem jest trudny do wyeliminowania. Okazuje się jednak, że w takim przypadku pomocna może być nowa technologia – Activision przy wykorzystaniu SI zamierza walczyć z mową nienawiści w serii Call of Duty.

Activision wykorzysta SI do monitorowania czatów głosowych w serii Call of Duty

W związku z mową nienawiści i toksycznymi zachowaniami graczy w serii Call of Duty Activision zamierza wprowadzić konkretne rozwiązania. 30 sierpnia w Stanach Zjednoczonych na serwerach Call of Duty Modern Warfare 2 i Call of Duty Warzona rozpoczęły się testy nowej technologii. Jest to system moderacji czatów głosowych – oparte na SI rozwiązanie, które ma w czasie rzeczywistym zapobiegać toksycznemu językowi.

Nowy system moderacji czatów głosowych w Call of Duty wykorzystuje ToxMod, czyli technologię moderacji czatów głosowych opartą na sztucznej inteligencji firmy Modulate, aby identyfikować w czasie rzeczywistym i zapobiegać toksycznemu językowi – w tym mowie nienawiści, językowi dyskryminacji, molestowaniu i nie tylko. To nowe rozwiązanie wzmocni istniejące systemy moderacji prowadzone przez zespół ds. walki z toksycznością w Call of Duty, które obejmują filtrowanie tekstu w grze (czat i nazwy użytkownika) w 14 językach, a także system raportowania graczy.

Ogłoszenie na blogu Call of Duty

W kolejnym etapie technologia ma pojawić się w Call of Duty Modern Warfare 3. Po premierze nowej odsłony strzelanki sztuczna inteligencja będzie monitorować rozmowy na czacie na całym świecie. Na początku jednak będzie to dotyczyć tylko języka angielskiego – kolejne zostaną uwzględnione w późniejszym czasie.

Jak podaje na oficjalnym blogu Call of Duty Activision, technologia filtrowania tekstu i nazw użytkownika jest na bieżąco aktualizowana. Według analizy 20% graczy po otrzymaniu pierwszego ostrzeżenia w grze nie dopuściło się do ponownego naruszenia zasad. Osoby, które jednak decydowały się na dalsze łamanie regulaminu, otrzymywały kary, które obejmowały między innymi ograniczenie funkcji (wyłączenie rozmów głosowych i tekstowych) oraz tymczasowe zawieszenie konta.

Zobacz też: Gry podobne do The Last of Us

Jak mówią twórcy, zespół zajmujący się zwalczaniem toksyczności w Call of Duty nieustannie pracuje nad ograniczeniem niepożądanych zachowań graczy. Deweloperzy są wdzięczni za zgłoszenia użytkowników i zapewniają, że dążą do zapewnienia uczciwych i przyjemnych warunków gry.