Atslēgas līdzņemšanai
- Bostonas uzņēmums Modulate ToxMod apgalvo, ka tas automātiski reāllaikā nosaka traucējošu runu un novērš to.
- Tā vietā, lai to ierobežotu ar vienkāršu valodu, ToxMod izmanto mašīnmācīšanos, lai noskaidrotu nemateriālos aspektus, piemēram, emocijas, skaļumu un ritmu.
- ToxMod pašlaik ir paredzēts lietošanai ar spēļu tērzētavām, taču nav iemesla, kāpēc tas nevarētu nonākt jūsu Twitch kanālā.
Bostonā bāzēts uzņēmums izmanto mašīnmācīšanos, lai izveidotu pasaulē pirmo balss regulēšanas pakalpojumu, kas var noteikt atšķirību starp teikto un to, ko tas nozīmē.
ToxMod ir mēģinājums atrisināt paradoksu, kas saistīts ar jebkuras atvērtas vietas regulēšanu internetā; nav pietiekami daudz cilvēku, lai sekotu pieprasījumam, taču algoritmi, filtri un pārskatu sistēma nesaprot nianses.
Izmantojot ToxMod datu bāzi, tā var izsekot spēlētāju runas faktoriem, piemēram, emocijām un skaļumam, kas palīdz atšķirt īslaicīgu pārtraukumu un uzvedības modeli. Tas nesen tika paziņots kā papildinājums 7 pret 7 amerikāņu futbola spēlei Gridiron, kas pašlaik ir pieejama Steam Early Access.
"Ikviens zina, ka uzmākšanās, naida runa un toksicitāte balss tērzēšanā un spēlēs ir milzīga problēma. Tas ir plaši saprotams," sacīja Kārters Hafmans, galvenais tehnoloģiju speciālists un Modulate līdzdibinātājs, Google sanāksmē ar Lifewire. "Mēs varētu izmantot funkcijas, ko ieguvām, izmantojot dažādas mašīnmācības sistēmas, un apvienot tās sistēmā, kurā tika ņemtas vērā visas šīs ekspertu zināšanas, kuras mēs mācījāmies no kopienas."
Sveicam mūsu jaunos robotu moderatorus
Modulate ir strādājusi pie ToxMod kopš pagājušā gada rudens un ir iekļāvusi to kā vienu no trim uzņēmuma pamatpakalpojumiem. Tas piedāvā arī VoiceWear - balss maskētāju, ko nodrošina mašīnmācīšanās, un VoiceVibe - apkopošanas pakalpojumu, kas ļauj lietotājiem uzzināt, par ko runā viņu kopienas cilvēki.
Kad ToxMod darbojas tērzēšanā, to var ieprogrammēt, izmantojot Moduļa administratora paneli, lai veiktu dažādas automātiskas darbības, piemēram, brīdinājumu izsaukšana, atskaņotāju skaņa vai individuāla skaļuma regulēšana.
Tā izmanto šķirošanas sistēmu, kurā tā vietējā instance ir pirmā, kas veic darbības, pirms tiek pārbaudīts Modulate serveros, lai saņemtu apstiprinājumu. Tad tas beidzot saasinās līdz vietai, kur tas var prasīt cilvēka iejaukšanos. Veicot katru pārbaudi pēc kārtas, ko Modulate sauc par "šķirošanas vārtiem", ideja ir tāda, ka ToxMod sniedz nelielai moderatoru komandai rīkus, ar kuriem efektīvi regulēt daudz lielāku kopienu.
"Skumjā patiesība ir tāda, ka ikvienam ir bijusi šāda pieredze, mēģinot izmantot balss tērzēšanu jebkurā platformā, kurā atradāties, un atklājot, ka, puika, tā bija slikta ideja," sacīja moduļa izpilddirektors Maiks Papass. videozvans ar Lifewire. "Spēja ieiet un teikt:" Šie nav mežonīgie rietumi. Ir noteikumi. Manuprāt, tas ir patiešām svarīgi."
Sistēmas sagraušana
Protams, otrais vai trešais jautājums, kas jāuzdod par ToxMod, ir, kā to izjaukt.
Izmantojot daudzas automātiskās regulēšanas sistēmas, piemēram, algoritmus, kas pārvalda Twitter, ir viegli tās apspēlēt ar cilvēkiem, kuri jums nepatīk. Vienkārši masveidā ziņojiet par savu mērķi, izmantojot dažus zeķu leļļu kontus, un viņi droši izmantos aizliegumu.
"Sākotnējā līmenī ToxMod nav jāpaļaujas uz šiem papildu spēlētāju ziņojumiem," sacīja Pappas. "Tas joprojām spēj sniegt pārliecinošus aprēķinus par to, kādiem pārkāpumiem mums [jāpievērš] uzmanība. Jums nav jāuztraucas par spēlētājiem, kuri mēģina spēlēt sistēmu, jo nav īsti ko spēlēt.
Ikviens zina, ka uzmākšanās, naida runa un toksicitāte balss tērzēšanā un spēlēs ir milzīga problēma.
"Viss, ko jūs kā atskaņotāju varat kontrolēt, ir jūsu pašu audio," turpināja Pappas. "Sliktākais, ko varat darīt, ir būt mazāk sliktam pret cilvēku, lai mēs jūs neatzīmētu kā sliktu aktieri, kas, manuprāt, ir kaut kas tuvu misijas panākumiem."
Tātad ToxMod pamatā ir aktīvs atgūšanas mēģinājums. Daudzi spēlētāji šajā brīdī ir piedzīvojuši sava veida uzmākšanos no nejaušiem svešiniekiem atklātos balss kanālos, sākot no nejaušiem apvainojumiem līdz aktīviem draudiem. Tā rezultātā spēlētāji parasti izvairās no balss tērzēšanas, dodot priekšroku tās ērtībām apmaiņā pret savu sirdsmieru.
"Mēs sagaidām, ka [slikti aktieri pavada balss tērzēšanā] daudz mazāk laika, pirms tiks atrasts un noņemts," sacīja Pappas."Tam ir vairāk nekā tikai lineāra ietekme. Kad visi uzskata, ka balss tērzēšana ir drošāka vieta, vairāk labu aktieru vēlas atgriezties balss tērzēšanā un izmēģināt. Es domāju, ka viss var virzīties pozitīvā virzienā."
