Kaip socialiniai tinklai kovoja su neapykantą kurstančia kalba?
Dirbtinio intelekto programos ir žmogaus turinio recenzentai susidoroja su įžeidžiančiais komentarais internete
Zachas Gibsonas / AFP / „Getty Images“.
Neapykantos kurstymas nėra naujas reiškinys socialinių tinklų svetainėse, tačiau šeštadienį įvykęs kraštutinių dešiniųjų mitingas Šarlotsvilyje, Virdžinijoje, per kurį žuvo vienas protestuotojas, paskatino įmonės imtis veiksmų prieš įžeidžiančias grupes internete.
Štai kaip didžiausios socialinės žiniasklaidos grupės reaguoja į neapykantą kurstančią kalbą ir jų planus užkirsti kelią įžeidžiančiam turiniui plisti:
Po smurtinių įvykių Šarlotsvilyje šeštadienį, Engadget teigia, kad „Facebook“ „po išpuolių uždarė daugybę neapykantą kurstančių grupių“, įskaitant „smurtą surengusio žygio „Vienykite dešiniuosius“ renginio puslapį“.
Socialinės žiniasklaidos milžinas naudoja dirbtinio intelekto (AI) ir žmogaus turinio apžvalgininkų derinį, kad surastų neapykantą kurstančią kalbą. The Verge pašalina „66 000 neapykantos laiškų pranešimų per savaitę“. Tačiau svetainėje teigiama, kad „Facebook“ „labai priklauso“ nuo vartotojų, kurie praneša apie turinį kaip įžeidžiantį ar neapykantą keliantį.
Gegužę „Facebook“ pasamdė papildomus 3000 žmonių į savo „turinio apžvalgininkų komandą“, sakoma. TechCrunch , todėl bendra suma iki 7500. Tai paskatino keli pasauliniai „turinio moderavimo skandalai“, įskaitant „Facebook Live“ naudojimą „žmogžudysčių ir savižudybių transliavimui“.
Bet Laidinis teigia, kad buvo situacijų, kai bendrovės „algoritminiai ir žmogiškieji tikrintojai“ komentarus ar įrašus pažymėjo kaip įžeidžiančius, neatsižvelgdami į kontekstą. Pavyzdžiui, svetainėje rašoma, kad kai kurie žodžiai „šaukiami kaip šmeižtai“ kartais „atsiima“ grupių „kaip saviraiškos priemonę“.
„Twitter“ neapykantą skatinančio elgesio politika sako, kad paslauga „neleidžia paskyrų, kurių pagrindinis tikslas yra kurstyti kenkti kitiems“ dėl rasės ar seksualinės orientacijos.
The Nepriklausomas praneša, kad per pastaruosius mėnesius svetainėje buvo įdiegta daugiau sistemų ir įrankių, skirtų aptikti ir pašalinti neapykantą kurstančią kalbą, taip pat patobulintas procesas, kai naudotojai neautomatiškai praneša apie įžeidžiančią medžiagą.
Tačiau socialinė žiniasklaida pastaraisiais mėnesiais buvo „nepakankamai karšta“ dėl numanomo veiksmų trūkumo po numanomų grėsmių, sakoma. TechCrunch , o tai paskatino aktyvistą skleisti „neapykantos kalbą gatvėse už bendrovės Berlyno būstinės“.
Po šeštadienio susirėmimo tinklalapyje teigiama, kad kraštutinių dešiniųjų grupės „The Daily Stormer“ paskyra buvo panaikinta, nors „Trumpo žinutės, kurios svyruoja ant grėsmingo branduolinio karo slenksčio“, atrodo, atitinka bendrovės politiką.
Pokalbių forumas „Reddit“ taip pat atsisakė neapykantos kurstymo. Engadget sakoma, kad svetainė „po atakų uždarė daugybę neapykantą kurstančių grupių“.
Tarp grupių, pašalintų iš socialinės žiniasklaidos svetainės, buvo subreddit /r/Physical_Removal, Engadget puslapyje teigiama, kad „tikėjosi, kad prieš neapykantą kovojantys subredditai ir CNN žmonės bus nužudyti, rėmė koncentracijos stovyklas ir net rašė eilėraščius apie žudymą“.
„Mūsų svetainės paslaugų teikimo sąlygose labai aiškiai nurodoma, kad paskelbus turinį, kurstantį smurtą, vartotojai bus uždrausti naudotis Reddit“, – sakė Reddit. Cnet .
Nors „Google“ nėra išskirtinai socialinis tinklas, technologijų milžinas atlieka pagrindinį vaidmenį nukreipdamas interneto srautą ir socialines programas, kurias gali pasiekti vartotojai.
Po susidūrimo Šarlotsvilyje šeštadienį TechCrunch teigia, kad įmonė pašalino „konservatyvųjį socialinį tinklą“ „Gab“ iš „Play Store“, nes jis tapo „prieglobsčiu“ vartotojams, kuriems uždrausta naudotis pagrindinėmis platformomis.
„Google“ teigia, kad ji nepalaiko „turinio, skatinančio arba toleruojantį smurtą prieš asmenis ar grupes“, remiantis tam tikrais kriterijais, ir priduria, kad „labai priklauso nuo naudotojų, ar jie mums praneš apie turinį, kuris gali pažeisti mūsų politiką“.
Tačiau „TechCrunch“ teigia, kad „neaišku, ką konkrečiai padarė Gabas, dėl ko ji buvo pašalinta iš parduotuvės“, nes programa yra pokalbių kambarys ir neatrodo, kad ji aktyviai skatina neapykantą kurstyti. Svetainėje rašoma, kad „Twitter“ ir „YouTube“ yra daug neapykantą kurstančių kalbų, tačiau jas vis tiek galima atsisiųsti, nepaisant šios savaitės „nutrūkimo“ prieš įžeidžiantį turinį.
Pagal The Verge , Gabas „niekada nebuvo patvirtintas, kad jį būtų galima patalpinti Apple App Store“.
Ką veikia kiti?
Vienas iš žymiausių atvejų, kai po šeštadienio įvykių buvo sustabdytas neapykantos kurstymas, yra tai, kad interneto domenų vardų pardavėjas „GoDaddy“ iškeldino „The Daily Stormer“ svetainę iš savo paslaugų. Registras .
Tinklalapyje teigiama, kad aktyvistai pardavėjui sakė, kad ši grupė išsakė „nepaprastai vulgarias ir niekinančias pastabas“ apie Charlottesville išpuolio auką Heather Heyer. „GoDaddy“ perdavė „The Daily Stormer“ 24 valandas „perkelti domeną kitam teikėjui“.
Informavome „The Daily Stormer“, kad jie turi 24 valandas perkelti domeną kitam teikėjui, nes pažeidė mūsų paslaugų teikimo sąlygas.
- GoDaddy (@GoDaddy) 2017 m. rugpjūčio 14 d
Taip pat tikimasi, kad „YouTube“ „įves griežtesnes gaires dėl neapykantos kurstymo“, pranešama TechCrunch . Dėl to gali būti pašalinta daugiau vaizdo įrašų, naudotojams pažymėjus juos kaip įžeidžiančius, net jei turinyje nėra nieko neteisėto.
