Ano Ang Itinuturo sa Amin ng Racist GIF Debacle Tungkol sa Online Hate Speech

Bumalik si Giphy sa parehong Snapchat at Instagram matapos ang matulin at hindi masasamang pag-aalis nito noong nakaraang buwan sa pagtuklas ng isang tahasang racist na GIF na naglalarawan ng dumaraming 'N-word na pagkamatay ng krimen' na counter na crank ng isang gorilya.





Ayon kay Ang Verge , Sinabi ni Giphy na ang GIF ay nadulas dahil sa 'isang bug sa aming mga pagsukat sa pagmo-moderate ng nilalaman na partikular na nakakaapekto sa mga sticker ng GIF,' na pinapayagan itong lampasan ang mga patakaran ng platform na nagbabawal sa mga gumagamit na mag-post ng naturang nilalaman. Inayos ni Giphy ang bug, at naibalik ito ng Instagram at Snapchat.

Bagaman nalutas ang insidente na ito nang maabutan ito ng publiko, kapansin-pansin itong naiiba kaysa sa nakaraang faux pas. Agad na nakuha ng Instagram at Snapchat ang app, at sa publiko. Walang rationalizing, walang invoking the First Amendment - isang matatag lamang, maigsi na paghingi ng tawadatpagwawasto.





Ang bawat outlet ng social media - mula sa Facebook hanggang Twitter hanggang sa Reddit - ay nahaharap sa hindi maiiwasang tanong kung paano haharapin ang nakakalason at nakakapinsalang nilalaman, karamihan pagkatapos ng sigawan ng publiko. Ang Facebook ay nakikipag-usap sa isang pagpatay ng mga isyu sa privacy ng huli, ngunit hindi pa nakikipaglaban sa rasismo at poot na pagsasalita sa mga platform nito. Kamakailan ay ipinahiwatig ng Facebook na ito ay hanggang sa mga gumagamit upang magpasya na kondenahin ang pedophilia sa pamamagitan ng isang survey, habang tahimik na pinapayagan ang mga advertiser na target na 'haters ng mga Hudyo' at iba pang mga pangkat ng poot sa Amerika at sa mundo, ayon sa kamakailang mga natuklasan ng ProPublica. Ang New York Times iniulat na ang patakarang ito ay nagtaguyod pa rin ng tensyon sa Myanmar, kung saan tinanggap ng Facebook ang mga ad na umaatake sa minorya ng populasyon ng Rohingya doon. Sa konteksto, pinagbawalan ng Facebook ang mga kababaihan para sa pakikipag-usap tungkol sa kanilang personal na karanasan, ayon sa Nataranta na .



May gagawin ba ang Facebook tungkol sa hate speech sa platform nito? Ang naaangkop na artipisyal na intelihensiya ay hindi pa “doon,” sabi ng CEO na si Mark Zuckerberg. Sinabi niya na maaaring tumagal ng lima hanggang 10 taon upang ayusin ang software na dapat makilala ang mapoot na pagsasalita, ayon sa kanya patotoo bago ang Kongreso ng Estados Unidos Abril 10. Ngunit habang binanggit ni Zuckerberg ang mga nuances sa wika bilang isang dahilan para sa pagkabigo ng AI, Nasobrahan din umano ng Facebook ang malayang pagsasalita sa pamamagitan ng pagtulong sa gobyerno ng Vietnam na alisin ang hindi sumasang-ayon na nilalaman. At, bilang Ipinaliwanag ni Slate noong nakaraang taon , 'Five-to-10 years' ay madalas na maging catchall na parirala mula sa mga organisasyong nauugnay sa tech na nangangako ng lahat mula sa pag-aalis ng chemotherapy hanggang sa mga lumilipad na kotse.



Nakaharap ang Facebook hindi komportable na mga katanungan sa ngayon, ngunit hindi lamang ito. Ang Reddit, isang masasabing mas shadier na bahagi ng internet, hayaan ang Taga-New York sa mga tanggapan nito upang panoorin ang pag-unlad ng detoxification, na binubuo ng isang tauhang pantao na nagsusuklay sa pamamagitan ng mga subreddit upang matukoy kung gaano masamang bagay ang dapat patayin. Ang mga nai-update na patakaran ng Reddit noong nakaraang taon sa oras ng paghanap nito ng marahas na misogynistic na nilalaman sa r / incels subreddit, ayon sa Si Vice .

Kailangang sagutin pa rin ng Twitter kung bakit ang mga gumagamit na naglalabas ng nilalamang kaakibat ng neo-Nazi ay pinapayagan na manatili sa platform, habang ang ibang mga gumagamit ay naiulat na nahanap na ang pagtayo upang abusuhin sa internet ay maaaring makapagbawal sa kanila sa halip na ang nang-aabuso. Noong nakaraang taon, nagsimula ang Twitter inaalis ang na-verify na marka ng tseke mula sa mga tanyag na gumagamit na nauugnay sa mga paggalaw sa kanan, ngunit ang mga puting supremacist tulad ni Richard Spencer ay ginamit na ang app upang kumalat ng marahas na mga mensahe. Ngayon, ang pagtingin ng Twitter sa pag-aalis ng mga bot account na kumalat sa pinaghiwalay na maling impormasyon .



Ang pagkabigo ng publiko ay mahahalata - at marahil ang nag-iisang puwersa sa likod ng anumang pagbabago. Ang Unilever, isa sa pinakamalaking advertiser sa buong mundo, noong Pebrero ay pinalutang ang posibilidad ng pagkayod ng mga ad mula sa Facebook kung hindi ito nasusunod sa pagkontrol sa pagsasalita ng poot. Ang Washington Post iniulat na ang kakulangan ng mga pederal na regulasyon sa industriya ng tech ay nagtutulak sa mga gobyerno ng estado na kumilos. Ang California, kung saan ang karamihan sa mga tech na kumpanya ay headquartered, ay naglalagay ng batas upang talakayin ang mga bot ng social media. Ang Maryland, New York, at Washington ay sumusunod sa likod, na itinutulak ang mga panukalang batas na ginagawang mas malinaw ang mga pampulitika na ad sa online para sa mga botante pagkatapos ng iskandalo sa Cambridge Analytica ng Facebook.

Kahit na ang Instagram ay pagmamay-ari ng Facebook, mabilis nitong naayos ang isyu ng racist GIF. Ang stock ng Snapchat ay higit na bumagsak habang ang mga kilalang tao ay nagpahayag ng mga reklamo tungkol dito, tulad ng Kylie Jenner nagtatanong kung mayroon nang gumamit nito at Rihanna Pag-drop ng app pagkatapos na tanungin ng isang ad ang mga gumagamit kung mas gusto nila siyang sampalin o suntukin si Chris Brown.

Ang insidente ng GIF ay nagmamarka ng isang sandali ng pagtutuos para sa mga platform ng social media na dating ginamit ang Unang Susog bilang isang kalasag. Ang bilis ng resolusyon ay hudyat ng isang paglilipat sa lakas, lalo na habang ang mga gumagamit ng social media ay nagtatanggal ng mga account at nagsisimulang subaybayan ang kanilang sariling mga setting ng privacy. Habang bumabalik ang mga tao mula sa internet, mahalagang panoorin kung gaano kalaking mga kumpanya ng tech at media ang nakikipaglaban sa kanilang lugar sa lipunan at kung ano ang hinihiling ng mga gumagamit mula sa kanila. Masyadong mahaba ang pagkita nila sa amin ng pera. Panahon na para sa pananagutan.

[Larawan: Getty Images]

Patok Na Mga Post