Kuidas Facebook käsitles võltsfotot Mark Zuckerbergist natsivormis

Selle aasta alguses andis lihtne Facebooki otsing Mark Zuckerbergi nime kohta ootamatu tulemuse: Facebooki asutaja natsivormis pilt tema fotode ülaosas, otse tema kinnitatud profiili all. Photoshopitud pilt jättis Facebookile kaks soovimatut valikut: see võib kustutada põletava foto ja tsensuurisüüdistused või võõrustada meeleldi oma tegevjuhi pilti natsides.



Kumbki variant ei olnud Facebooki jaoks eriti ahvatlev, kuid olukord polnud võõras. Kuigi mõnel ettevõtte sisu modereerimise otsusel on selged põhjendused - näiteks lapsporno eemaldamine -, on paljud neist, millega ta silmitsi seisab, sarnased oma võltsitud Zuckerbergi pildiprobleemiga: dilemmad, millel pole lihtsaid vastuseid ja potentsiaalsed tagajärjed.

Need rasked valikud ja filosoofia, millega Facebook neile läheneb, on muutumas üha olulisemaks nüüd, kui ettevõte on oma sisu modereerimisega seotud jõupingutuste enneolematu eskaleerumise keskel. Kahe miljardi kasutajaga platvorm võtab tööle 4000 uut moderaatorit, kuna avalikkus on intensiivselt kontrollinud selle keerukat käitlemist vägivaldne sisu , võltsuudiseid ja Kremli toetatud jõupingutusi valimisaasta jooksul USA-s ebakõla külvamiseks. Facebooki inimlikud moderaatorid võtavad nüüd ettevõtte väärtused arvesse hallide alade sisu puudutavate otsuste tegemisel, mis on sageli kadunud arutelul ettevõtte parema toimimise vajaduse üle.

pole enam parimate sõprade meem

Üha sekkuvama Facebooki jaoks tuleb nüüd raske osa: nuputada välja, kuidas oma tohutul platvormil kõige raskemaid sisuprobleeme lahendada - rassism ja vihakõne, valeinfo ja propaganda - Photoshoppis natside mundrisse Mark Zuckerberg.

See on tõepoolest ülemaailmselt mitmekesine elanikkond ja inimestel üle maailma on tõeliselt erinevad ideed selle kohta, mida on õige veebis jagada, ja sellest, kuhu peaksime need jooned tõmbama, ütles Facebooki poliitikajuht Monika Bickert BuzzFeed Newsile.

Paljudest keerukate probleemidega, millega Facebook silmitsi seisab, ilmnesid aasta jooksul mõned okkalisemad Novembri kuulamised Washingtonis, kui Facebook, Google ja Twitter kutsuti kongressi, et arutada Venemaa manipuleerimist oma platvormidega 2016. aasta presidendivalimiste ajal. Seadusandjate intensiivse grillimise ajal lubasid platvormide juristid korduvalt paremini.

Kuid see, kuidas Facebook peaks selle lubaduse täitma, on endiselt suur küsimus. Tuleb lugematuid dilemmasid, millele pole kergeid vastuseid, ütles parlamendi luurekomitee edetabeli liige Adam Schiff pärast kuulamisi BuzzFeed Newsile. Isegi sellise riietusega nagu [Venemaa televõrk] RT on küsimused keerulised.

kui palju teeb big bang cast

USA luurekogukond on nimetanud RT -d Kremli peamiseks rahvusvaheliseks propagandaväljaandeks, muutes selle kuumaks kartuliks Facebooki jaoks, mille kongress tühistas, kuna see võimaldas venelastel 2016. aasta valimisi häirida. Facebookil on küll õigus piirata RT -sisu levikut oma platvormil, kuid otsus seda teha on täis. Kui lubate RT -i sisul oma võrgus liikuda, muutub Facebook tõhusalt propaganda edastusmehhanismiks. Kuid RT vaigistamisel oleksid ka tagajärjed, andes löögi vabale sõnavabadusele platvormil, mis korraldab palju avalikku arutelu.

Esimest muudatusettepanekut uuriv Detroidi halastusõiguse dotsent Kyle Langvardt hoiatas poliitilise sisu eemaldamise ohu eest selliselt platvormilt nagu Facebook. Kui eraettevõtted otsustavad, milliseid materjale saab tsenseerida või mitte, ja nad kontrollivad üha enam avalikku sfääri, siis meil on sisuliselt eraettevõtted, mis reguleerivad avalikku sfääri viisil, mida me riigilt kunagi vastu ei võtaks, ütles ta.

'Asjaolu, et need ettevõtted ei ole valitsus, muudab nende tegevuse veelgi häirivamaks.'

Nagu Langvardt märkis, on probleemid, mis võivad tekkida Facebooki poliitilist kõnet reguleerides, tõepoolest murettekitavad. Platvormi kasutab iga kuu 2,07 miljardit inimest ja selle uudistevoost on saanud de facto linnaväljak, kus 45% ameeriklastest väidab, et saab uudiseid. Pewi uurimiskeskus . Facebooki sisu eemaldamise võimet on vähe kontrollitud; see ei postita eemaldatava sisu kohta avalikke andmeid, mistõttu on kolmandatel isikutel peaaegu võimatu seda modereerimisotsuste eest vastutusele võtta. Langvardt ütles, et paljudel juhtudel muudab asjaolu, et need ettevõtted ei ole valitsus, veelgi häirivam, mida nad teevad. Kui nad oleksid valitsus, oleksid nad vähemalt poliitilise protsessi ees vastutavad.

Facebook näib vähemalt huvitatud rohkematest läbipaistvusmeetmetest. 'Me tahame olla läbipaistvamad Facebooki probleemse sisu vastu võitlemise viiside osas ja otsime võimalusi, kuidas seda edaspidi teha,' ütles pressiesindaja.

Praegu ei kohtle Facebook RT -d erinevalt oma platvormi muust sisust, ütles Bickert. Nende suhe valitsusega ei ole meile diskvalifitseeriv, ütles ta. Kui nad avaldaksid midagi, mis rikub meie eeskirju, siis me eemaldaksime selle. Samuti lubab Facebook jätkuvalt RT -l reklaamida, erinevalt Twitterist, mis pärast seda väljaande oma reklaamiplatvormilt keelas seda pakkudes 15% USA 2016. aasta valimiste reklaamikohtadest 3 miljoni dollari eest.

Võltsuudised - teine ​​teema, mida arutati novembris DC -s toimunud kuulamistel - võivad olla Facebooki jaoks veelgi keerulisem valdkond, eriti nüüd, kui kriitikutel on platvormil väidetavalt valeandmeid panustanud tuhandete Myanmari rohingjade etnilise rühma tapmisele. Sündmuste uudiste ilmumisel süüdistasid inimesed Facebooki genotsiidi hõlbustamises; mõned kutsusid ettevõtet üles looma hädaabimeeskonnad teemaga tegelema. Kuid ka siin pole õige lähenemine kohe ilmne. Kui Facebook oleks saatnud hädaabimeeskonna Myanmari kohta käiva vale sisu kustutamiseks, oleks ta pidanud tegema otseseid otsuseid konfliktile tuhandete miilide kaugusel oma peakorterist. Ja tõepoolest, kui Facebook lõpuks tegutsema asus ja eemaldas mõned postitused Rohingya külades sõjalist tegevust dokumenteerides süüdistasid rohingya aktivistid seda etnilise puhastuse tõendite kustutamises.

naeruväärseid asju on Trump öelnud

Filosoofiliselt ei taha Facebook eriti eemaldada vale sisu. Ma arvan, et keegi ei taha, et eraettevõte oleks tõe otsustaja, ütles Bickert. Inimesed tulevad Facebooki, sest tahavad üksteisega suhelda. Sisu, mida nad näevad, on nende valikute funktsioon. Kirjutame juhiseid, et tagada inimeste turvalisus. Soovime, et meie kogukond määraks sisu, millega nad suhtlevad. Facebook on hiljuti tutvustanud a toodete arv valeuudiste leviku piiramiseks, kuid esialgsed tulemused on puudulikud.

Ma arvan, et keegi ei taha, et eraettevõte oleks tõe otsustaja.

Isegi selgete juhistega, mõõdukus võib olla täis. Kuidas sellist platvormi nagu Facebooki politsei ahistamine läbi viidi? koodsõna ? Kuidas see käsitleb rassilisi solvanguid, mida kasutatakse hariduslikus või ajaloolises kontekstis? Kuidas see haakristiga satiirilises kontekstis hakkama saab? Ja kuigi Facebookil on selgelt määratletud seisukoht poliitilise kõne reguleerimise vastu, võib see kõne siiski olla moderaatorimeeskonna alluvuses, kui see peaks vastu astuma teistele Facebooki reeglitele, näiteks need, mis keelavad solvava kõne.

Arvestades sellega kaasnevat kaalutlusõigust, on väärinformatsiooni, vihakõne ja kuritahtliku sisu ennetava eemaldamise ja tsensuuri vahel hea piir. Me näeme juba märke agressiivsema platvormi väljanägemisest. Twitter, millel on sarnased reeglid Facebookiga, võtab pärast sekkumist ignoreerides pikaajalisemat suhtumist kõnesse sekkumisrikkamalt. Selle praegusel kontrollimiste tühistamise, kontolukkude ja konto peatamise kampaanial on märgatav kõrvalmõju-jättes rohkem kui paar inimest mõlemal pool vahekäiku, kes väidavad end ebaõiglaselt vaigistatud. Twitter lukustas mu konto 12 tunniks, kuna kutsusin välja selle rassistliku tüdruku, ühe kasutaja kirjutas oktoobris avalduses, mis pole platvormi jaoks enam üllatav.

Facebook on kasutanud Twitterist kergemat puudutust, kuid selle viimase aasta eksimused on selle mikroskoobi alla veelgi edasi lükanud ja seal halastamatult hoidnud. Mitte ainult Facebooki, vaid ka kõigi sotsiaalmeedia platvormide tavasid kontrollitakse viisil, mida nad pole kunagi varem teinud, ütles BuzzFeed Newsile UCLA dotsent Sarah Roberts, kes on seitse aastat sisu modereerimist õppinud. Facebook, olenemata sellest, kas see on õigustatud või mitte, näib kandvat selle kontrolli peamist koormust.

Ja kui Facebook püüab leida õiget sisu modereerimise tasakaalu, seisab ta silmitsi ka teise väljakutsega: hoida tuhandeid moderaatoreid samal lehel, et nad oma reegleid järjekindlalt rakendaksid. David Wilner, varajane Facebooki töötaja, kes aitas luua ettevõtte esialgse sisu modereerimise jõupingutusi, ütles BuzzFeed Newsile, et see on töö kõige raskem osa. Enamasti ei ole terve mõistus tõeline asi. Muidugi on olemas põhialuste kogum, millega enamik inimesi nõustub, on head - näiteks nutva lapse aitamine. Kuid kui olete jõudnud väga-väga lihtsate liha-vere küsimuste üle, ei ole loomulikku üksmeelt, ütles Wilner. Igaüks toob iga otsuse juurde oma ajaloo - oma lapsepõlve, rassi, religiooni, rahvuse, poliitilised vaated, kõik see. Kui võtate 10 oma sõpra ja esitate neile eraldi 50 keerulist näiteid sisust, mille üle otsuseid langetada - ilma igasuguse aruteluta -, on nad palju eriarvamusel. Me teame seda, sest proovisime seda.

Varem on Facebook näidanud kalduvust rünnata oma probleeme toore jõuga - lähenemisviis, mis võib osutuda katastroofiliseks, kui seda rakendada sellele uuele sisu modereerimise tõukele, mis on osaliselt ajendatud avalikkuse survest. Facebook on juba näidanud probleeme, mida see lähenemisviis võib põhjustada, kui selle aasta alguses võttis ta laialdaselt maha postitusi sõnaga muld isegi siis, kui seda kasutati enesele viitavatel ja mitte vihkavatel viisidel. Rohkem konteksti saades taastas Facebook paljud postitused.

Kuid kui viis, kuidas Facebook Zuckerbergi natsifotoshoppi käsitles, on viide, näib ettevõte tunduvalt delikaatsemat lähenemist delikaatsetele sisuküsimustele. Facebook ei kustutanud pilti. Selle asemel jättis ta selle platvormile üles. Pilt ei ilmu enam otsingutulemuste „Mark Zuckerberg” tipptulemustes ja pressiesindaja ütles, et see lükati Zuckerbergi otsingutulemustes alla saidipõhises värskenduses, mille eesmärk oli parandada asjakohasust.