Saladokumendid: Facebook näib pakkuvat funktsioone, teenides kasutajate ohutust

13-aastane behemoth, kellel on 1,23 miljardit aktiivset kasutajat, teenib Facebook üle kvartali tulu üle 8 miljardi dollari - sellest 3 miljardit dollarit on puhaskasum (nt kasum).

Kuid nii paljude kasutajate puhul näib, et Facebook on seadnud kasutajate turvalisuse teisejärguliseks probleemiks. Kuni selle aasta alguseni töötas Facebook sisu ülevaatamiseks ainult 4500 inimest. Mis kõlab nagu paljud inimesed, kuni mõistate, et need 1,23 miljardit aktiivset kasutajat jagavad miljardeid sisutükke iga päev, iga päev esitatakse miljoneid kasutajate kaebusi Facebooki sisu kohta.

Kas Facebookil on tõsine kasutajate turvalisuse probleem? Äsja avaldatud hooldaja salajaste sisedokumentide ülevaatamine viitab sellele, et selle probleem on kontrolli alt väljas.

Facebook tunnistas, et tal on mingisugune probleem, kui selle aasta alguses nõustus ta peaaegu kahekordistama oma ülevaatuse personali - 7500-ni - keset väiteid, et ettevõte lihtsalt ei tee (või võib-olla hoolib?) Piisavalt, kui potentsiaalselt kahjulikku sisu kogu tema platvormil kaubeldakse . Te ei kahanda oma modereerivat personali, kui kõik on jämedad.

Nüüd, (Suurbritannia) eestkostja on avaldanud hämmastavaid üksikasju Facebooki sisumodereerimise juhistest, mis on välja valitud enam kui 100 salajasest sisemisest koolitusjuhendist ja dokumentatsioonist. Natuke häirib, et kõiki neid olulisi asju ei ole ühes käsiraamatus, mis antakse Facebooki moderaatoritele nende tööle võtmisel.Selle asemel näib see olevat väga killustatud lähenemine poliitikale, mille tulemuseks on vastuoluline teave, ebaühtlane mõõdukus ja väga vähe usaldusväärsust selles, kuidas selle modereerivad poliitikad reaalses maailmas toimivad.

"Facebook ei saa oma sisu üle kontrolli hoida," ütles üks allikas. "See on kasvanud liiga suureks, liiga kiiresti."

Väidetavalt on paljudel moderaatoritel mure mõne poliitika ebajärjekindluse ja eripära pärast. Väidetavalt on kõige keerulisemad ja segasemad näiteks seksuaalse sisu teemalised.

Ainult ühe väikese näitena sellest, kui palju sisu Facebook modereerib, märgitakse artiklites: "Ühes dokumendis öeldakse, et Facebook vaatab üle 6,5 miljoni aruande nädalas potentsiaalselt võltskontode kohta - tuntud kui FNRP (võlts, mitte tegelik inimene)." Ja see on ainult võltskontode jaoks. Kujutage ette, kui palju miljoneid on tegeliku sisu kohta veel aruandeid.

Funktsioonid enne mõtlemist

Enne kui mõeldakse, kuidas inimesed võiksid uut funktsiooni kasutada (ja kuritarvitada), näib, et Facebook eelistab kraami välja käimist ja nuputada, kuidas seda tagantjärele modereerida. Vaadake videovoogude voogesitusteenust Facebook Live, mis võimaldab inimestel videoid vaadata, mis nende elus parasjagu toimub. Milleks nad arvasid, milleks inimesed seda lõpuks kasutavad?

"Samal ajal on mõrvade ja enesetappude edastamiseks kasutatud Facebooki otseülekande funktsiooni, kusjuures ettevõte ei suutnud ilmselt vooge ennetavalt sulgeda." Duh! Enamik ettevõtteid arvaks enne midagi sellist käivitamist arvatavasti: "Hei, meil on vaja sellistest probleemsetest videotest viivitamatult teada anda ja need katkestada." Ilmselt mitte Facebook.

See näitab probleemide järjepidevat läbimõtlemist ja ennetavat lahendamist enne nende tekkimist. Või eksinud poolelt: "Kuule, veereme seda ja vaatame, millise pahameele see saab, enne kui me midagi ette võtame." (Kõik muidugi sõnavabaduse nimel, ignoreerides tõsiasja, et Facebook on ülemaailmne platvorm.) 1

Kuhu ma selle mõõdukuse juhendi uuesti panin?

Oma kogukonna turvalisuse tagamine algab piisava hulga moderaatorite palkamisest, et nende töö oleks nauditav ja mitte ülekaalukas. Ilmselgelt pole Facebook seda suutnud teha, nautides oma rekordkasutajate kasvu, tulusid ja kasumit. Kuid see hõlmab ka volitatud kogukonna mõõdukat juhtimist, kes tagab, et kõik, mida nad oma töö tegemiseks vajavad, on kõik ühes kohas. Nende pressiesindaja sõnul mõtleb Facebook alles nüüd sügavamalt paremate tööriistade vajalikkuse üle: "Lisaks sellele, et investeerime rohkematesse inimestesse, ehitame ka paremaid tööriistu oma kogukonna turvalisuse tagamiseks," ütles ta The Guardianile. "Muudame probleemidest meile teatamise lihtsamaks, ülevaatajatele kiiremini, et teha kindlaks, millised postitused rikuvad meie standardeid, ja neil on lihtsam õiguskaitsega ühendust võtta, kui keegi vajab abi."

Ja võib-olla paneks need kõik ühte käsiraamatusse? Nii et moderaatorid teavad, kust otsida ja kas kõik juhised oleksid järjepidevad?

Enesevigastamise videod on Facebooki maailmas täiesti korras, sest inimene on "hädas". Nii on ka loomade julmus (võib-olla sellepärast, et loom on hädas?). "Kättemaksuporn" on samuti okei, kui moderaator ei suuda kinnitada mõlema osapoole nõusoleku puudumist (mida ma kujutan ette, et seda on õigeaegselt üsna raske teha).

"Mõningaid fotosid laste mitteseksuaalsest füüsilisest väärkohtlemisest ja kiusamisest ei pea kustutama ega" tegutsema ", kui pole sadistlikku või pidulikku elementi." Niikaua kui hoiate sadismi ja pidustusi oma vägivaldsetest piltidest ja videotest eemal, lubab ilmselt Facebook neid.

Dokumentide kohaselt on „vägivaldsete surmade videod häirivad, kuid võivad aidata teadlikkust luua. Videote jaoks vajame alaealisi kaitset ja täiskasvanud - valikut. Märkime häirivateks videoteks inimeste vägivaldsest surmast. " Pole selge, kuhu suitsiidne sisu - näiteks reaalajas videod või ähvardused - kuulub Facebooki mõõdukuse põhimõtetesse, kuid tundub, et see on lubatud.

Facebook peab seadma prioriteediks kasutaja turvalisuse

Mõned on nõudnud Facebooki rangemat reguleerimist, kuna see on kogu selle sisu väravavaht (umbes nagu televisiooni ringhäälinguorganisatsioon on oma võrgus sisu väravavaht):

Suurbritannia parlamendiliikmete 1. mail avaldatud raportis öeldakse, et "suurimad ja rikkamad sotsiaalmeediaettevõtted pole häbiväärselt kaugeltki võtnud piisavalt meetmeid ebaseadusliku või ohtliku sisuga võitlemiseks, nõuetekohaste ühenduse standardite rakendamiseks või kasutajate turvalisuse tagamiseks".

Eksimine sõnavabaduse poolel võib tunduda hea idee, eriti Ameerika ettevõtte jaoks. Kuid sotsiaalsed võrgustikud on peamiselt veebikogukonnad - need ei sarnane eriti ajalehtedega. Facebooki peamine eesmärk on ühendada inimesi üksteisega. Sellest järeldub, et nende suunised peegeldaksid seda mitmekesisust rohkem ja oleksid mõeldud selle kogukonna turvalisuse tagamiseks, mitte mingisuguste uudiseid avaldavate mantrate või tühja ideoloogia asemel.

Tahaksime näha, et Facebook oleks läbipaistvam selle osas, kuidas see modereerib iga päev miljoneid inimesi ja sisukesi. Nendele teemadele suurema valguse andmine aitab probleemidele tähelepanu juhtida ja annab Facebookile võimaluse oma kogukonna turvalisust parandada. Ja me tahaksime, et Facebook kasutaks palju rohkem oma sissetulekutest, tagamaks, et platvormi ohutuks hoidmiseks on piisavalt töötajaid. Kõigile kasutajatele.

Lisateabe saamiseks

Märkused:

1. Oh, ja pange tähele, et kui teil on Facebookis veel 100 000 jälgijat, muudab see nende silmis teid "avaliku elu tegelaseks" - ja see ei allu tavainimeste privaatsusele ega muule kaitsele. [↩]