I lyset af Trump-forbuddet, den yderste højrefløjs hadefulde ytringer og de tydeligt mærkelige QAnon-konspirationsteorier, er verdens opmærksomhed i stigende grad fokuseret på moderering af og af sociale medieplatforme.
Vores arbejde hos AKASHA er baseret på troen på, at mennesker ikke er problemer, der venter på at blive løst, men potentielle, der venter på at udfolde sig. Vi er dedikerede til den udfoldelse, og så til at muliggøre, pleje, udforske, lære, diskutere, selvorganisere, skabe og regenerere. Og dette indlæg udforsker vores tankegang og handling, når det kommer til moderering.
Modererende processer er fascinerende og essentielle. De skal opmuntre og rumme kompleksiteten i fællesskabet, og deres design kan bidrage til fænomenal succes eller dyster fiasko. Og uanset hvad, vil vi aldrig gå direkte fra nul til helt her. Vi er nødt til at finde ud af det sammen.
Vi vil starte med at definere nogle almindelige termer og aflive nogle almindelige myter. Derefter udforsker vi nogle centrale designovervejelser og skitserer de involverede feedbackmekanismer, før vi præsenterer de modererende mål, som vi ser dem lige nu. Alle kommentarer og feedback er meget velkomne.
Vi vil understrege én ting om vores Ethereum World-rejse — det giver ingen som helst mening for AKASHA-teamet at diktere færdselsreglerne, som vi håber vil blive mere og mere indlysende i de kommende uger og måneder.
Lad os gøre dette.
"Begyndelsen af visdom er definitionen af begreber." En passende truisme, der tilskrives Sokrates.
Styrende — bestemmende myndighed, beslutningstagning og ansvarlighed i processen med at organisere [ref].
Moderer — den delmængde af styring, der strukturerer deltagelse i et fællesskab for at lette samarbejdet og forhindre misbrug [ref].
Censurering — at forbyde eller undertrykke information, der anses for at være politisk uacceptabel, obskøn eller en trussel mod sikkerheden [Oxford English dictionary].
En persons moderering er en anden persons censurering, som denne diskussion blandt Reddit-redaktører vidner om. Og mens det har vist sig, at den centraliserede moderering foretaget af Facebook, Twitter og YouTube udgør "et detaljeret system forankret i det amerikanske retssystem med regelmæssigt reviderede regler, trænet menneskelig beslutningstagning og afhængighed af et system med ekstern indflydelse ”, er det klart “de har ringe direkte ansvarlighed over for deres brugere” [ref].
Det sidste falder os ikke i god jord, og hvis du læser dette, så flyder det med stor sandsynlighed heller ikke din båd. Vi har ikke været afhængige af, at private virksomheder tager denne rolle gennem historien, og vi har ingen intentioner om at stole på dem fremover.
Subjektivt kan moderation føles som censur. Det kan være, når moderatoren virkelig er gået 'for langt', eller når emnet ikke føler sig tilstrækkeligt bemyndiget til at forsvare sig selv, men også når emnet faktisk bare er et røvhul.
Som du vil forestille dig, er AKASHA ikke pro-censur. Vi erkender snarere, at ytringsfrihedens konsekvens er opmærksomhedsfrihed. Bare fordi jeg skriver noget, betyder det ikke, at du skal læse det. Bare fordi jeg bliver ved med at skrive ting, betyder det ikke, at du skal blive ved med at se, at jeg bliver ved med at skrive ting. Dette er en virkelig vigtig observation.
AKASHA er drevet til at hjælpe med at skabe betingelserne for fremkomsten af kollektive sind, dvs. intelligenser større end summen af deres dele. Enhver, der er tiltrukket af AKASHA, og faktisk til Ethereum, er interesseret i at hjælpe med at opnå noget, der er større end dem selv, og vi har ikke fundet en online 'gratis for alle', der fører til et sådant resultat.
Sociale netværk i stor skala uden passende modererende handlinger er designet til at være vært for ekstremister eller tiltrække ekstremister, fordi værten har opgivet at forsøge at designe til moderering. Et fællesskab uden modererende processer mangler væsentlig struktur, hvilket efterlader det lidt mere end et degenerativt rod, som mange ville undgå.
Mange sociale netværk og diskussionsfora omfatter en rolle, der ofte omtales som moderator , men hvert medlem af hvert fællesskab har nogle modereringsevner. Dette kan være eksplicit - f.eks. markering af indhold til gennemgang af en moderator - eller implicit - f.eks. på vej til en flammekrig med beroligende ord.
Hvis et fællesskabsmedlem er aktivt, modererer hun. Hun er med andre ord med til at fastholde og udvikle de sociale normer, der styrer deltagelse. Som en generel tommelfingerregel gælder det, at jo mere vi kan give deltagerne mulighed for at give passende positiv og negativ feedback, jo mere hensigtsmæssigt kan vi spå om en samlet konsekvens, jo flere skuldre tager den væsentlige modererende indsats op. Vi ved, når vi er nået dertil, når rollen vi kalder moderator virker irrelevant.
Modererende handlinger kan være enkle nok, men overordnet modererende design er lige så meget kunst som videnskab. Det er top-down, bottom-up og side-to-side, og komplekst …
Kompleksitet refererer til de fænomener, hvorved et system kan udvise egenskaber, der ikke kan spores til en eller to individuelle deltagere. Komplekse systemer indeholder en samling af mange interagerende objekter. De involverer effekten af feedback på adfærd, systemåbenhed og den komplicerede blanding af orden og kaos [ref]. Mange interagerende mennesker udgør et komplekst system, så det er ikke til at komme uden om i forbindelse med Ethereum World.
Loven om nødvendig variation hævder, at et systems kontrolmekanisme (dvs. den styrende, specifikt den modererende i sammenhængen her) skal være i stand til at udvise flere tilstande end selve systemet [ref]. Manglende konstruktion til dette sætter systemet op til at fejle. Her er nogle eksempler på fejltilstande i denne henseende:
Lad os tage et kig på nogle af de ting, vi skal tage i betragtning, forskellige feedback-loops og vores modererende mål.
Der er en række designovervejelser på topniveau [ref]. Disse omfatter:
Menneskelige interaktioner involverer subtilitet, kontekst, ironi, sarkasme og multimedier; faktisk mange kvaliteter og formater, der ikke er nemme at algoritmisk fortolkning. Fuldt automatiseret moderering er ikke mulig i dag (og måske håber vi, at det forbliver tilfældet længe), så det efterlader os med helt manuelle modereringsprocesser og computerstøttede modereringsprocesser.
"Din konto er blevet deaktiveret."
Dette er alt, hvad du får, når Facebooks automatiske moderering starter. Ingen forklaring. Ingen gennemsigtighed. Hos AKASHA bruger vi som standard gennemsigtighed, obvs.
Kun når folk kender til en lov, kan den være effektiv. Kun når folk lærer om en social norm, kan den holde ud. Både loven og sociale normer afskrækker, men forhindrer ikke subversion. Straf er tilgængelig, når den afskrækkende virkning er utilstrækkelig - faktisk validerer den afskrækkelsen - og begge dele er nødvendige i modererende processer.
Decentralisering er et middel snarere end et mål i sig selv [ref]. I dette tilfælde bidrager decentraliserede modereringsprocesser til en følelse af fællesskabets "ejerskab", personlig handlefrihed og ideelt set mere organisk skalering.
Nogle modererende processer udspiller sig i hverdagens interaktioner, mens andre kræver dedikation af tid til opgaven. Denne tidsallokering er enten ydre motiveret (f.eks. til betaling, pr. Facebooks moderatorer) eller slægtsmotiveret (f.eks. for sagen, pr. Wikipedia-fællesskabet). Det siges ofte, at de to ikke er behagelige sengekammerater, men samtidig er der mange mennesker derude, der er draget af at arbejde for 'en god sag' og tjene til livets ophold.
Vi er tiltrukket af at støtte og forstærke iboende motivationer uden at stille tunge krav til en håndfuld samfundsmedlemmers tid. Modereringsprocesser burde føles lige så normalt som ikke at smide affald og lejlighedsvis samle en andens kasserede Cola-dåse op. Når de begynder at føle sig mere som en frivillig kuldplukker, rejses spørgsmålet om "at gøre din rimelige andel" i forbindelse med en potentiel tragedie for almenheden.
Intet ved moderering er nogensinde statisk. Vi kan overveje fem niveauer af feedback:
At demonstrere og observere adfærd på en daglig basis er en primær kilde og opretholder af et samfunds kultur - hvordan vi gør og ikke gør ting her omkring. Vi kan kalde det moderering ved eksempel.
Dette handler mere eksplicit om at påvirke cirkulationen af indhold og den form, de fleste tænker på, når de overvejer mådehold. En typisk form for anden-sløjfe-feedback er eksemplificeret ved det indhold, der har opnået tilstrækkelige markeringer til at berettige opmærksomhed fra en moderator - en person med autoritet til at udøve en bredere vifte af modereringsprocesser og/eller større beføjelser til at udøve dem. Selvom det nogle gange ser ud til at spille anden violin til korrigerende feedback, inkluderer 2nd loop også positiv feedback, der fejrer bidrag og handlinger, som fællesskabet ville elske at se mere af.
Samfundsdeltagelse er struktureret af modererende processer. Tredje-loop feedback kan derefter fungere til at gennemgå og trimme eller tilpasse eller udvide disse strukturer, gennemgå medlemmernes agentur, efter regelmæssige aftaler eller efter undtagelse.
Moderering er en form for styring - processerne til at bestemme autoritet, beslutningstagning og ansvarlighed. Fjerde-sløjfe-feedback kan derefter fungere sådan, at resultaterne af 1.-, 2.- og 3.-sløjfe-feedback anmoder om en gennemgang af fællesskabsstyring eller bidrager til periodiske evalueringer.
Når infrastruktur ejes og/eller drives af en juridisk enhed, har denne enhed juridiske ansvar under relevante jurisdiktioner, som kan kræve fjernelse af noget indhold. Når indholdsadresserbar lagring bruges (f.eks. IPFS, Swarm), er sletning vanskelig, men fjernelse af listen er fortsat ganske mulig, når opdagelsen indebærer vedligeholdelse af et søgeindeks.
Vi har identificeret otte modererende designmål. Det vil altid være nyttigt i vores fremtidige diskussioner sammen at identificere, om enhver meningsforskel vedrører gyldigheden af et mål eller måden at opnå det på.
Vi fejrer ytringsfriheden og opmærksomhedsfrihed, ligeså.
Modererende handlinger skal være tilgængelige for alle. Periode.
Modererende handlinger fra forskellige medlemmer kan tillægges forskellig vægt i forskellige sammenhænge udelukkende for at ophæve manipulation/spil og hjælpe med at opretholde netværkets sundhed. Enkelt sagt kan "gamle hænder" være mere flydende i at moderere handlinger end nybegyndere, og vi ønsker også at forstærke mennesker og mindske ufarlige bots i denne henseende.
Modereringsprocesser bør være enkle, ikke-universelle (undtagen handlinger, der kræves for at overholde lovgivningen), og distribueres.
Medlemmerne og de involverede modereringsprocesser bør skabe den nødvendige kompleksitet.
Vi ønsker at tilskynde til produktiv udjævning og arbejde mod giftig udjævning, for netværkssundhed i jagten på kollektiv intelligens.
Moderering af processer bør hjælpe med at formidle, at med rettigheder (f.eks. frihed fra vuggestuer i centraliserede sociale netværk) følger ansvar.
Moderering af processer bør være ligetil at arkitekte i web 2 i starten, og ikke åbenlyst umulige i web 3-stakken på længere sigt. Hvis vi får det rigtigt, burde en visualisering af passende netværksanalyse producere noget som billedet i midten her:
Denne liste er på ingen måde udtømmende eller endelig. Samtalen om moderation fortsætter, men den har brug for dig! Hvis du tror, du gerne vil være en større del af dette i de tidlige stadier, så kontakt os venligst. Føler du, at der mangler noget, opfordrer vi dig også til at deltage i samtalen her og her.
Udvalgte billedkreditter:Courtney Williams på Unsplash
