"Big Tech" en haar maatschappelijke verantwoordelijkheid

Er is in ieder geval behoorlijke weerstand tegen:

Angela Merkel vindt Twitter-ban Trump bedenkelijk

NRC redactioneel commentaar: Twitter, Facebook en Amazon mogen zoveel macht niet hebben

Ik moet eerlijk zeggen dat ik het ook wel een twijfelgeval vind. Maar het is een raar, grijs gebied. Als op dit forum Constant Kusters op zou duiken en fanatiek ging meeposten, dan zou ik 'm binnen een uur bannen. Maar dergelijke grote platforms die gaan besluiten wat waar en niet waar is, dat vind ik toch wel lastig. Ook al is het, als commercieel bedrijf, natuurlijk hun goed recht.

Het probleem is dat de platforms te lang geen enkele moderatie hebben gehad, waardoor mensen eigenlijk alles konden zeggen wat ze wilden (behoudens dingen die "klassiek" strafbaar zijn, zoals doodsbedreigingen). Dat leidde er toe dat de platforms misbruikt konden worden voor massale ophitsing, stalken, doxxen, seksueel misbruik, opjutten, verkiezingsfraude, ga zo maar door. Nu grijpen de platforms eindelijk in en realiseren mensen zich dat ze toch wel veel macht hebben, zeg.

Het lijkt me onoverkomelijk dat hier een (al dan niet internationaal) wettelijk kader voor moet komen. Een soort klachtenprocedure. Daarbij hoort dus ook een zeker grondrecht om gebruik te maken van zulke diensten dat maar onder bepaalde omstandigheden mag worden afgenomen. Het alternatief is moderatie door de platformen zelf.

Drietebuul Het "censuur"verhaal snijdt in juridisch opzicht geen hout: de vrijheid van meningsuiting maakt niet dat de ene private partij de andere private partij kan dwingen om met gebruikmaking van de middelen van laatstgenoemde, de mening van eerstgenoemde te publiceren.

Maar feitelijk beschouwd zitten we wel met techbedrijven wiens platformen klaarblijkelijk van significante maatschappelijke waarde zijn. Door de sturing en beoordeling van de content grotendeels over te laten aan deze bedrijven zelf, wordt deze beoordeling onttrokken aan de (met democratische waarborgen omklede) processen die dit voorheen stuurden. Deze bedrijven zouden als het ware op de stoel van wetgever en rechter gaan zitten om te beoordelen welke meningen al dan niet toegestaan zouden zijn.

Dat is natuurlijk de spagaat. Als ik een brief naar de Volkskrant schrijf mag de Volkskrant die weigeren en dat heeft verder niet zo'n gevolg op mijn leven. Maar als Facebook en Google gezamenlijk besluiten dat je persona non grata bent en dus geen gebruik meer mag maken van Facebook, Gmail, Whatsapp, Adsense, Google Cloud Webhosting etc kun je eigenlijk niet fatsoenlijk meer je leven ontplooiien in deze digitale tijd.

Overigens lijkt deze discussie op eentje die vanaf de jaren '90 'werd gevoerd ten aanzien van de macht van Internet Service Providers (ISP's). In het begin konden die letterlijk alles hosten wat ze wilden, daarna liepen overheden er tegenaan dat ISP's illegale zaken hosten (van drugshandel tot services als Napster). Daarop werden de teugels aangetrokken wat leidde tot meer repressie, totdat overheden ingrepen en netneutraliteit als begrip in de wet werd vastgelegd. Ik voorspel dat het wat betreft de vrijheid van meningsuiting op sociale media ongeveer dezelfde koers zal varen.

tsjok In de VS vallen Google en Facebook etc. onder de "Section 230" waar ook internetproviders onder vallen: ze tellen slechts als doorgeefluik en zijn daarom in beginsel ook niet verantwoordelijk voor het gedrag van de gebruikers.

Door wat ze nu doen ontstaat er druk op deze behandeling. Als ze net als bij jouw "brief naar de Volkskrant" een redactionele beoordeling gaan uitvoeren, dan zijn ze ook niet meer 'slechts een doorgeefluik' en dan kan hun bescherming onder druk komen te staan.

Het resultaat kan dus twee kanten uit vallen. Er zou bijv. kunnen worden besloten dat Google en Amazon & co. verplicht worden tot doorgifte van iedereen die niet veroordeeld is. Maar het kan dus ook de andere kant op gaan, zoals de Duitse wetgever ook voorzichtig heeft gedaan en zoals China in maart gaat doen: de aansprakelijkheid van de grote techbedrijven vergroten en ze zo dwingen om juist nog veel meer en strenger te gaan modereren.

Ossu Dat is een onjuiste interpretatie van section 230 die je in mijn ogen veel ziet. Section 230 stelt dat wanneer een partij gegeven bepaalde voorwaarden niet civielrechtelijk aansprakelijk is als ze niet de 'information content provider' zijn. Daarbij wordt wel eens geïmpliceerd dat actieve moderatie op een platform zou betekenen dat een platform daarmee opeens "information content provider" van alle informatie op dat platform zou zijn, maar dat staat nergens zo en is in een rechtszaak ook nog nooit als zodanig geïnterpreteerd.

Men doet bovendien ook net of er nooit enige sprake is geweest van contentmoderatie op basis van policies over wat er al dan niet door de beugel zou kunnen. Dat gebeurt al jaren. Aanzetten tot haat of geweld wordt echt al lang weg gemodereerd, net als elke blote tepel wordt gecensureerd en ga zo maar door. Herhaaldelijk schenden van voorwaarden leidt tot uitsluiting, ook niets nieuws.
Het verschil is dat het in de VS vooral heel politiek is gemaakt doordat de alt-right eigenlijk een frontale aanval op de democratie en op basale zaken als feiten, waarheid en werkelijkheid is gestart met een prominente rol voor de Republikeinse president.

tsjok Nou ja, waar Merkel natuurlijk bezwaar tegen maakt is de macht van grote (Amerikaanse) techbedrijven. Europa is heel meer van het reguleren, wat dat betreft. Je hebt natuurlijk al de GDPR en de Duitsers gaan zelf vaak nog wel wat verder. Merkel vindt dat het aan de politiek is om kaders te scheppen en niet aan die bedrijven. Maar ja, welke overheid is er leidend als het aankomt op bijvoorbeeld de Armeense genocide, de Franse of de Turkse?

Ossu Ik zeg ook nergens dat het een kwestie van redelijkheid versus alt-right is, ik zeg dat de aanval op de werkelijkheid vanuit die hoek de reden is dat het nu lijkt alsof er meer politiek gecensureerd wordt.

En wat betreft die jurisprudentie is het twijfelachtig en hervorming die volledige afwezigheid van moderatie behalve bij strafbare feiten zouden moeten garanderen zijn vrij kansloos.

mono Ik zie niet helemaal het praktische onderscheid tussen Facebook die op eigen houtje berichten die aanzetten tot geweld verwijdert, of dat doet omdat ze anders een boete van de Duitse overheid kunnen krijgen.

Bovendien, wat is hier de gewenste uitkomst in de ogen van Merkel's filosfie? Dat je Facebook kunt verbieden iemand die de regels van Facebook overtreedt te blokkeren?

tsjok Ze schijnt te hebben gezegd dat het oordeel van de rechter leidend moet zijn. Maar dat is totaal in tegenspraak met haar eigen beleid van slechts 3 jaar terug.

Maar dit issue is ook breder dan alleen dit. Het raakt ook aan de netneutraliteit (mag een provider bijv. zijn eigen streamingdienst voorrang geven?) en aan andere handhavingskwesties zoals The Pirate Bay en PopcornTime. Dat zijn denk ik de twee uitersten.

Waar moet je Facebook op die schaal plaatsen? En Amazon AWS hosting?

Ossu nou ja, die netneutraliteit is in de VS onder Trump ironisch genoeg de nek om gedraaid door die engnek van een Pai.

Kijk wat je in de VS vaak hoort waar het de platformen aan gaat is geen inhoudelijk neutraliteit, maar een variant op both sideism. Het gaat niet om de fundamentele vraag of de moderatie (politiek) neutraal is, men wil gewoon dat er net zo vaak mensen met een wat meer linkse signatuur worden gecensureerd als mensen met een wat meer rechtse signatuur, ongeacht de vraag of er ook niet misschien een fundamenteel verschil zit in mate van censureerbare uitingen.

mono Is dat per se zo'n verkeerde insteek?

Allereerst heb je de vraag of je überhaupt wil dat wetgeving de richting van de politiek bepaalt. In de VS (en bijv. Duitsland) heb je een constitutioneel hof dat uitspraken met vergaande politieke betekenis kan doen. In Nederland (en bijv. China) geldt dat het uiteindelijke primaat bij de politiek ligt en mag de rechter zich juist niet met constitutionele kwesties bemoeien.

Sowieso lijkt me dat je hier heel voorzichtig mee moet zijn. Aan de ene kant principieel: de wetgever mag niet het waarheidsmonopolie claimen. Maar ook praktisch: je blijft alleen scherp als er een reële kans bestaat om voor fouten afgestraft te worden. Dat vereist dat de oppositie gelijke kansen heeft om ideeën uit te dragen.

Alleen al daarom zou de wetgeving dus relatief veel nadruk op "both sideism" moeten leggen, en juist heel terughoudend moeten zijn met strenge rode lijnen.

De tweede vraag is de handhaving. De eerdere terughoudendheid en nu ineens het gezamenlijke harde optreden van de techbedrijven roept de vraag op of zij wel de geschikte partij zijn om de balans te bewaken.

Ossu ik denk dat je both sideism verkeerd begrijpt. Als van de 10 Republikeinen er 5 zich schuldig maken aan opruiing en van de 10 Democraten slechts 1, dan slaat het nergens op om zowel 5 Democraten als 5 Republikeinen te gaan censureren of verbannen.

mono Als de helft van de Republikeinen zich niet meer effectief kan uiten, dan heb je geen Amerikaanse democratie meer.

Ossu Dat onderscheid maakt de wet ook niet. Het is natuurlijk gelul van de bovenste plank dat een rechter een Republikein niet zou mogen veroordelen vanwege opruiing omdat er deze maand niet genoeg Democraten voor hetzelfde vergrijp zijn veroordeeld.