"Big Tech" en haar maatschappelijke verantwoordelijkheid

Drietebuul Het "censuur"verhaal snijdt in juridisch opzicht geen hout: de vrijheid van meningsuiting maakt niet dat de ene private partij de andere private partij kan dwingen om met gebruikmaking van de middelen van laatstgenoemde, de mening van eerstgenoemde te publiceren.

Maar feitelijk beschouwd zitten we wel met techbedrijven wiens platformen klaarblijkelijk van significante maatschappelijke waarde zijn. Door de sturing en beoordeling van de content grotendeels over te laten aan deze bedrijven zelf, wordt deze beoordeling onttrokken aan de (met democratische waarborgen omklede) processen die dit voorheen stuurden. Deze bedrijven zouden als het ware op de stoel van wetgever en rechter gaan zitten om te beoordelen welke meningen al dan niet toegestaan zouden zijn.

Dat is natuurlijk de spagaat. Als ik een brief naar de Volkskrant schrijf mag de Volkskrant die weigeren en dat heeft verder niet zo'n gevolg op mijn leven. Maar als Facebook en Google gezamenlijk besluiten dat je persona non grata bent en dus geen gebruik meer mag maken van Facebook, Gmail, Whatsapp, Adsense, Google Cloud Webhosting etc kun je eigenlijk niet fatsoenlijk meer je leven ontplooiien in deze digitale tijd.

Overigens lijkt deze discussie op eentje die vanaf de jaren '90 'werd gevoerd ten aanzien van de macht van Internet Service Providers (ISP's). In het begin konden die letterlijk alles hosten wat ze wilden, daarna liepen overheden er tegenaan dat ISP's illegale zaken hosten (van drugshandel tot services als Napster). Daarop werden de teugels aangetrokken wat leidde tot meer repressie, totdat overheden ingrepen en netneutraliteit als begrip in de wet werd vastgelegd. Ik voorspel dat het wat betreft de vrijheid van meningsuiting op sociale media ongeveer dezelfde koers zal varen.

tsjok In de VS vallen Google en Facebook etc. onder de "Section 230" waar ook internetproviders onder vallen: ze tellen slechts als doorgeefluik en zijn daarom in beginsel ook niet verantwoordelijk voor het gedrag van de gebruikers.

Door wat ze nu doen ontstaat er druk op deze behandeling. Als ze net als bij jouw "brief naar de Volkskrant" een redactionele beoordeling gaan uitvoeren, dan zijn ze ook niet meer 'slechts een doorgeefluik' en dan kan hun bescherming onder druk komen te staan.

Het resultaat kan dus twee kanten uit vallen. Er zou bijv. kunnen worden besloten dat Google en Amazon & co. verplicht worden tot doorgifte van iedereen die niet veroordeeld is. Maar het kan dus ook de andere kant op gaan, zoals de Duitse wetgever ook voorzichtig heeft gedaan en zoals China in maart gaat doen: de aansprakelijkheid van de grote techbedrijven vergroten en ze zo dwingen om juist nog veel meer en strenger te gaan modereren.

Ossu Dat is een onjuiste interpretatie van section 230 die je in mijn ogen veel ziet. Section 230 stelt dat wanneer een partij gegeven bepaalde voorwaarden niet civielrechtelijk aansprakelijk is als ze niet de 'information content provider' zijn. Daarbij wordt wel eens geïmpliceerd dat actieve moderatie op een platform zou betekenen dat een platform daarmee opeens "information content provider" van alle informatie op dat platform zou zijn, maar dat staat nergens zo en is in een rechtszaak ook nog nooit als zodanig geïnterpreteerd.

Men doet bovendien ook net of er nooit enige sprake is geweest van contentmoderatie op basis van policies over wat er al dan niet door de beugel zou kunnen. Dat gebeurt al jaren. Aanzetten tot haat of geweld wordt echt al lang weg gemodereerd, net als elke blote tepel wordt gecensureerd en ga zo maar door. Herhaaldelijk schenden van voorwaarden leidt tot uitsluiting, ook niets nieuws.
Het verschil is dat het in de VS vooral heel politiek is gemaakt doordat de alt-right eigenlijk een frontale aanval op de democratie en op basale zaken als feiten, waarheid en werkelijkheid is gestart met een prominente rol voor de Republikeinse president.

tsjok Nou ja, waar Merkel natuurlijk bezwaar tegen maakt is de macht van grote (Amerikaanse) techbedrijven. Europa is heel meer van het reguleren, wat dat betreft. Je hebt natuurlijk al de GDPR en de Duitsers gaan zelf vaak nog wel wat verder. Merkel vindt dat het aan de politiek is om kaders te scheppen en niet aan die bedrijven. Maar ja, welke overheid is er leidend als het aankomt op bijvoorbeeld de Armeense genocide, de Franse of de Turkse?

Ossu Ik zeg ook nergens dat het een kwestie van redelijkheid versus alt-right is, ik zeg dat de aanval op de werkelijkheid vanuit die hoek de reden is dat het nu lijkt alsof er meer politiek gecensureerd wordt.

En wat betreft die jurisprudentie is het twijfelachtig en hervorming die volledige afwezigheid van moderatie behalve bij strafbare feiten zouden moeten garanderen zijn vrij kansloos.

mono Ik zie niet helemaal het praktische onderscheid tussen Facebook die op eigen houtje berichten die aanzetten tot geweld verwijdert, of dat doet omdat ze anders een boete van de Duitse overheid kunnen krijgen.

Bovendien, wat is hier de gewenste uitkomst in de ogen van Merkel's filosfie? Dat je Facebook kunt verbieden iemand die de regels van Facebook overtreedt te blokkeren?

tsjok Ze schijnt te hebben gezegd dat het oordeel van de rechter leidend moet zijn. Maar dat is totaal in tegenspraak met haar eigen beleid van slechts 3 jaar terug.

Maar dit issue is ook breder dan alleen dit. Het raakt ook aan de netneutraliteit (mag een provider bijv. zijn eigen streamingdienst voorrang geven?) en aan andere handhavingskwesties zoals The Pirate Bay en PopcornTime. Dat zijn denk ik de twee uitersten.

Waar moet je Facebook op die schaal plaatsen? En Amazon AWS hosting?

Ossu nou ja, die netneutraliteit is in de VS onder Trump ironisch genoeg de nek om gedraaid door die engnek van een Pai.

Kijk wat je in de VS vaak hoort waar het de platformen aan gaat is geen inhoudelijk neutraliteit, maar een variant op both sideism. Het gaat niet om de fundamentele vraag of de moderatie (politiek) neutraal is, men wil gewoon dat er net zo vaak mensen met een wat meer linkse signatuur worden gecensureerd als mensen met een wat meer rechtse signatuur, ongeacht de vraag of er ook niet misschien een fundamenteel verschil zit in mate van censureerbare uitingen.

Ossu ik denk dat je both sideism verkeerd begrijpt. Als van de 10 Republikeinen er 5 zich schuldig maken aan opruiing en van de 10 Democraten slechts 1, dan slaat het nergens op om zowel 5 Democraten als 5 Republikeinen te gaan censureren of verbannen.

mono Als de helft van de Republikeinen zich niet meer effectief kan uiten, dan heb je geen Amerikaanse democratie meer.

Ossu Dat onderscheid maakt de wet ook niet. Het is natuurlijk gelul van de bovenste plank dat een rechter een Republikein niet zou mogen veroordelen vanwege opruiing omdat er deze maand niet genoeg Democraten voor hetzelfde vergrijp zijn veroordeeld.

Maar ik durf wel te beweren dat als je "opruiing" zo ruim definieert dat je daarmee een kwart van de bevolking de mond kan snoeren, er iets verkeerd gaat.

Ossu er wordt op Twitter dan ook bij lange na geen kwart van de gebruikers gecensureerd.

Drietebuul Hier gaat het volgens mij specifiek om de vraag wie welke verantwoordelijkheid dient te dragen voor de verspreiding van maatschappelijk ontwrichtende content als nepnieuws en complottheorieën.

Hier zit je al met een definitievraagstuk. Trump is uiteindelijk niet geband vanwege het verspreiden van nepnieuws en complottheorieën, maar vanwege het (impliciete) aanzetten tot serieus illegaal gedrag, namelijk de bestorming van het parlement. Dat is waarschijnlijk op zichzelf ook al een overtreding van de wet.

Daarmee raak je dus wel degelijk aan het vraagstuk van ander illegaal gedrag ("piraterij, wraakporno, etc.").

En wat betreft bedenkelijk maar nog net wel legaal gedrag zou de balans heel gauw de andere kant op door kunnen slaan. We hebben in Nederland bijvoorbeeld niet zo lang geleden een rechtszaak gehad, waarin ING een bankrekening voor een wietteel-experiment-deelnemer moest openen, omdat de rechter oordeelde dat de grote banken die betaalrekeneningen aanbieden een belangrijke algemene nutsfunctie hebben en dus niet volgens "Ja maar privaat bedrijf" zomaar zelf mogen beslissen dat ze iemand niet tof vinden en daarom als klant weigeren. Zo zou je de grote techbedrijven ook kunnen behandelen.

Als je het überhaupt al wil reguleren, want bijvoorbeeld bij kranten vinden we het de normaalste zaak van de wereld dat die een bepaalde bias hebben en ziet niemand het als een recht dat je met een controversiële mening in elke krant moet kunnen publiceren.

Ik denk dat je in een vrije samenleving i.i.g. niet moet gaan discussiëren over manieren om "nepnieuws" en complottheorieën via overheidsregulering te gaan verbieden.

Ossu Hier zit je al met een definitievraagstuk. Trump is uiteindelijk niet geband vanwege het verspreiden van nepnieuws en complottheorieën, maar vanwege het (impliciete) aanzetten tot serieus illegaal gedrag, namelijk de bestorming van het parlement. Dat is waarschijnlijk op zichzelf ook al een overtreding van de wet.

Maar: Trump is niet veroordeeld daarvoor (en dat gaat hij ook niet worden, want zijn uitspraken zijn hoogstwaarschijnlijk geen aanzetten tot geweld in strafrechtelijke zin). Of het nou gaat om strafbare feiten of complottheorieën, dat verandert niets aan de rol van Facebook/Twitter als beoordelaar in deze.