De kritiek van Merkel is overigens wel een beetje goedkoop, want Duitsland heeft juist zelf niet zo lang geleden een "Netzwerkdurchsetzungsgesetz" gemaakt dat platformaanbieders juist juridisch dwingt om op zo'n manier 'op safe' te spelen en alles wat eventueel misschien de wet zou kunnen schenden, preventief te verwijderen.
Het probleem is dat de platforms te lang geen enkele moderatie hebben gehad, waardoor mensen eigenlijk alles konden zeggen wat ze wilden (behoudens dingen die "klassiek" strafbaar zijn, zoals doodsbedreigingen). Dat leidde er toe dat de platforms misbruikt konden worden voor massale ophitsing, stalken, doxxen, seksueel misbruik, opjutten, verkiezingsfraude, ga zo maar door. Nu grijpen de platforms eindelijk in en realiseren mensen zich dat ze toch wel veel macht hebben, zeg.
Het lijkt me onoverkomelijk dat hier een (al dan niet internationaal) wettelijk kader voor moet komen. Een soort klachtenprocedure. Daarbij hoort dus ook een zeker grondrecht om gebruik te maken van zulke diensten dat maar onder bepaalde omstandigheden mag worden afgenomen. Het alternatief is moderatie door de platformen zelf.
Drietebuul Het "censuur"verhaal snijdt in juridisch opzicht geen hout: de vrijheid van meningsuiting maakt niet dat de ene private partij de andere private partij kan dwingen om met gebruikmaking van de middelen van laatstgenoemde, de mening van eerstgenoemde te publiceren.
Maar feitelijk beschouwd zitten we wel met techbedrijven wiens platformen klaarblijkelijk van significante maatschappelijke waarde zijn. Door de sturing en beoordeling van de content grotendeels over te laten aan deze bedrijven zelf, wordt deze beoordeling onttrokken aan de (met democratische waarborgen omklede) processen die dit voorheen stuurden. Deze bedrijven zouden als het ware op de stoel van wetgever en rechter gaan zitten om te beoordelen welke meningen al dan niet toegestaan zouden zijn.
Dat is natuurlijk de spagaat. Als ik een brief naar de Volkskrant schrijf mag de Volkskrant die weigeren en dat heeft verder niet zo'n gevolg op mijn leven. Maar als Facebook en Google gezamenlijk besluiten dat je persona non grata bent en dus geen gebruik meer mag maken van Facebook, Gmail, Whatsapp, Adsense, Google Cloud Webhosting etc kun je eigenlijk niet fatsoenlijk meer je leven ontplooiien in deze digitale tijd.
Overigens lijkt deze discussie op eentje die vanaf de jaren '90 'werd gevoerd ten aanzien van de macht van Internet Service Providers (ISP's). In het begin konden die letterlijk alles hosten wat ze wilden, daarna liepen overheden er tegenaan dat ISP's illegale zaken hosten (van drugshandel tot services als Napster). Daarop werden de teugels aangetrokken wat leidde tot meer repressie, totdat overheden ingrepen en netneutraliteit als begrip in de wet werd vastgelegd. Ik voorspel dat het wat betreft de vrijheid van meningsuiting op sociale media ongeveer dezelfde koers zal varen.
tsjok In de VS vallen Google en Facebook etc. onder de "Section 230" waar ook internetproviders onder vallen: ze tellen slechts als doorgeefluik en zijn daarom in beginsel ook niet verantwoordelijk voor het gedrag van de gebruikers.
Door wat ze nu doen ontstaat er druk op deze behandeling. Als ze net als bij jouw "brief naar de Volkskrant" een redactionele beoordeling gaan uitvoeren, dan zijn ze ook niet meer 'slechts een doorgeefluik' en dan kan hun bescherming onder druk komen te staan.
Het resultaat kan dus twee kanten uit vallen. Er zou bijv. kunnen worden besloten dat Google en Amazon & co. verplicht worden tot doorgifte van iedereen die niet veroordeeld is. Maar het kan dus ook de andere kant op gaan, zoals de Duitse wetgever ook voorzichtig heeft gedaan en zoals China in maart gaat doen: de aansprakelijkheid van de grote techbedrijven vergroten en ze zo dwingen om juist nog veel meer en strenger te gaan modereren.
Ossu Dat is een onjuiste interpretatie van section 230 die je in mijn ogen veel ziet. Section 230 stelt dat wanneer een partij gegeven bepaalde voorwaarden niet civielrechtelijk aansprakelijk is als ze niet de 'information content provider' zijn. Daarbij wordt wel eens geïmpliceerd dat actieve moderatie op een platform zou betekenen dat een platform daarmee opeens "information content provider" van alle informatie op dat platform zou zijn, maar dat staat nergens zo en is in een rechtszaak ook nog nooit als zodanig geïnterpreteerd.
Men doet bovendien ook net of er nooit enige sprake is geweest van contentmoderatie op basis van policies over wat er al dan niet door de beugel zou kunnen. Dat gebeurt al jaren. Aanzetten tot haat of geweld wordt echt al lang weg gemodereerd, net als elke blote tepel wordt gecensureerd en ga zo maar door. Herhaaldelijk schenden van voorwaarden leidt tot uitsluiting, ook niets nieuws.
Het verschil is dat het in de VS vooral heel politiek is gemaakt doordat de alt-right eigenlijk een frontale aanval op de democratie en op basale zaken als feiten, waarheid en werkelijkheid is gestart met een prominente rol voor de Republikeinse president.
mono Aangezien bijv. Merkel en NRC in deze ook de kant van Trump ipv. de techbedrijven kiezen, lijkt me niet dat je hier zomaar een kwestie van redelijkheid vs. alt-right van kan maken.
En ook als ergens nog geen jurisprudentie over is, kan dat in de toekomst wel gebeuren. En er kan druk komen om de wet aan te passen of anders toe te passen.
Ossu Wat Merkel aan het doen is snap ik ook niet. Zoals je net al terecht aangeeft is er juist in Duitsland strenge wetgeving op dit vlak. Merkel was daar zelf voorstander van (bron) wat alleen maar censuur door Facebook heeft uitgelokt.
Wat cynisch beschouwd lijkt het er op dat vooral het aantal mensen dat de verwijderde denkbeelden steunt uitmaakt.
tsjok Nou ja, waar Merkel natuurlijk bezwaar tegen maakt is de macht van grote (Amerikaanse) techbedrijven. Europa is heel meer van het reguleren, wat dat betreft. Je hebt natuurlijk al de GDPR en de Duitsers gaan zelf vaak nog wel wat verder. Merkel vindt dat het aan de politiek is om kaders te scheppen en niet aan die bedrijven. Maar ja, welke overheid is er leidend als het aankomt op bijvoorbeeld de Armeense genocide, de Franse of de Turkse?
Ossu Ik zeg ook nergens dat het een kwestie van redelijkheid versus alt-right is, ik zeg dat de aanval op de werkelijkheid vanuit die hoek de reden is dat het nu lijkt alsof er meer politiek gecensureerd wordt.
En wat betreft die jurisprudentie is het twijfelachtig en hervorming die volledige afwezigheid van moderatie behalve bij strafbare feiten zouden moeten garanderen zijn vrij kansloos.
mono Ik zie niet helemaal het praktische onderscheid tussen Facebook die op eigen houtje berichten die aanzetten tot geweld verwijdert, of dat doet omdat ze anders een boete van de Duitse overheid kunnen krijgen.
Bovendien, wat is hier de gewenste uitkomst in de ogen van Merkel's filosfie? Dat je Facebook kunt verbieden iemand die de regels van Facebook overtreedt te blokkeren?
tsjok Ze schijnt te hebben gezegd dat het oordeel van de rechter leidend moet zijn. Maar dat is totaal in tegenspraak met haar eigen beleid van slechts 3 jaar terug.
Maar dit issue is ook breder dan alleen dit. Het raakt ook aan de netneutraliteit (mag een provider bijv. zijn eigen streamingdienst voorrang geven?) en aan andere handhavingskwesties zoals The Pirate Bay en PopcornTime. Dat zijn denk ik de twee uitersten.
Waar moet je Facebook op die schaal plaatsen? En Amazon AWS hosting?
Ossu nou ja, die netneutraliteit is in de VS onder Trump ironisch genoeg de nek om gedraaid door die engnek van een Pai.
Kijk wat je in de VS vaak hoort waar het de platformen aan gaat is geen inhoudelijk neutraliteit, maar een variant op both sideism. Het gaat niet om de fundamentele vraag of de moderatie (politiek) neutraal is, men wil gewoon dat er net zo vaak mensen met een wat meer linkse signatuur worden gecensureerd als mensen met een wat meer rechtse signatuur, ongeacht de vraag of er ook niet misschien een fundamenteel verschil zit in mate van censureerbare uitingen.
mono Is dat per se zo'n verkeerde insteek?
Allereerst heb je de vraag of je überhaupt wil dat wetgeving de richting van de politiek bepaalt. In de VS (en bijv. Duitsland) heb je een constitutioneel hof dat uitspraken met vergaande politieke betekenis kan doen. In Nederland (en bijv. China) geldt dat het uiteindelijke primaat bij de politiek ligt en mag de rechter zich juist niet met constitutionele kwesties bemoeien.
Sowieso lijkt me dat je hier heel voorzichtig mee moet zijn. Aan de ene kant principieel: de wetgever mag niet het waarheidsmonopolie claimen. Maar ook praktisch: je blijft alleen scherp als er een reële kans bestaat om voor fouten afgestraft te worden. Dat vereist dat de oppositie gelijke kansen heeft om ideeën uit te dragen.
Alleen al daarom zou de wetgeving dus relatief veel nadruk op "both sideism" moeten leggen, en juist heel terughoudend moeten zijn met strenge rode lijnen.
De tweede vraag is de handhaving. De eerdere terughoudendheid en nu ineens het gezamenlijke harde optreden van de techbedrijven roept de vraag op of zij wel de geschikte partij zijn om de balans te bewaken.
Maar ik durf wel te beweren dat als je "opruiing" zo ruim definieert dat je daarmee een kwart van de bevolking de mond kan snoeren, er iets verkeerd gaat.
Ossu
Ik denk dat je dit wel afzonderlijk dient te zien van auteursrechtelijke kwesties. Daar betreft het, in geval van piraterij, vrij evidente gevallen van inbreuk, met rechthebbenden die tegenwoordig via reguliere rechterlijke kanalen hun rechten kunnen doen handhaven.
Bij de verspreiding van "fakenews" en complottheorieën is er geen rechthebbende die in zijn rechten wordt geschonden. Er zijn geen kanalen buiten het platform beschikbaar om dergelijke (klaarblijkelijk) schadelijke content te weren. Ook is de "inbreuk" veel minder evident, want handhaving sowieso al bemoeilijkt. Hoe zeker moet je zijn van de waarheid voor je iets als nepnieuws kan bestempelen? Hoe ongefundeerd moet een theorie zijn om als complottheorie te worden aangemerkt?
Ik beschouw dit dus als een losstaand probleem ten opzichte van andere problemen die samenhangen met de digitalisering van de maatschappij (piraterij, wraakporno, etc.). Hier gaat het volgens mij specifiek om de vraag wie welke verantwoordelijkheid dient te dragen voor de verspreiding van maatschappelijk ontwrichtende content als nepnieuws en complottheorieën.
Aanvankelijk rustte die verantwoordelijkheid volledig bij de gebruiker: ik ging er, kennelijk met veel andere naïevelingen, vanuit dat er bij de gebruiker die zulke content post wel enige correctie plaats zou vinden door medegebruikers. In het geval van politici of publieke figuren nam ik aan dat er ook electorale- of publieke gevolgen zouden zijn. Het tegendeel bleek waar: individuele gebruikers creëerden (door de algoritmen?) hun eigen complotbubbeltje, electoraal blijkt het een redelijk vatbare strategie, en ook als uitgerangeerde Zappelin-rapper kun je je carrière een volledig nieuwe impuls geven. Gevolg van dit alles? Een aanzienlijk gedeelte van de bevolking dat in een volledig losstaande realiteit leeft, waarin men (volledig ongefundeerd ) overtuigd is van het feit dat we worden geregeerd door een stel satanistische shapeshiftende hagedissen die kinderbloed drinken.
Nu kunnen we de verantwoordelijkheid bij de platformen zelf leggen, wat in pragmatisch opzicht aanvankelijk de meest eenvoudige en elegante oplossing lijkt (want geen lastig te formuleren - mogelijk internationale - regelgeving nodig, "snel" effect), maar de facto neerkomt op ondermijning van democratische controlemechanismen.
Alternatief is de staat meer inmengen door (kaderstellende) regelgeving op te stellen. De platformen vormen namelijk zo'n belangrijk deel van de hedendaagse communicatiemiddelen, en zullen een steeds groter deel daarvan uit gaan maken, dat we m.i. niet maar zomaar aan kunnen blijven komen met het "Ja, maar privaat bedrijf"-verhaal. Ik zou echter geen idee hebben hoe dergelijke regelgeving eruit zou moeten komen te zien. Want je loopt nog steeds tegen kwalificatievraagstukken aan. Daarbij ga je, door deze weg te kiezen, nadrukkelijk wél in het VVMU-verhaal roeren.
Eens wijs man vertelde me in het Discordkanaal ooit "regeren is vooruitkijken", en als ik dat doe zie ik dit probleem niet zomaar verdwijnen. Er moet dus "iets" gebeuren, maar ik zou zo niet weten wat.
