19 december 2023

The DSA's tackling of systemic risks should have been content-agnostic

Any government-controlled/sanctioned/policed form of content moderation that is based on the content itself, makes that government a Ministry of Truth in the style of 1984. Like the European Commission since the Digital Services Act (DSA). It's a sobering fact that cannot be denied.

At the same time, the risks to democracy posed by AI-generated content and social media algorithms are immense: the DSA does address a real need (though in a very wrong way, at least the provisions related to "systemic risks").

Imo, the only solution that respects fundamental rights and democratic principles lies in content-agnostic moderation procedures. I am convinced that this is possible. Here are three concrete ideas (which may of course not be the best ones):

1⃣ All platforms should be required to allow (not require) both humans and bots to be identified on the platform. For identified bots, an identified human should be linked and accept accountability. Platforms should be free to ban (identified) bots altogether.

2⃣ Require T&Cs and content moderation policies to respect freedom of speech and of information. This must be a prime concern, not an afterthought or vague boundary condition.

For identified accounts, (only!) the identified individual can and should be legally accountable for allegedly illegal content, and must thus not be moderated by the platform on such grounds until a regular court has confirmed illegality and mandated removal.

For illegal content from anonymous accounts, the platforms should be held accountable, e.g. using a mechanism similar to the DSA's.

Transparent forms of T&C-based content moderation should of course be allowed (but *never* government-mandated), to allow platforms reach an intended target audience (e.g. banning nsfw content).

3⃣ Impose algorithmic limits/brakes on the virality of any content (regardless of which content it is), particularly for content that is not created by identified humans. There are many ways in which this could be done. Note that many algorithms today do the exact opposite.

It strikes me that I've never seen a meaningful focus on 3⃣, although the DSA actually does follow this approach to a very limited extent in its regulation of recommender systems. Yet, imo this is a crucial piece of the puzzle, which achieves the goal without harming fundamental rights (rather on the contrary).

(Note: my thoughts on this were partially inspired by this outstanding piece by Jonathan Haidt and Eric Schmidt.)

18 december 2023

Distinguishing True from False Content and Its Proxies

1) There's information that you like, and there's information that you dislike.

2) There's human-generated content, and there's bot-generated content.

3) And then there's true information, and there's false information.

The problem with regulations to fight disinformation such as the Digital Services Act (DSA), is that the first distinction is easy to make, the second distinction much harder, and the third distinction practically impossible (except for in the most trivial cases).

The inevitable failure to make the third and second distinctions will mean that the first one will be used as an all too convenient proxy. As we are predictably seeing today with the DSA.

And that's the beginning of the end of democracy as we know it.

Although the DSA addresses a real need, and although it has many merits as well (e.g. the provisions to protect minors, and the provisions regarding transparency even though they still fall short), I am convinced that its handling of systemic risks is a mistake and should be undone.

The European Commission has created the DSA to tackle "systemic risks". In doing so, it may have created the greatest systemic risk of all.

20 oktober 2023

De gapende kloof tussen moralisering en oplossingen

In deze blogpost maak ik een analyse van de laatste blogpost van mijn collega Maarten Boudry.

Waarom doe ik dit? Omdat Boudry een forum krijgt voor zijn ideeën. Net zoals hij dat kreeg in het Covid19-debat, waarvan hij 'mentaal afstand nam' zodra zijn inschattingsfouten niet langer te ontkennen vielen. Maar vooral omdat het mij een kapstok geeft om een aantal zaken te duiden die onvoldoende onder de aandacht komen.

De blogpost van Boudry heeft deze titel:


Er is een "gapende kloof tussen Israël en Hamas", zegt Boudry. Wat een stropop van een vergelijking. Israël is een staat, Hamas is een Soennietische Islamistische politieke en militaire organizatie. (Terzijde: onder andere BBC weigert om Hamas als terroristische organizatie te bestempelen, hun motivatie lees je hier.) De laatste keer dat de Palestijnen hun eventuele steun voor Hamas konden uitspreken was in 2006, 17 jaar geleden. Bijna de helft van de inwoners van Gaza was toen nog niet geboren. Hamas wordt internationaal niet erkend als regering of als vertegenwoordiger van de Palestijnse bevolking. Een betekenisvolle vergelijking van deze organizatie met het land en de bevolking van Israël is dus onmogelijk. Door deze framing zet hij Hamas functioneel op gelijke hoogte met Israël, en stelt hij de Palestijnse bevolking impliciet gelijk aan Hamas. Dat is onverdedigbare framing.

Wie per se twee partijen op een morele weegschaal wil leggen, kan dat eventueel doen met de Israelische en de Palestijnse bevolking, of desnoods met de Israëlische regeringspartijen en Hamas met dien verstande dat de Israëlische regering vorig jaar nog een meerderheid verwierf. Maar die oefening, waar ik straks nog op terugkom, gaat hij zedig uit de weg.

Boudry steekt direct van wal met zijn centrale these:


Wie "intenties en doelstellingen" eerlijk wil vergelijken vanuit moreel oogpunt, dient natuurlijk wel de context en het uitgangspunt in acht te nemen. Een juwelier die een inbreker wil neerschieten is moreel lastiger te veroordelen dan diezelfde juwelier die een winkelier wil neerschieten omdat hij de inhoudt van de kassa wil. Een verbaal gepeste die fysiek hard uithaalt, is moreel niet noodzakelijk inferieur aan de pester. Ik stel het scherp om het punt duidelijk te maken. De context van de decennialange onderdrukking van het Palestijnse volk door het Israëlische apartheidsregime negeert hij totaal.

Volgens Boudry doodt Israël niet nog meer burgers omdat het dat niet zou willen, terwijl Hamas dat niet doet omdat het dat niet zou kunnen:


Zo probeert Boudry de vele burgerslachtoffers van decennialange Israëlische agressie zowaar te spinnen als een indirect teken van morele superioriteit, omdat ze de mogelijkheden hebben om veel meer mensen te doden, maar de deugdzaamheid tonen daarvan af te zien. Als achtergrond bij deze bewering: onderstaande grafiek van wikipedia toont hoeveel doden er de voorbije jaren aan beide zijde zijn gevallen.


Volgens Boudry zijn deze cijfers dus misleidend. Ze zouden namelijk precies het omgekeerde van de intenties weergeven: Israël wil weinig Palestijnse doden, Hamas wil veel Israëlische doden, ook al lukt het ze allebei niet zo goed. De data liegt, als het ware. Het volstaat naar de situatie op de West-Bank te kijken, waar Hamas zo goed als geen invloed heeft, om te zien hoe verknipt die redenering is.

Tussen 2015 en augustus 2023, d.w.z. na Operatie "Protective Edge" en voor de huidige oorlog, werden alleen al in de West-Bank 794 Palestijnense burgers gedood (tegen 102 Israëli's), waarvan 178 Palestijnse kinderen (tegen 8 Israëlische kinderen). Bijna allemaal werden ze gedood in de buurt van illegale nederzettingen, en door (scherpe) munitie. Geen jammerlijke oorlogsongevallen in de strijd tegen Hamas dus, maar doelbewust. In diezelfde periode waren de Israëlische slachtoffers in de West-Bank voor de grote meerderheid militairen (29%) of kolonisten (60%) die, door daar te wonen, bijdroegen tot (als dusdanig erkende) Israëlische oorlogsmisdaden. Onderstaande data en grafieken, komende van de United Nations Office for the Coordination of Humanitarian Affairs, ondersteunen dit.



Voor alle duidelijkheid: ik betreur elk verlies van mensenlevens ten zeerste, inclusief de levens van Israëlische kolonisten en militairen. Maar als hij het over moraliteit wil hebben, dan is deze context relevant. In de West-Bank vormt de seculiere Fatah de internationaal erkende regering, en is de invloed van Hamas zeer beperkt. Fatah loopt al jaren mooi in de pas, en wil helemaal geen Israëli's doden. Deze enorme imbalans is dus op geen enkele manier goed te praten. Met Israëlische terughoudendheid heeft dit alvast niks te maken.

Natuurlijk kan Israël nog veel meer slachtoffers maken: mocht het willen kan het alle Palestijnen uitroeien in een handomdraai. Ziet het hiervan af om morele redenen, of is het eerder zelfbehoud? Boudry stelt zich die vraag zelfs niet - ik kom er straks op terug.

Hij speculeert verder dat Hamas, als het de macht had, heel Israël onmiddellijk van de kaart zou vegen:


Hier verdraait Boudry de waarheid, en verzwijgt belangrijke context, bewust of uit onwetendheid. Hij refereert naar het charter van Hamas, maar laat na te vermelden dat Hamas in 2017 nieuwe principes heeft aangenomen. Daarin herhaalt Hamas de principiële uitgangspositie dat de Palestijnse staat 'from the river to the sea' moet lopen. Hamas stelt echter ook dat het de stichting van een volledig soevereine en onafhankelijke staat binnen de Green Line als een formule van nationale consensus beschouwt - de tweestatenoplossing dus.


Hamas stelt ook expliciet dat ze strijden tegen "het Zionistische project", niet tegen het Judaisme of Joodse volk omwille van hun religie. Zie ook dit artikel in The Guardian. Dat Hamas Israël 'van de kaart wil vegen' is dus op zijn minst ongenuanceerd. Belangrijker is dat de focus van Boudry op Hamas een stropop is. Dit wikipedia artikel maakt duidelijk dat het (ondanks de ideologische positie van Hamas) niet de Palestijnse partijen zijn, maar de Israëlische partijen (en bevolking), die de tweestatenoplossing afwijzen en onmogelijk maken.


Vandaag is dat meer dan ooit het geval. Enkele weken geleden nog toonde Netanyahu ongegeneerd een kaart van Israël, voor de Verenigde Naties nota bene, waarop Gaza en de West-Bank botweg waren weggevaagd. In de coalitieovereenkomst tussen regeringspartijen Likud en het extreem-rechtse en ultra-nationalistische Religious Zionism kartel wordt geen geheim gemaakt van de ambities om de Palestijnse gebieden te annexeren.


Die overeenkomst schrijft verder dat "The Jewish people have a natural right to the Land of Israel". Ook de 'Foundational principles' van deze regering stelt dat "the Jewish people have the exclusive and indisputable right to all parts of the Land of Israel".


Zie ook wikipedia:


Dit is geen slip of the tongue. De ambitie om de West-Bank te annexeren werd expliciet en herhaaldelijk uitgesproken door verschillende prominente ministers in de regering, zoals aangehaald in dit Time artikel. Dat artikel legt ook uit dat de regering de controlerende macht van de Israëlische Supreme Court (een cruciale schakel in de Israëlische staatsstructuur) heeft gebroken, onder andere om de annexatie mogelijk te maken.

Netanyahu's regering is echter niet achterlijk:


Een directe en onverholen annexatie zou de Arabische wereld natuurlijk mobiliseren, wat tegen de "national and international interests" zou zijn. Het doel is dus duidelijk, maar de weg ernaartoe zal pragmatisch zijn. Realpolitik - kenmerkend voor Israël.

Wat Boudry Hamas verwijt, geldt dus minstens evenzeer voor dit Israël, zij het achterbakser en politiek geslepener. Ik herhaal hier ook even dat Hamas voor het laatst in 2006 werd verkozen, toen bijna de helft van de Gazanen nog niet was geboren, en deze Israëlische regering in 2022.

De Israëlische regeringspartijen zijn trouwens al langer geen doetjes op dit vlak (en andere vlakken). Likud is gegroeid uit de paramilitaire organizatie Irgun (of Etzel), onder andere verantwoordelijk voor het 'Deir Yassin massacre' en de aanslag op het King David Hotel, terreurdaden die vandaag nog steeds worden verheerlijkt. Likud is voorstander van uitbreiding van de illegale nederzettingen. In een filmpje van 2001 schept Netanyahu op over hoe hij de Palestijnen opzettelijk zo pijnlijk mogelijk raakt, hoe hij de Oslo akkoorden eenzijdig uitholde, en hoe hij de VS in zijn zak heeft zitten.

Het Zionistische Shas is eveneens pleitbezorger van de illegale nederzettingenpolitiek. De Religious Zionist Party, luidens wikipedia "far-right, ultra-nationalist, Jewish supremasist, and religious Zionist", streeft de annexatie van de hele West-Bank of minstens van 'Area C' (63% van de West-Bank) na, afhankelijk van wie je het vraagt. De Otzma Yehudit (of Jewish Power) partij, een ultra-nationalistische, religieus-Zionistische, extreem-rechtse, anti-Arabieren partij, die tot voor kort openlijk pleitte voor de deportatie van alle 'vijanden van Israël', is uitgesproken voorstander van de annexatie van de West-Bank en Israëlische overheersing van de hele regio 'tussen de Jordaan en de Middellandse Zee'. Ze zijn dan ook tegenstander van een Palestijnse staat en hebben lak aan de Oslo akkoorden.


Noam, tenslotte, is een extreem-rechtse, religieus-Zionistische, anti-LGBT partij waarvan Giorgia Meloni het schaamrood op de wangen krijgt. Het is deze regering die kan rekenen op de onvoorwaardelijke steun van Boudry, Ursula von der Leyen, Joe Biden, Alexander De Croo, Bart De Wever, en andere moralisten.

Terug naar Boudry's apologetisch discours voor deze ongegeneerd extreem-rechtse, ultra-nationalistische, racistische, en anti-LGBT regering:


Twee punten hier: het gebruik van burgers als menselijk schild, en pogingen om burgers te waarschuwen bij bombardementen.

Je gaat me vanzelfsprekend nooit horen verdedigen dat Hamas burgers als menselijk schild gebruikt (al is het niet evident dat niet te doen, in de overbevolkte Gazastrook). Net zoals ik dat ook van Israël verwerpelijk vind. En Boudry vergeet even te vermelden dat dit een courante praktijk was van de IDF:


Wel vervelend voor de IDF dat het hooggerechtshof dit in 2005 verbood (de IDF vocht dit tevergeefs aan). Maar een groot beletsel blijkt dat niet, jammer genoeg.

Wat het waarschuwen bij bombardementen betreft: dat gebeurt soms, maar niet altijd. Hoe vaak dat wel of niet gebeurt weten noch Boudry, noch ik. Wat wel zeker is: zonder plek om naartoe te gaan in het arme en overbevolkte Gaza, ben je vet met een waarschuwing. Bovendien trof Israël tijdens de huidige bombardementen van Gaza meermaals als 'veilig' gemarkeerde zones. Tientallen burgers vonden bijvoorbeeld de dood bij een bombardement op een konvooi burgers terwijl ze op de vlucht waren langs de 'veilige' route naar het zuiden van de Gazastrook, zoals door Israël opgeroepen. In de zuidelijke stad Khan Younis kwamen meer dan 100 mensen om in een bombardement, de meesten onder hen vluchtelingen die het advies van Israël hadden opgevolgd. Cynischer wordt het niet.

In dat licht kan het Hamas moeilijk ten kwade worden geduid dat het weerstand biedt tegen de evacuatie (of wellicht juister: ethnische zuivering) van de noordelijke Gazastrook. Uiteindelijk zijn het nog steeds de bommen van Israël die dood en vernieling zaaien, niet de mensen die daar blijven of die mensen aanmoedigen daar te blijven. Bovendien is de gevraagde evacuatie onmenselijk en onrealistisch, "een misdaad tegen de menselijkheid en een flagrante overtreding van internationale humanitaire wetgeving", in de woorden van Paula Gaviria Betancur (Special Rapporteur on the human rights of internally displaced persons bij de Verenigde Naties).

En dan nu, Boudry's vermaledijde gedachte-experiment (geleend van collega-filosoof Sam Harris):


Met permissie, maar dit gedachte-experiment is van een bedenkelijk intellectueel niveau. De onuitgesproken 'ceteris paribus' assumptie maakt ze volstrekt nutteloos. Alsof je iets kan leren uit het denkbeeldig wisselen van de militaire slagkracht van Hamas en Israël, zonder dat ook met de context te doen.

Een veel relevanter gedachte-experiment is dit: Stel dat deze extreem-rechtse, religieus Zionistische, racistische, en ultra-nationalistische Israëlische regering al 16 jaar de internationaal niet-erkende regering in de openluchtgevangenis van Gaza was geweest, in plaats van Hamas. Zou hun ideologie dan milder zijn dan die van Hamas vandaag? Zouden ze dan minder onschuldige slachtoffers maken dan ze vandaag doen in de West-Bank waar Hamas niet eens actief is? Zouden ze dan afzien van hun ambitie voor een groot-Israël, inclusief de Palestijnse gebieden? Zouden ze dan met hun raketinstallaties post vatten op het strand of in een open veld (voor zover die er zijn), klaar om zelf getroffen te worden, in plaats van in de steden? De vragen stellen is ze beantwoorden.

De reden dat dit Hamas vandaag populariteit geniet, is natuurlijk net omdat de Palestijnen niks te verliezen hebben. Omdat de situatie ook op de West-Bank onder Fatah stelselmatig slechter wordt. Leef het internationaal recht daar na, en de populariteit van Hamas slinkt weg als sneeuw voor de zon. En de reden dat Israël vandaag niet nog meer slachtoffers maakt is natuurlijk net omdat ze zo onoverwinnelijk zijn, en omdat ze dat graag zo houden. De beste manier om dat te doen is door een dynamisch status quo te handhaven: de Apartheid in stand houden en om de paar jaar 'het gras eens maaien', zoals ze dat noemen. Nog grotere schendingen van het internationaal recht riskeren om de onvoorwaardelijkheid van de Westerse steun in het gedrang te brengen, en kunnen de Arabische wereld militair tegen Israël doen keren. Met moraliteit heeft dit niks te maken - des temeer met pragmatisme en zelfbehoud.

Vervolgens minimaliseert Boudry de nederzettingenpolitiek en de vergeldingsdrang, net als Israëls massale schendingen van internationaal recht en ontmenselijking van de Palestijnse bevolking:


Dat Boudry hier schijnbaar twijfelt of elektriciteit en water afsluiten (net als gas en voedsel en medicijnen en humanitaire hulp - dat was hij nog vergeten) een schending van internationaal oorlogsrecht inhoudt is bijzonder. De minimalisering van deze en andere misdaden tegen de menselijkheid is stuitend. In de woorden van Raz Segal: wat er gaande is in Gaza is niets minder dan een genocide.

De morele vergelijking van Boudry is irrelevant en, wel, obsceen.

Misschien heb ik u, beste lezer, ervan kunnen overtuigen dat de eventuele morele kloof tussen Israël en Hamas niet alleen irrelevant is (Israël is een land en een volk, Hamas is geen van beide), maar ook dat het vergelijken van de moraliteit van twee partijen die zich schuldig maken aan gruweldaden, wel, 'obsceen' is - om een geliefkoosd woord van Boudry te gebruiken.

Maar zelfs als het mij niet gelukt is u hiervan te overtuigen, bent u misschien wel vatbaar voor mijn belangrijkste punt:

Moralisering staat oplossingen in de weg.

Wie zich in een oorlog afvraagt wie moreel superieur is komt gek genoeg altijd bij zichzelf uit. Die zal ook altijd teruggrijpen naar het meest gunstige moment uit duizenden jaren geschiedenis om territoriale en andere aanspraken te motiveren. Dat is natuurlijk een absurde en oeverloze discussie, en de beste garantie op escalatie. Israël begrijpt dat goed, vandaar hun cynische strategie om elke paar jaar 'het gras eens te maaien': hoop op duurzame vrede biedt dit niet.

Michael Franti zag het helder: "We can bomb the world to pieces, but we can't bomb it into peace." Denkt men de Gazanen die Hamas steun(d)en een geweten te kunnen bombarderen? Welke gevoelens verwacht men dat het miljoen kinderen in Gaza, de jongvolwassenen van morgen, zullen overhouden aan deze genocide? Het antwoord op die vraag staat los van de gruweldaden van Hamas die voor Israël het excuus waren om over te gaan tot deze disproportionele agressie, met op 19 oktober al minstens 3785 Palestijnse doden, waarvan 1524 kinderen en 1444 vrouwen, en honderdduizenden ontheemde mensen. Wanneer zal de wraak gekoeld zijn? Tot hoeveel onschuldige Palestijnse doden vindt het Westen dit moreel?

In plaats van morele weegschalen is er nood aan oplossingen. En die zijn er, we moeten ons (en onze bondgenoten) er enkel aan houden. Die oplossingen zitten ingebakken in het internationaal recht, zoals de Conventies van Geneve. Die zijn erop gericht escalatie en burgerslachtoffers te vermijden, of in elk geval ernstig te beperken.

Het minimum minimorum dat het Westen van haar Israëlische bondgenoot moet eisen is het naleven van dat recht. Niet alleen van Hamas of de Palestijnen. Dit houdt in: het stopzetten van de Apartheidspolitiek, terugtrekking uit de illegale nederzettingen, ongedaan maken van de annexatie van Oost-Jeruzalem, vermijden van burgerslachtoffers in Gaza, onvoorwaardelijk toelaten van essentiële middelen en humanitaire steun, en ga zo maar door.

De enige relevante kloof die ik zie in dit conflict, is die tussen moralisering en oprechte wil om oplossingen te vinden.