20 oktober 2023

De gapende kloof tussen moralisering en oplossingen

In deze blogpost maak ik een analyse van de laatste blogpost van mijn collega Maarten Boudry.

Waarom doe ik dit? Omdat Boudry een forum krijgt voor zijn ideeën. Net zoals hij dat kreeg in het Covid19-debat, waarvan hij 'mentaal afstand nam' zodra zijn inschattingsfouten niet langer te ontkennen vielen. Maar vooral omdat het mij een kapstok geeft om een aantal zaken te duiden die onvoldoende onder de aandacht komen.

De blogpost van Boudry heeft deze titel:


Er is een "gapende kloof tussen Israël en Hamas", zegt Boudry. Wat een stropop van een vergelijking. Israël is een staat, Hamas is een Soennietische Islamistische politieke en militaire organizatie. (Terzijde: onder andere BBC weigert om Hamas als terroristische organizatie te bestempelen, hun motivatie lees je hier.) De laatste keer dat de Palestijnen hun eventuele steun voor Hamas konden uitspreken was in 2006, 17 jaar geleden. Bijna de helft van de inwoners van Gaza was toen nog niet geboren. Hamas wordt internationaal niet erkend als regering of als vertegenwoordiger van de Palestijnse bevolking. Een betekenisvolle vergelijking van deze organizatie met het land en de bevolking van Israël is dus onmogelijk. Door deze framing zet hij Hamas functioneel op gelijke hoogte met Israël, en stelt hij de Palestijnse bevolking impliciet gelijk aan Hamas. Dat is onverdedigbare framing.

Wie per se twee partijen op een morele weegschaal wil leggen, kan dat eventueel doen met de Israelische en de Palestijnse bevolking, of desnoods met de Israëlische regeringspartijen en Hamas met dien verstande dat de Israëlische regering vorig jaar nog een meerderheid verwierf. Maar die oefening, waar ik straks nog op terugkom, gaat hij zedig uit de weg.

Boudry steekt direct van wal met zijn centrale these:


Wie "intenties en doelstellingen" eerlijk wil vergelijken vanuit moreel oogpunt, dient natuurlijk wel de context en het uitgangspunt in acht te nemen. Een juwelier die een inbreker wil neerschieten is moreel lastiger te veroordelen dan diezelfde juwelier die een winkelier wil neerschieten omdat hij de inhoudt van de kassa wil. Een verbaal gepeste die fysiek hard uithaalt, is moreel niet noodzakelijk inferieur aan de pester. Ik stel het scherp om het punt duidelijk te maken. De context van de decennialange onderdrukking van het Palestijnse volk door het Israëlische apartheidsregime negeert hij totaal.

Volgens Boudry doodt Israël niet nog meer burgers omdat het dat niet zou willen, terwijl Hamas dat niet doet omdat het dat niet zou kunnen:


Zo probeert Boudry de vele burgerslachtoffers van decennialange Israëlische agressie zowaar te spinnen als een indirect teken van morele superioriteit, omdat ze de mogelijkheden hebben om veel meer mensen te doden, maar de deugdzaamheid tonen daarvan af te zien. Als achtergrond bij deze bewering: onderstaande grafiek van wikipedia toont hoeveel doden er de voorbije jaren aan beide zijde zijn gevallen.


Volgens Boudry zijn deze cijfers dus misleidend. Ze zouden namelijk precies het omgekeerde van de intenties weergeven: Israël wil weinig Palestijnse doden, Hamas wil veel Israëlische doden, ook al lukt het ze allebei niet zo goed. De data liegt, als het ware. Het volstaat naar de situatie op de West-Bank te kijken, waar Hamas zo goed als geen invloed heeft, om te zien hoe verknipt die redenering is.

Tussen 2015 en augustus 2023, d.w.z. na Operatie "Protective Edge" en voor de huidige oorlog, werden alleen al in de West-Bank 794 Palestijnense burgers gedood (tegen 102 Israëli's), waarvan 178 Palestijnse kinderen (tegen 8 Israëlische kinderen). Bijna allemaal werden ze gedood in de buurt van illegale nederzettingen, en door (scherpe) munitie. Geen jammerlijke oorlogsongevallen in de strijd tegen Hamas dus, maar doelbewust. In diezelfde periode waren de Israëlische slachtoffers in de West-Bank voor de grote meerderheid militairen (29%) of kolonisten (60%) die, door daar te wonen, bijdroegen tot (als dusdanig erkende) Israëlische oorlogsmisdaden. Onderstaande data en grafieken, komende van de United Nations Office for the Coordination of Humanitarian Affairs, ondersteunen dit.



Voor alle duidelijkheid: ik betreur elk verlies van mensenlevens ten zeerste, inclusief de levens van Israëlische kolonisten en militairen. Maar als hij het over moraliteit wil hebben, dan is deze context relevant. In de West-Bank vormt de seculiere Fatah de internationaal erkende regering, en is de invloed van Hamas zeer beperkt. Fatah loopt al jaren mooi in de pas, en wil helemaal geen Israëli's doden. Deze enorme imbalans is dus op geen enkele manier goed te praten. Met Israëlische terughoudendheid heeft dit alvast niks te maken.

Natuurlijk kan Israël nog veel meer slachtoffers maken: mocht het willen kan het alle Palestijnen uitroeien in een handomdraai. Ziet het hiervan af om morele redenen, of is het eerder zelfbehoud? Boudry stelt zich die vraag zelfs niet - ik kom er straks op terug.

Hij speculeert verder dat Hamas, als het de macht had, heel Israël onmiddellijk van de kaart zou vegen:


Hier verdraait Boudry de waarheid, en verzwijgt belangrijke context, bewust of uit onwetendheid. Hij refereert naar het charter van Hamas, maar laat na te vermelden dat Hamas in 2017 nieuwe principes heeft aangenomen. Daarin herhaalt Hamas de principiële uitgangspositie dat de Palestijnse staat 'from the river to the sea' moet lopen. Hamas stelt echter ook dat het de stichting van een volledig soevereine en onafhankelijke staat binnen de Green Line als een formule van nationale consensus beschouwt - de tweestatenoplossing dus.


Hamas stelt ook expliciet dat ze strijden tegen "het Zionistische project", niet tegen het Judaisme of Joodse volk omwille van hun religie. Zie ook dit artikel in The Guardian. Dat Hamas Israël 'van de kaart wil vegen' is dus op zijn minst ongenuanceerd. Belangrijker is dat de focus van Boudry op Hamas een stropop is. Dit wikipedia artikel maakt duidelijk dat het (ondanks de ideologische positie van Hamas) niet de Palestijnse partijen zijn, maar de Israëlische partijen (en bevolking), die de tweestatenoplossing afwijzen en onmogelijk maken.


Vandaag is dat meer dan ooit het geval. Enkele weken geleden nog toonde Netanyahu ongegeneerd een kaart van Israël, voor de Verenigde Naties nota bene, waarop Gaza en de West-Bank botweg waren weggevaagd. In de coalitieovereenkomst tussen regeringspartijen Likud en het extreem-rechtse en ultra-nationalistische Religious Zionism kartel wordt geen geheim gemaakt van de ambities om de Palestijnse gebieden te annexeren.


Die overeenkomst schrijft verder dat "The Jewish people have a natural right to the Land of Israel". Ook de 'Foundational principles' van deze regering stelt dat "the Jewish people have the exclusive and indisputable right to all parts of the Land of Israel".


Zie ook wikipedia:


Dit is geen slip of the tongue. De ambitie om de West-Bank te annexeren werd expliciet en herhaaldelijk uitgesproken door verschillende prominente ministers in de regering, zoals aangehaald in dit Time artikel. Dat artikel legt ook uit dat de regering de controlerende macht van de Israëlische Supreme Court (een cruciale schakel in de Israëlische staatsstructuur) heeft gebroken, onder andere om de annexatie mogelijk te maken.

Netanyahu's regering is echter niet achterlijk:


Een directe en onverholen annexatie zou de Arabische wereld natuurlijk mobiliseren, wat tegen de "national and international interests" zou zijn. Het doel is dus duidelijk, maar de weg ernaartoe zal pragmatisch zijn. Realpolitik - kenmerkend voor Israël.

Wat Boudry Hamas verwijt, geldt dus minstens evenzeer voor dit Israël, zij het achterbakser en politiek geslepener. Ik herhaal hier ook even dat Hamas voor het laatst in 2006 werd verkozen, toen bijna de helft van de Gazanen nog niet was geboren, en deze Israëlische regering in 2022.

De Israëlische regeringspartijen zijn trouwens al langer geen doetjes op dit vlak (en andere vlakken). Likud is gegroeid uit de paramilitaire organizatie Irgun (of Etzel), onder andere verantwoordelijk voor het 'Deir Yassin massacre' en de aanslag op het King David Hotel, terreurdaden die vandaag nog steeds worden verheerlijkt. Likud is voorstander van uitbreiding van de illegale nederzettingen. In een filmpje van 2001 schept Netanyahu op over hoe hij de Palestijnen opzettelijk zo pijnlijk mogelijk raakt, hoe hij de Oslo akkoorden eenzijdig uitholde, en hoe hij de VS in zijn zak heeft zitten.

Het Zionistische Shas is eveneens pleitbezorger van de illegale nederzettingenpolitiek. De Religious Zionist Party, luidens wikipedia "far-right, ultra-nationalist, Jewish supremasist, and religious Zionist", streeft de annexatie van de hele West-Bank of minstens van 'Area C' (63% van de West-Bank) na, afhankelijk van wie je het vraagt. De Otzma Yehudit (of Jewish Power) partij, een ultra-nationalistische, religieus-Zionistische, extreem-rechtse, anti-Arabieren partij, die tot voor kort openlijk pleitte voor de deportatie van alle 'vijanden van Israël', is uitgesproken voorstander van de annexatie van de West-Bank en Israëlische overheersing van de hele regio 'tussen de Jordaan en de Middellandse Zee'. Ze zijn dan ook tegenstander van een Palestijnse staat en hebben lak aan de Oslo akkoorden.


Noam, tenslotte, is een extreem-rechtse, religieus-Zionistische, anti-LGBT partij waarvan Giorgia Meloni het schaamrood op de wangen krijgt. Het is deze regering die kan rekenen op de onvoorwaardelijke steun van Boudry, Ursula von der Leyen, Joe Biden, Alexander De Croo, Bart De Wever, en andere moralisten.

Terug naar Boudry's apologetisch discours voor deze ongegeneerd extreem-rechtse, ultra-nationalistische, racistische, en anti-LGBT regering:


Twee punten hier: het gebruik van burgers als menselijk schild, en pogingen om burgers te waarschuwen bij bombardementen.

Je gaat me vanzelfsprekend nooit horen verdedigen dat Hamas burgers als menselijk schild gebruikt (al is het niet evident dat niet te doen, in de overbevolkte Gazastrook). Net zoals ik dat ook van Israël verwerpelijk vind. En Boudry vergeet even te vermelden dat dit een courante praktijk was van de IDF:


Wel vervelend voor de IDF dat het hooggerechtshof dit in 2005 verbood (de IDF vocht dit tevergeefs aan). Maar een groot beletsel blijkt dat niet, jammer genoeg.

Wat het waarschuwen bij bombardementen betreft: dat gebeurt soms, maar niet altijd. Hoe vaak dat wel of niet gebeurt weten noch Boudry, noch ik. Wat wel zeker is: zonder plek om naartoe te gaan in het arme en overbevolkte Gaza, ben je vet met een waarschuwing. Bovendien trof Israël tijdens de huidige bombardementen van Gaza meermaals als 'veilig' gemarkeerde zones. Tientallen burgers vonden bijvoorbeeld de dood bij een bombardement op een konvooi burgers terwijl ze op de vlucht waren langs de 'veilige' route naar het zuiden van de Gazastrook, zoals door Israël opgeroepen. In de zuidelijke stad Khan Younis kwamen meer dan 100 mensen om in een bombardement, de meesten onder hen vluchtelingen die het advies van Israël hadden opgevolgd. Cynischer wordt het niet.

In dat licht kan het Hamas moeilijk ten kwade worden geduid dat het weerstand biedt tegen de evacuatie (of wellicht juister: ethnische zuivering) van de noordelijke Gazastrook. Uiteindelijk zijn het nog steeds de bommen van Israël die dood en vernieling zaaien, niet de mensen die daar blijven of die mensen aanmoedigen daar te blijven. Bovendien is de gevraagde evacuatie onmenselijk en onrealistisch, "een misdaad tegen de menselijkheid en een flagrante overtreding van internationale humanitaire wetgeving", in de woorden van Paula Gaviria Betancur (Special Rapporteur on the human rights of internally displaced persons bij de Verenigde Naties).

En dan nu, Boudry's vermaledijde gedachte-experiment (geleend van collega-filosoof Sam Harris):


Met permissie, maar dit gedachte-experiment is van een bedenkelijk intellectueel niveau. De onuitgesproken 'ceteris paribus' assumptie maakt ze volstrekt nutteloos. Alsof je iets kan leren uit het denkbeeldig wisselen van de militaire slagkracht van Hamas en Israël, zonder dat ook met de context te doen.

Een veel relevanter gedachte-experiment is dit: Stel dat deze extreem-rechtse, religieus Zionistische, racistische, en ultra-nationalistische Israëlische regering al 16 jaar de internationaal niet-erkende regering in de openluchtgevangenis van Gaza was geweest, in plaats van Hamas. Zou hun ideologie dan milder zijn dan die van Hamas vandaag? Zouden ze dan minder onschuldige slachtoffers maken dan ze vandaag doen in de West-Bank waar Hamas niet eens actief is? Zouden ze dan afzien van hun ambitie voor een groot-Israël, inclusief de Palestijnse gebieden? Zouden ze dan met hun raketinstallaties post vatten op het strand of in een open veld (voor zover die er zijn), klaar om zelf getroffen te worden, in plaats van in de steden? De vragen stellen is ze beantwoorden.

De reden dat dit Hamas vandaag populariteit geniet, is natuurlijk net omdat de Palestijnen niks te verliezen hebben. Omdat de situatie ook op de West-Bank onder Fatah stelselmatig slechter wordt. Leef het internationaal recht daar na, en de populariteit van Hamas slinkt weg als sneeuw voor de zon. En de reden dat Israël vandaag niet nog meer slachtoffers maakt is natuurlijk net omdat ze zo onoverwinnelijk zijn, en omdat ze dat graag zo houden. De beste manier om dat te doen is door een dynamisch status quo te handhaven: de Apartheid in stand houden en om de paar jaar 'het gras eens maaien', zoals ze dat noemen. Nog grotere schendingen van het internationaal recht riskeren om de onvoorwaardelijkheid van de Westerse steun in het gedrang te brengen, en kunnen de Arabische wereld militair tegen Israël doen keren. Met moraliteit heeft dit niks te maken - des temeer met pragmatisme en zelfbehoud.

Vervolgens minimaliseert Boudry de nederzettingenpolitiek en de vergeldingsdrang, net als Israëls massale schendingen van internationaal recht en ontmenselijking van de Palestijnse bevolking:


Dat Boudry hier schijnbaar twijfelt of elektriciteit en water afsluiten (net als gas en voedsel en medicijnen en humanitaire hulp - dat was hij nog vergeten) een schending van internationaal oorlogsrecht inhoudt is bijzonder. De minimalisering van deze en andere misdaden tegen de menselijkheid is stuitend. In de woorden van Raz Segal: wat er gaande is in Gaza is niets minder dan een genocide.

De morele vergelijking van Boudry is irrelevant en, wel, obsceen.

Misschien heb ik u, beste lezer, ervan kunnen overtuigen dat de eventuele morele kloof tussen Israël en Hamas niet alleen irrelevant is (Israël is een land en een volk, Hamas is geen van beide), maar ook dat het vergelijken van de moraliteit van twee partijen die zich schuldig maken aan gruweldaden, wel, 'obsceen' is - om een geliefkoosd woord van Boudry te gebruiken.

Maar zelfs als het mij niet gelukt is u hiervan te overtuigen, bent u misschien wel vatbaar voor mijn belangrijkste punt:

Moralisering staat oplossingen in de weg.

Wie zich in een oorlog afvraagt wie moreel superieur is komt gek genoeg altijd bij zichzelf uit. Die zal ook altijd teruggrijpen naar het meest gunstige moment uit duizenden jaren geschiedenis om territoriale en andere aanspraken te motiveren. Dat is natuurlijk een absurde en oeverloze discussie, en de beste garantie op escalatie. Israël begrijpt dat goed, vandaar hun cynische strategie om elke paar jaar 'het gras eens te maaien': hoop op duurzame vrede biedt dit niet.

Michael Franti zag het helder: "We can bomb the world to pieces, but we can't bomb it into peace." Denkt men de Gazanen die Hamas steun(d)en een geweten te kunnen bombarderen? Welke gevoelens verwacht men dat het miljoen kinderen in Gaza, de jongvolwassenen van morgen, zullen overhouden aan deze genocide? Het antwoord op die vraag staat los van de gruweldaden van Hamas die voor Israël het excuus waren om over te gaan tot deze disproportionele agressie, met op 19 oktober al minstens 3785 Palestijnse doden, waarvan 1524 kinderen en 1444 vrouwen, en honderdduizenden ontheemde mensen. Wanneer zal de wraak gekoeld zijn? Tot hoeveel onschuldige Palestijnse doden vindt het Westen dit moreel?

In plaats van morele weegschalen is er nood aan oplossingen. En die zijn er, we moeten ons (en onze bondgenoten) er enkel aan houden. Die oplossingen zitten ingebakken in het internationaal recht, zoals de Conventies van Geneve. Die zijn erop gericht escalatie en burgerslachtoffers te vermijden, of in elk geval ernstig te beperken.

Het minimum minimorum dat het Westen van haar Israëlische bondgenoot moet eisen is het naleven van dat recht. Niet alleen van Hamas of de Palestijnen. Dit houdt in: het stopzetten van de Apartheidspolitiek, terugtrekking uit de illegale nederzettingen, ongedaan maken van de annexatie van Oost-Jeruzalem, vermijden van burgerslachtoffers in Gaza, onvoorwaardelijk toelaten van essentiële middelen en humanitaire steun, en ga zo maar door.

De enige relevante kloof die ik zie in dit conflict, is die tussen moralisering en oprechte wil om oplossingen te vinden.

15 september 2023

Persoonlijke AI-vriendjes maken gerichte manipulatie mogelijk op ongeziene schaal

(Eerst verschenen in Knack op 15/9/2023)


Stel je even voor: Een groot bedrijf, laat ik het Big Brother noemen, vindt een nieuwe succesformule voor designerdrugs. De productie kost bijna niks. Big Brother kan ze bovendien gratis in ieders broekzak deponeren, ook die van jouw kind, kleinkind, nichtje of neefje. Wie er eentje slikt krijgt een endorfine-boost, en wil er snel een tweede. En als kers op de taart geeft de drug aan Big Brother een inzicht in het denken en voelen van de gebruikers, en een sleutel tot hun diepste overtuigingen. Big Brother kan ze manipuleren in een vingerknip. Het economisch en politiek potentieel is overweldigend!


Toch wordt Big Brother geen strobreed in de weg gelegd. Integendeel: onze openbare omroep maakt zelfs reclame voor zijn wonderpilletjes: het Vlaams jeugdjournaal Karrewiet op KetNet vertelt aan onze kinderen dat het een ongezien nuttige drug is. De drug zou verder zeker niet gevaarlijk zijn, want het is gewoon een scheikundig product. Voor de minister is het dan ook geen prioriteit - stemmen vallen hier niet te rapen.


Het is misschien wat scherp gesteld, maar toch is deze vergelijking met ‘persoonlijke AI vriendjes’, of AI companion chatbots, niet uit de lucht gegrepen. In maart zette Snapchat zo’n AI vriendje, “MyAI” genaamd, ongevraagd in de contactenlijst van al hun gebruikers. Met een simpele druk op de knop bij Snap Inc. kwam MyAI zo in de broekzak van een zeer grote groep jongeren terecht. Het werd in de markt gezet als een alwetend vriendje bij wie gebruikers terechtkunnen met al hun zieleroerselen. MyAI zou luisteren zonder te oordelen, en wijze raad geven op eenvoudig verzoek. Karrewiet vertelde de kinderen dat MyAI “gewoon een computerprogramma” is dat “superslim” is en “kan antwoorden op elke vraag”, en herhaalde later nog eens dat het “zeker niet gevaarlijk” is en “alles weet wat op het internet staat”. Onze politici verwijzen desgevraagd naar Europa, waar men aan regelgeving werkt. We moeten alleen nog een drietal jaar geduld hebben (met wat geluk).


Snapchat wil met MyAI hun gebruikers sterker binden. Ook andere ‘persoonlijke AI vriendjes’ willen dat, zoals de Chai app (een samentrekking van “chat” en “ai”). Chai schakelt daar zelfs buitenstaanders voor in: er loopt een competitie waarin deelnemers zelfgemaakte chatbots kunnen insturen, die dan op Chai’s gebruikers worden getest. De chatbot waar Chai’s gebruikers het langst mee chatten, krijgt 1 miljoen dollar. De meest verslavende chatbot wint - hoera!


Die mogelijke verslaving is geen onbelangrijk risico. Temeer omdat dergelijke chatbots geen garanties van ‘veiligheid’ kunnen bieden. Zo kunnen ze gesprekken voeren die voor kinderen niet geschikt zijn, of die aanzetten tot geweld, onveilig drugsgebruik, of ander problematisch gedrag. Maar het gevaarlijkste risico, volgens mij, is dat het hyper-gepersonaliseerde manipulatie op ongeziene schaal mogelijk maakt. Gebruikers van die chatbots delen er vaak hun grootste dromen en intiemste twijfels mee - al dan niet bewust. Als de (wellicht niet-Europese) producent van die chatbot zo geld kan verdienen, of als die daartoe onder druk wordt gezet of verplicht, dan heeft die alles in huis om de overtuigingen en gedragingen van de gebruikers te manipuleren: tot het kopen van die nieuwste smartwatch, tot het haten van die eigenzinnige buur die geen vaccin of mondmasker wil, tot het stemmen op die extremistische politicus.


Mieke De Ketelaere, Pierre Dewitte, Thomas Ghys, en Nathalie Smuha, hebben onlangs het Safe AI Companion Collective (SAICC) opgestart, waarmee ze aansturen op veiligheid en verantwoordelijkheid van ‘persoonlijke AI vriendjes’. Ze hebben twee klachten ingediend tegen Chai: één op basis van de Algemene Verordening Gegevensbescherming, en één op basis van de Consumentenbescherming, bij gebrek aan specifieke AI-regulering. Het is een broodnodige en lovenswaardige eerste stap, die als model kan dienen voor gelijkaardige initiatieven.


Maar er is veel meer nodig, ook op wetgevend vlak. Europa werkt eraan, maar vordert traag. De huidige versie van de Europese AI Act erkent en reguleert de risico’s van ‘persoonlijke AI vriendjes’ ook onvoldoende. De gevaren van AI beperken, en tegelijk de vele nuttige toepassingen ervan stimuleren, is een moeilijke maar ook cruciale evenwichtsoefening. Want we mogen het enorme nuttige potentieel van AI niet overboord gooien samen met de risicovolle toepassingen. Net zoals het zou fout zijn om levensreddende geneesmiddelen te bannen samen met die hypothetische designerdrugs van Big Brother. Het kind en het badwater…


Wat nu?


In de eerste plaats is er nood aan bewustwording, educatie, en een open gesprek over hoe we AI-technologie in onze cultuur en samenleving willen inpassen. Dat gesprek moet gaan over hoe nieuwe AI innovaties kunnen bijdragen aan onze gezondheid, het klimaat en energievraagstuk, de landbouw, het onderwijs, de arbeidsmarkt, mobiliteit, en veel meer. Maar ook over soms slecht begrepen risico’s en onzekerheden, zoals die van persoonlijke AI vriendjes. Politiek en media hebben hier een belangrijke rol te spelen. Beste politici, laat ons niet wachten op Europa, daar hebben we de tijd niet voor. En, beste media, MyAI heeft geen reclame nodig, onze kinderen verdienen een kritischere blik. De Nederlandse NOS gaf alvast een mooie aanzet.

 

11 september 2023

How the EU's Digital Services Act poses risks to fundamental rights and democracy

(Published on Brussels Report, 11 September 2023.)

The Digital Services Act (DSA) aims to provide a European solution to an important societal challenge: illegal content and misinformation online. These are real and significant problems, for which new legislation was needed indeed. The DSA was developed and approved during the pandemic. It is a lengthy and complex text, and I believe it received insufficient political and public scrutiny.

The DSA does contain highly valuable provisions, e.g. providing mechanisms for fighting child abuse and for enforcing transparency requirements in online advertising and recommendation systems. However, there are also concerning parts, which may undermine fundamental rights, especially freedom of expression and information, a cornerstone of European democracies and enshrined as Article 11 of the EU Charter of Fundamental Rights. In this opinion piece, I summarize my understanding of some key points in the DSA, omitting technical details and nuances, and emphasizing those potential risks.

-        The DSA requires that online platforms make it easy for anyone to report allegedly illegal content. Online platforms (and providers of so-called ‘hosting services’ more generally), such as social media platforms, must provide user-friendly mechanisms that allow anyone to ‘notify’ (i.e. flag or report) content on the platform (e.g., a message on X) that they believe to be illegal (Art 16).

-        Online platforms become liable for reported content. Once notified, platforms (e.g., X) become liable for the notified content, if it is indeed illegal (Art 6, and Art 16 paragraph 3). They then must quickly take appropriate action against it (suppression, removal of the content, suspension or blocking of the author...) (Art 16).

-        Notices submitted by so-called Trusted Flaggers must be handled with priority. Trusted Flaggers are organizations that will be certified as such by the so-called national Digital Service Coordinators (DSCs) (see below and Art 49-51). Platforms must handle notices submitted by Trusted Flaggers as a matter of priority (Art 22). Trusted Flaggers who too often notify content inaccurately can lose their privileged status, but risk nothing more than that (Art 22, par 6-7).

-        Complaint and redress procedures must be established, but they will take time. Complaint and redress procedures must be established and clearly communicated (see e.g. Art 16 par 5, and Art 17 par 3(f)). Such procedures must include an internal complaint-handling system (Art 20), out-of-court dispute settlement bodies (Art 21), and judicial redress. However, these procedures can drag on for months, during which time the measure (suppression, removal, etc.) remains in force.

-        Terms & Conditions (T&Cs) are used as a means against undesirable (but not illegal) content. Notifications can compel a platform to take measures for two possible reasons (e.g., Art 17 par 1):

1.     because the platform also deems the content to be illegal (or, perhaps more often, because it does not have the time or resources to investigate, and thus prefers to err on the side of caution), or

2.     because the content violates the platform's T&Cs (but is not necessarily illegal).

Remarkably, the DSA explicitly highlights the possibility for online platforms to rely on Trusted Flaggers or similar mechanisms for policing content that is incompatible with their T&Cs (e.g., Recital 62). This contrasts with the stated role of Trusted Flaggers as flagging illegal content (Art 22).

-        Mandatory risk assessments and mitigating measures allow the European Commission to influence the T&Cs, content moderation policies, and more, of very large online platforms. Very large online platforms and search engines (X, Facebook, YouTube, Instagram, Google, Snapchat, TikTok, etc.) are required to regularly perform analyses of “systemic risks” (Art 34) and take mitigating measures (Art 35). This may include tightening and extending their T&Cs, strengthening their cooperation with Trusted Flaggers, altering their algorithms, etc. Such risk assessments explicitly go beyond illegal content: they aim to address allegedly deceptive content and disinformation (see also Recital 84). As such, the DSA grants the European Commission not only the power to suppress illegal content, but also content they consider undesirable because it is allegedly detrimental to ‘civic discourse’, public security, public health, and more.

-        A crisis response mechanism provides an additional mechanism for the European Commission to exert control over non-illegal content. In times of ‘crisis’ (proclaimed by the European Commission itself, on the initiative of the new European Board for Digital Services), such as a threat to security or public health, the European Commission can demand additional measures from the very large platforms and search engines (Art 36 and 48, and Recital 91). These measures, which may include adjusting the T&Cs and the content moderation processes, intensifying cooperation with Trusted Flaggers, etc., must then be taken by these platforms as a matter of urgency.

-        Codes of Conduct provide a further mechanism for the European Commission to exert control over non-illegal content. The European Commission will ‘encourage’ the drafting and adherence to ‘voluntary’ Codes of Conduct for the sector (including quantifiable KPIs and the obligation to report regularly to the Commission and the relevant Digital Service Coordinator). The purpose is not only to combat illegal content, but also the so-called ‘systemic risks’ (Art 45), with specific references to ‘disinformation’ (Recital 104). The phrasing of Art 45 and its motivation (e.g. Recitals 103 and 104) almost read like “an offer they can't refuse”.

-        Transparency is limited. There are various provisions concerning transparency (e.g., Art 15, 17, 22 par 3, 24, and 42, and Recital 122), but these are mostly at an aggregated level, rather than at the level of individual content and content moderations. This makes independent scrutiny of the impact on freedom of expression and information very difficult.
DSCs will have the authority to grant a ‘vetted researcher’ status to particular researchers. Very large online platforms and search engines can then be compelled to provide these vetted researchers with access to data for the purpose of investigating systemic risks in the European Union, and for assessing the adequacy, efficiency and impacts of the risk mitigation measures. Unfortunately, the ‘technical conditions’ (which data, which permitted purposes, etc) are yet to be determined, and the power to do this is delegated to the European Commission (Art 40 par 13).

-        Fines for non-compliance are exorbitant, but not for transgressions of fundamental rights. Fines for non-compliance with the obligations under the DSA are exorbitant: up to 6% of the global annual turnover (Art 52 and 74). The DSA also does pay occasional lip service to fundamental rights, including freedom of expression and information (e.g., Art 35 par 3 and Recitals 86 and especially 153). However, I could not find anything about fines for overzealous ‘content moderation’ that violates these fundamental rights. It all remains very vague, without concrete guarantees. The DSA asserts one’s right to file a complaint (Art 53), and to request compensation in case of loss or damage resulting from non-compliance with the DSA (Art 54). But it is doubtful whether a violation of fundamental rights (especially freedom of expression and information) will be recognized as non-compliance with the DSA.

It is hard to shake the feeling that it was a mistake to write and approve this Act between 2020 and 2022, during the pandemic when authorities were struggling to control the global narrative. In my opinion, the European regulator went grocery shopping on an empty stomach, which is never wise.

It is now up to the members states to implement the DSA in such a way that the risks to our fundamental rights and to the foundations of our European democracies remain as small as possible.