Artificiële intelligentie (AI): geen reden tot paniek

MediaNation, het bedrijf in moeilijkheden achter Business AM, gebruikt voortaan Artificiële Intelligentie (AI) om artikels te schrijven. Dat kan perfect. Het gros van de krantenartikels die door mensen worden geschreven, vaak onder grote tijdsdruk, moet het toch al zonder veel kleur of diepgang doen. Soms stel ik me ook de vraag hoeveel paddo’s de journalist in kwestie heeft genuttigd. Fact-checking is er dan ook vooral om jullie de mantel uit te vegen, beste sociale-mediagebruikers, niet als onderdeel van de journalistieke praktijk zoals eertijds. En voor dit opiniestuk had ik wellicht weggekomen met deze tekst, geschreven door ChatGPT, op eenvoudig verzoek met deze prompt:

“MediaNation, een mediabedrijf dat het online nieuwsmedium 'Business AM' publiceert, bespaart door de meeste van zijn journalisten te ontslaan en ze te vervangen door ChatGPT voor de vertaling en het schrijven van artikelen. Kan je een opiniestuk schrijven van ongeveer 500 woorden dat start met deze anekdote, en bespreekt wat de impact zal zijn van generatieve AI op witteboord werkers?”

Toegegeven: het resultaat is droog en stereotiep. Maar zou het in sommige (andere) dag- of weekbladen echt afsteken tegen de rest?

Existentiële angsten

Nogal wat geleerde analyses van generatieve AI-systemen (zoals ChatGPT) wijzen uitgebreid op de tekortkomingen. Het resultaat zou zielloos zijn, zonder vonk of sprankel. Erger nog, ze kunnen ‘hallucineren’: in een soort stream of consciousness spuwen ze woorden uit die op het eerste gezicht steek lijken te houden, maar voor geen meter te vertrouwen zijn. Ze hebben geen (zelf)bewustzijn, en “empathie” is voor ChatGPT een woord zoals “aambei” of “keukentafel”.

Dat klopt natuurlijk allemaal, en die tekortkomingen zijn inherent aan de huidige technologie. Maar hoelang zal het nog duren voor een volgende doorbraak deze gebreken aanpakt? En zoals ik al zei: gaat diezelfde kritiek vaak ook niet op voor menselijke auteurs? Dergelijke sceptische beschouwingen lijken dan ook vooral een soort existentiële angst te willen sussen: we verliezen onze status van slimste en creatiefste wezen op deze planeet toch niet? De horror!

Witteboord-werkers

Als je de vruchten wil plukken van generatieve AI en de risico’s ervan wil beperken, zet je die angst maar beter aan de kant. Al zijn we er nog niet, je gaat er best vanuit dat AI vroeg of laat de mens schromelijk zal overtreffen in elke intellectuele taak: stilistisch en inhoudelijk, maar ook wat betreft creativiteit, (zelf)bewustzijn en empathie – althans in de ogen van menselijke observatoren. Dat biedt enorme kansen.

Waarom dan die ongerustheid?

Misschien omdat AI, meer dan eerdere industriële revoluties, leven en werk zal treffen van de witteboord-werkers en de intelligentsia: juristen en notarissen, bankiers en verzekeraars, boekhouders en HR-medewerkers, artsen en onderzoekers, ontwerpers en programmeurs, auteurs en journalisten. De AI-startups die op die doelgroepen zijn gericht, schieten als paddenstoelen uit de grond.

Wie gebruik maakt van hun producten zal ongetwijfeld productiever worden, terwijl wie dat niet doet competitief ten onder zal gaan. De mens blijft vooralsnog de eindbeslisser, maar AI zal helpen om grote hoeveelheden data te doorploegen, onvermoede verbanden te vinden, creatieve suggesties te doen, documenten en rapporten te schrijven, grote delen van computersoftware te programmeren, en veel meer. De analogie met de personal computer is nooit ver weg: wie die boot miste is vandaag een sukkelaar. De AI-revolutie belooft ingrijpender te zijn en sneller te gaan.

Een mooie toekomst?

Dat besef creëert spanning en onzekerheid, als bij een kind aan de vooravond van zijn of haar eerste schooldag. De uitdaging zal zijn om de transitie in goede banen te leiden. Velen zullen zich moeten bij- of omscholen, en sommigen zullen moeten zoeken naar een geheel nieuwe bevredigende job. Maar als we daar als maatschappij in slagen, dan wacht ons een toekomst met meer welvaart, meer vrije tijd, en een meer vervullend leven.

Alhoewel. Het voorbije kwart eeuw, een periode van doorgedreven automatisatie in de kennissectoren, is het gemiddeld aantal werkuren van de werkende bevolking in Vlaanderen constant gebleven, terwijl de werkzaamheidsgraad steeg. Al speelt vergrijzing ongetwijfeld mee, antropoloog David Graeber ziet ook een toename aan zogenaamde bullshit jobs: jobs die maatschappelijk in essentie nutteloos zijn, maar die we doen uit een soort van Puriteins-kapitalistische werkethos. Blij word je daar niet van. Meer vrije tijd en voldoening volgen niet automatisch uit hogere productiviteit.

Bovendien zal, om productief te zijn, de nood aan menselijk contact steeds verder afnemen. Zelfs in de zorgsector vindt AI steeds meer ingang, zoals het PARO zeehondje dat troost biedt aan wie aan dementie lijdt. Wat gaan zorgverstrekkers doen met de vrijgekomen tijd? En gaan we dezelfde voldoening putten uit professioneel en sociaal contact met intelligente robots en chatbots, als die gedragsmatig van mensen (of dieren) niet te onderscheiden zijn, of er naar objectieve maatstaven zelfs superieur aan zijn?

Verbeelding en verbinding

Het échte AI-risico is dan ook geen economische crisis, maar een zingevingscrisis.

Alleen verbeelding kan ons redden, betitelde Michael De Cock zijn zinderende lofrede aan de kunsten. Hij zei het een beetje tongue in cheek, maar zijn woorden zouden profetischer kunnen zijn dan velen denken. Verbeelding, en verbinding.

Een bultig servies, handgedraaid door die goede vriend, heeft meer waarde dan een onberispelijk setje van Ikea. Een optreden van je 10-jarige dochter of zoon overstijgt een concert van pakweg een laureaat van de Koning Elisabethwedstrijd of Pommelien Thijs. Een Van Gogh die als vervalsing wordt ontmaskerd, verliest plots al zijn waarde. Het servies is de vriendschap, de muziek is de ouder-kind verbondenheid, het schilderij is de schilder zelf. Zo zal ook een artikel geschreven door een journalist van vlees en bloed, met een eigen verhaal, je wellicht dieper raken dan een vlekkeloze uiteenzetting door de volgende versie van ChatGPT. Waarde zit vervat in de verbeelding en verbinding, niet in het product zelf – hoe foutloos het ook is.

Leve AI, leve de menselijke imperfectie

Daarom zouden we, parallel aan de opgang van AI, getuige kunnen worden van een herwaardering van imperfectie: het ambachtelijke, het trage, het schots en scheve, het authentieke, het menselijke.

Ik durf het alvast stilletjes hopen.

(Ook gepubliceerd in Doorbraak.)

The DSA's tackling of systemic risks should have been content-agnostic

Any government-controlled/sanctioned/policed form of content moderation that is based on the content itself, makes that government a Ministry of Truth in the style of 1984. Like the European Commission since the Digital Services Act (DSA). It's a sobering fact that cannot be denied.

At the same time, the risks to democracy posed by AI-generated content and social media algorithms are immense: the DSA does address a real need (though in a very wrong way, at least the provisions related to "systemic risks").

Imo, the only solution that respects fundamental rights and democratic principles lies in content-agnostic moderation procedures. I am convinced that this is possible. Here are three concrete ideas (which may of course not be the best ones):

All platforms should be required to allow (not require) both humans and bots to be identified on the platform. For identified bots, an identified human should be linked and accept accountability. Platforms should be free to ban (identified) bots altogether.

Require T&Cs and content moderation policies to respect freedom of speech and of information. This must be a prime concern, not an afterthought or vague boundary condition.

For identified accounts, (only!) the identified individual can and should be legally accountable for allegedly illegal content, and must thus not be moderated by the platform on such grounds until a regular court has confirmed illegality and mandated removal.

For illegal content from anonymous accounts, the platforms should be held accountable, e.g. using a mechanism similar to the DSA's.

Transparent forms of T&C-based content moderation should of course be allowed (but *never* government-mandated), to allow platforms reach an intended target audience (e.g. banning nsfw content).

Impose algorithmic limits/brakes on the virality of any content (regardless of which content it is), particularly for content that is not created by identified humans. There are many ways in which this could be done. Note that many algorithms today do the exact opposite.

It strikes me that I've never seen a meaningful focus on , although the DSA actually does follow this approach to a very limited extent in its regulation of recommender systems. Yet, imo this is a crucial piece of the puzzle, which achieves the goal without harming fundamental rights (rather on the contrary).

(Note: my thoughts on this were partially inspired by this outstanding piece by Jonathan Haidt and Eric Schmidt.)

Distinguishing True from False Content and Its Proxies

1) There's information that you like, and there's information that you dislike.

2) There's human-generated content, and there's bot-generated content.

3) And then there's true information, and there's false information.

The problem with regulations to fight disinformation such as the Digital Services Act (DSA), is that the first distinction is easy to make, the second distinction much harder, and the third distinction practically impossible (except for in the most trivial cases).

The inevitable failure to make the third and second distinctions will mean that the first one will be used as an all too convenient proxy. As we are predictably seeing today with the DSA.

And that's the beginning of the end of democracy as we know it.

Although the DSA addresses a real need, and although it has many merits as well (e.g. the provisions to protect minors, and the provisions regarding transparency even though they still fall short), I am convinced that its handling of systemic risks is a mistake and should be undone.

The European Commission has created the DSA to tackle "systemic risks". In doing so, it may have created the greatest systemic risk of all.