Digitalisering verandert niet alleen onze dienstverlening, maar ook de verdeling van macht.

 

1. Digitalisering als constitutionele machtsverschuiving

Digitale infrastructuren zijn uitgegroeid tot een basisvoorwaarde voor maatschappelijke deelname. Identificatie, betalingsverkeer, communicatie, arbeidsbemiddeling, onderwijs, zorg, belastingheffing en toegang tot publieke voorzieningen verlopen steeds vaker geheel of gedeeltelijk digitaal. Wie geen toegang heeft tot deze infrastructuren, onvoldoende digitale vaardigheden bezit of door een systeem niet correct wordt herkend, kan daardoor niet alleen praktisch ongemak ervaren, maar feitelijk worden beperkt in de uitoefening van grondrechten.

Ook de overheid is steeds afhankelijker geworden van data en digitale systemen. Bestuursorganen gebruiken gegevens voor dienstverlening, toezicht, fraudebestrijding, vergunningverlening, belastingheffing, sociale zekerheid en handhaving. Data worden niet alleen gebruikt om reeds bekende feiten vast te leggen, maar ook om risico’s te voorspellen, zaken te prioriteren en personen of organisaties voor nader onderzoek te selecteren. Daarmee verschuift een deel van de beoordeling van individuele ambtenaren naar modellen, beslisregels en digitale werkprocessen.

Deze verschuiving kan consistentie, snelheid en uitvoerbaarheid bevorderen. Zij kan menselijke willekeur verminderen en publieke dienstverlening toegankelijker maken. Tegelijkertijd verandert zij de institutionele verdeling van kennis en macht. Wie toegang heeft tot omvangrijke gegevensverzamelingen, rekenkracht en technische deskundigheid, kan gedrag analyseren, voorspellen en beïnvloeden op een schaal die voor individuele burgers en kleinere organisaties niet bereikbaar is.

Algoritmische machtsuitoefening is bovendien minder zichtbaar dan traditionele overheidsmacht. Een burger ziet doorgaans wel het uiteindelijke besluit, maar niet altijd welke gegevens, selectieregels, risicoscores of statistische verbanden daaraan voorafgingen. Het kan onduidelijk zijn of een medewerker werkelijk zelfstandig heeft beslist of hoofdzakelijk een systeemadvies heeft gevolgd. Ook kan onbekend blijven waarom de ene persoon intensief wordt gecontroleerd en de andere niet.

De schaal en snelheid van digitale systemen vergroten deze gevolgen. Een onjuiste regel, discriminerende variabele of gebrekkige dataset kan binnen korte tijd op duizenden of miljoenen personen worden toegepast. Waar een menselijke fout aanvankelijk beperkt kan blijven tot één dossier, kan een systeemfout zich gelijktijdig door verschillende organisaties en uitvoeringsketens verspreiden. Digitalisering vergroot daarmee zowel het vermogen tot consistente uitvoering als het risico op grootschalig institutioneel onrecht.

Tegelijkertijd vervaagt de grens tussen publieke en private macht. Overheden maken gebruik van commerciële cloudomgevingen, identificatiediensten, softwaresystemen, dataleveranciers en algoritmische toepassingen. Private ondernemingen ontwerpen of beheren daardoor mede de infrastructuur waarbinnen publieke bevoegdheden worden uitgeoefend. De overheid blijft juridisch verantwoordelijk, maar beschikt niet altijd zelf over voldoende technische kennis om de werking van het systeem volledig te controleren.

Omgekeerd oefenen private platforms functies uit die vroeger sterker publiek of verspreid waren georganiseerd. Zij bepalen mede wie zichtbaar is, welke informatie mensen ontvangen, welke aanbieders toegang tot markten krijgen en onder welke voorwaarden personen kunnen communiceren, werken of handelen. Hun voorwaarden en algoritmen functioneren soms als private regelgeving zonder dezelfde democratische totstandkoming, openbaarheid en rechtsbescherming die voor overheidsregels gelden.

Digitalisering is daarom niet alleen een verzameling nieuwe technische middelen. Zij verandert de voorwaarden waaronder grondrechten worden uitgeoefend en de wijze waarop kennis, macht en verantwoordelijkheid institutioneel zijn verdeeld. De constitutionele vraag is niet uitsluitend of een afzonderlijke gegevensverwerking rechtmatig is, maar ook of de digitale ordening als geheel voldoende transparant, gelijkwaardig en corrigeerbaar blijft.

2 Gegevensverwerking, koppeling en profilering

De digitale samenleving wordt gekenmerkt door grootschalige verzameling en verwerking van persoonsgegevens. Overheden en ondernemingen beschikken over gegevens over inkomen, gezondheid, opleiding, arbeid, wonen, mobiliteit, communicatie, betalingsgedrag en digitale activiteit. Afzonderlijke gegevens kunnen relatief onschuldig lijken, maar door koppeling ontstaat een gedetailleerd beeld van iemands leven, relaties en maatschappelijke positie.

Gegevens worden bovendien niet uitsluitend verzameld binnen het domein waarin zij oorspronkelijk zijn verstrekt. In uitvoeringsketens kunnen gegevens tussen bestuursorganen, gemeenten, uitvoeringsinstellingen en private taakuitvoerders worden gedeeld. Ook ondernemingen combineren gegevens uit transacties, locatie, zoekgedrag, sociale netwerken en aangekochte databestanden. Hierdoor kan het oorspronkelijke doel van de verzameling naar de achtergrond verdwijnen.

Naast feitelijke gegevens worden steeds vaker afgeleide en voorspelde gegevens gebruikt. Een systeem kan op basis van waargenomen gedrag conclusies trekken over kredietwaardigheid, gezondheid, betrouwbaarheid, fraudegevoeligheid, politieke voorkeuren of toekomstige behoeften. Dergelijke gevolgtrekkingen kunnen grote invloed hebben, ook wanneer zij waarschijnlijkheden weergeven en niet op individueel vastgestelde feiten berusten.

Profilering kan plaatsvinden aan de hand van gedrag, locatie, relaties, huishoudensamenstelling of groepskenmerken. Een persoon wordt dan niet uitsluitend beoordeeld op eigen handelen, maar mede op statistische overeenkomsten met anderen. Dit kan efficiënt zijn voor het herkennen van patronen, maar creëert het risico dat groepskenmerken individuele beoordeling verdringen. Ook kunnen mensen gevolgen ondervinden van relaties of omstandigheden waarop zij weinig invloed hebben.

In het publieke domein wordt profilering onder meer gebruikt voor risicoselectie bij toezicht, fraudebestrijding en handhaving. Risicoscores kunnen bepalen welke aangiften, aanvragen, ondernemingen of huishoudens nader worden onderzocht. Daarmee verdelen algoritmen feitelijk de aandacht en handhavingscapaciteit van de overheid. Selectie is dan niet slechts een voorbereidende technische handeling, maar een vorm van machtsuitoefening die bepaalt wie met controle, vertraging of verdenking wordt geconfronteerd.

In het private domein kunnen profielen invloed hebben op krediet, verzekeringen, huisvesting, arbeid, prijzen, advertenties en consumentenaanbiedingen. Niet altijd is zichtbaar dat verschillende personen andere informatie, voorwaarden of kansen krijgen. Daardoor kan ongelijke behandeling plaatsvinden zonder een expliciet besluit dat eenvoudig kan worden aangevochten.

Gegevensfouten vormen een afzonderlijk risico. Wanneer onjuiste gegevens eenmaal in een keten zijn opgenomen, kunnen zij worden overgenomen door andere systemen en organisaties. De betrokkene weet mogelijk niet waar de fout is ontstaan, welke instanties haar gebruiken en wie verantwoordelijk is voor correctie. Correctie bij één organisatie biedt dan onvoldoende herstel wanneer afgeleide profielen, signaleringen en eerdere beslissingen elders blijven bestaan.

Voor een adequate constitutionele analyse moet onderscheid worden gemaakt tussen identificatie, classificatie, voorspelling en sturing. Identificatie betreft het vaststellen wie iemand is. Classificatie plaatst iemand in een categorie. Voorspelling schat toekomstig gedrag of risico’s in. Sturing gebruikt die kennis om gedrag, keuzes of toegang tot mogelijkheden te beïnvloeden. Naarmate systemen verder gaan van registratie naar voorspelling en beïnvloeding, nemen de risico’s voor autonomie en gelijkwaardigheid toe.

Veel betrokkenen kunnen de gevolgen van gegevensverwerking nauwelijks overzien. Toestemming of formele informatieverstrekking biedt weinig bescherming wanneer gegevensstromen complex zijn, diensten feitelijk onmisbaar zijn of toekomstige vormen van hergebruik niet voorzienbaar zijn. De constitutionele bescherming moet daarom verder gaan dan individuele toestemming en ook eisen stellen aan noodzakelijkheid, doelbinding, transparantie, gegevenskwaliteit en institutionele verantwoordelijkheid.

3 Geautomatiseerde besluitvorming

Geautomatiseerde besluitvorming kent verschillende gradaties. Sommige systemen nemen zonder menselijke tussenkomst een besluit. Andere selecteren zaken, berekenen scores, genereren voorstellen of adviseren een medewerker. Het formele onderscheid tussen volledig en gedeeltelijk geautomatiseerde besluitvorming is belangrijk, maar niet altijd beslissend voor de feitelijke machtsverdeling.

Een systeemadvies kan in de praktijk doorslaggevend zijn wanneer medewerkers onvoldoende tijd, kennis of bevoegdheid hebben om ervan af te wijken. Ook organisatorische prestatienormen kunnen ertoe leiden dat systeemuitkomsten routinematig worden gevolgd. De aanwezigheid van een menselijke medewerker garandeert daarom nog geen effectieve menselijke controle.

Van betekenisvolle menselijke beoordeling is pas sprake wanneer de medewerker:

• toegang heeft tot de relevante gegevens en aannames;
• de werking en beperkingen van het systeem voldoende begrijpt;
• de individuele omstandigheden zelfstandig kan beoordelen;
• bevoegd is van de uitkomst af te wijken;
• daarvoor voldoende tijd en organisatorische ruimte krijgt;
• zijn afwijking niet zonder meer als fout of inefficiëntie wordt behandeld;
• verantwoordelijkheid draagt voor de uiteindelijke beslissing.

Geautomatiseerde systemen worden gebruikt voor prioritering, selectie, signalering en detectie. Zij kunnen bepalen welke aanvraag versneld wordt behandeld, welke zaak extra controle krijgt of welke persoon voor ondersteuning in aanmerking komt. Ook wanneer deze systemen geen formeel besluit nemen, kunnen zij de uitkomst sterk beïnvloeden. Constitutionele bescherming moet daarom niet uitsluitend worden gekoppeld aan het juridische eindbesluit.

Risicoscores en detectiesystemen brengen bijzondere problemen mee. Een score drukt meestal een statistische kans uit, maar kan in de uitvoering worden behandeld alsof zij een individueel vastgesteld feit is. Daardoor bestaat het gevaar dat waarschijnlijkheid overgaat in verdenking en verdenking in een praktische bewijslast voor de betrokkene om zijn onschuld of betrouwbaarheid aan te tonen.

Generatieve en zelflerende systemen vergroten deze vragen. Hun uitkomsten kunnen variëren, afhankelijk zijn van complexe trainingsgegevens en moeilijk volledig reconstrueerbaar zijn. Zij kunnen overtuigende maar onjuiste informatie produceren of verbanden gebruiken die voor medewerkers niet zichtbaar zijn. In besluitvorming over grondrechten, bestaanszekerheid of sancties kan een onvoldoende controleerbaar systeem daardoor onverenigbaar zijn met eisen van legaliteit, motivering en effectieve rechtsbescherming.

Automatiseringsbias vormt een structureel risico. Mensen hebben de neiging een door een technisch systeem gegenereerde uitkomst als objectiever of nauwkeuriger te beschouwen dan zij feitelijk is. De medewerker kan zich bovendien minder persoonlijk verantwoordelijk voelen wanneer “het systeem” een bepaald resultaat aangeeft. Digitalisering kan zo leiden tot een verspreiding van verantwoordelijkheid: de beleidsmaker wijst naar de uitvoering, de uitvoerder naar de software en de leverancier naar de specificaties van de opdrachtgever.

Deze problematiek raakt uiteenlopende domeinen. Bij sociale zekerheid en belastingen kunnen geautomatiseerde signalen leiden tot controle, terugvordering of vertraging. Bij vergunningen kunnen digitale beslisregels individuele omstandigheden onvoldoende betrekken. In zorg en onderwijs kunnen systemen prioriteiten, toegang en risicobeoordeling beïnvloeden. Bij politie en migratie kunnen profilering en voorspelling ingrijpende gevolgen hebben voor vrijheid, veiligheid en gelijke behandeling.

De constitutionele uitdaging bestaat daarom niet alleen uit het reguleren van volledig geautomatiseerde besluiten. Ook voorbereidende, adviserende en selecterende systemen moeten worden beschermd door eisen van transparantie, verantwoordelijkheid, uitlegbaarheid, gegevenskwaliteit en daadwerkelijke menselijke herbeoordeling.

4 Algoritmische discriminatie

Algoritmische systemen kunnen discrimineren doordat beschermde kenmerken rechtstreeks in een model worden verwerkt. De problematiek is echter breder. Ook zonder een expliciete variabele over ras, geslacht, beperking, leeftijd of religie kunnen andere kenmerken als vervanging functioneren. Postcode, taalgebruik, opleiding, koopgedrag, naam, sociale relaties of locatie kunnen sterk samenhangen met beschermde kenmerken en daardoor als proxies optreden.

Ogenschijnlijk neutrale modellen kunnen indirect onderscheid veroorzaken wanneer zij bepaalde groepen structureel benadelen zonder dat daarvoor een objectieve en evenredige rechtvaardiging bestaat. Het discriminerende effect is dan niet noodzakelijk zichtbaar in de afzonderlijke beslisregel, maar in de uitkomsten van het systeem.

Historische gegevens vormen een belangrijk risico. Trainings- en registratiedata weerspiegelen bestaande maatschappelijke verhoudingen, eerdere beleidskeuzes en historische discriminatie. Een model dat leert van eerdere besluiten kan deze patronen reproduceren en als technische voorspelling presenteren. Data zijn daarmee niet neutraal: zij bevatten sporen van de institutionele context waarin zij zijn verzameld.

Ook foutmarges kunnen ongelijk zijn verdeeld. Een systeem kan gemiddeld nauwkeurig lijken, maar bij bepaalde groepen aanzienlijk meer fout-positieve of fout-negatieve uitkomsten produceren. Gemiddelde prestaties zijn daarom onvoldoende voor de beoordeling van gelijkwaardigheid. Er moet worden onderzocht welke groepen fouten ondervinden, welke gevolgen daaraan zijn verbonden en in hoeverre correctie bereikbaar is.

Ondervertegenwoordiging in trainingsgegevens kan ertoe leiden dat systemen minder betrouwbaar functioneren voor kleine, historisch gemarginaliseerde of weinig geregistreerde groepen. De gevolgen kunnen groter zijn wanneer biometrische herkenning, gezondheidsdiagnostiek of fraudedetectie wordt gebruikt in situaties met ingrijpende rechtsgevolgen.

Intersectionele discriminatie maakt de analyse complexer. Een systeem kan bijvoorbeeld niet alle vrouwen of alle ouderen benadelen, maar wel een specifieke combinatie van geslacht, leeftijd, herkomst, beperking of sociaaleconomische positie. Wanneer toezicht alleen naar afzonderlijke discriminatiegronden kijkt, kan deze gecombineerde benadeling buiten beeld blijven.

Feedbacklussen kunnen bestaande ongelijkheid versterken. Wanneer een bepaald gebied of een bepaalde groep vaker wordt gecontroleerd, worden daar ook meer overtredingen of afwijkingen geregistreerd. Deze gegevens kunnen vervolgens worden gebruikt als bewijs dat intensievere controle gerechtvaardigd is. Het systeem bevestigt dan mede het patroon dat het zelf helpt voortbrengen.

Profilering van wijken, huishoudens en sociale netwerken kan bovendien personen raken die zelf geen relevante gedraging hebben verricht. Zij worden beoordeeld aan de hand van hun omgeving of relaties. Dit kan leiden tot collectieve verdenking en aantasting van individuele verantwoordelijkheid.

Bewijs en causaliteit vormen daarbij grote obstakels. Een betrokkene weet vaak niet dat een algoritmisch systeem is gebruikt, welke gegevens relevant waren of met welke referentiegroep hij is vergeleken. Zonder toegang tot informatie en technische deskundigheid is het moeilijk een vermoeden van discriminatie aannemelijk te maken. Effectieve bescherming vereist daarom niet alleen een materieel discriminatieverbod, maar ook transparantie, onafhankelijke audits, passende bewijslastverdeling en toegang tot collectieve rechtsbescherming.

5 Digitale identiteit, authenticatie en authenticiteit

Digitale identificatie is steeds vaker een toegangspoort tot publieke en private dienstverlening. Burgers moeten zich digitaal kunnen identificeren om belastingzaken te regelen, voorzieningen aan te vragen, medische gegevens te bekijken, betalingen te verrichten of overeenkomsten te sluiten. Daarmee wordt een betrouwbare digitale identiteit een voorwaarde voor maatschappelijke deelname.

Deze afhankelijkheid creëert risico’s. Wanneer authenticatie mislukt, gegevens niet overeenkomen of een account wordt geblokkeerd, kan de betrokkene onmiddellijk de toegang tot essentiële diensten verliezen. Het probleem wordt groter wanneer geen bruikbaar fysiek of persoonlijk alternatief beschikbaar is.

Koppeling van publieke en private identificatiemiddelen kan efficiëntie bevorderen, maar vergroot ook de afhankelijkheid van private dienstverleners. Wanneer commerciële partijen essentiële authenticatie-infrastructuur beheren, moet duidelijk zijn welke publieke normen gelden, wie verantwoordelijk is bij fouten en hoe continuïteit en toegang worden gewaarborgd.

Biometrische identificatie verdient bijzondere bescherming. Biometrische kenmerken zijn nauw verbonden met het lichaam en kunnen, anders dan een wachtwoord, niet eenvoudig worden vervangen wanneer zij worden misbruikt. Grootschalig gebruik kan bovendien leiden tot permanente identificeerbaarheid in publieke en private ruimten. Noodzakelijkheid, proportionaliteit, beveiliging en doelbinding moeten daarom streng worden beoordeeld.

Identiteitsfraude kan langdurige gevolgen hebben. Onjuiste registraties, frauduleuze transacties of koppeling aan de verkeerde persoon kunnen zich door verschillende systemen verspreiden. Een effectief correctierecht moet daarom niet beperkt blijven tot één bestand. Er moet een mechanisme bestaan waarmee fouten in de keten worden hersteld en afgeleide signaleringen worden gecorrigeerd.

Nieuwe generatieve technologie maakt het mogelijk stemmen, afbeeldingen en gedragingen overtuigend te imiteren. Deepfakes en synthetische media kunnen worden gebruikt voor fraude, intimidatie, reputatieschade en politieke beïnvloeding. Constitutionele bescherming van identiteit, afbeelding en stem moet daarmee rekening houden, zonder artistieke vrijheid, satire, journalistiek en vrijheid van meningsuiting onnodig te beperken.

Authenticiteit is ook een institutioneel vraagstuk. Burgers moeten erop kunnen vertrouwen dat officiële digitale communicatie werkelijk afkomstig is van een overheidsorgaan en dat besluiten, waarschuwingen en publieke informatie niet zijn gemanipuleerd. De overheid heeft daarom een positieve verantwoordelijkheid voor veilige communicatiekanalen, verifieerbare publieke informatie en snelle correctie van overtuigende vervalsingen.

Digitale identificatie mag ten slotte niet de enige toegangsvorm worden wanneer een deel van de bevolking daardoor feitelijk wordt uitgesloten. Veilige niet-digitale terugvalmogelijkheden, persoonlijke ondersteuning en tijdige correctie van identiteitsgegevens behoren tot de institutionele voorwaarden van een inclusieve digitale rechtsstaat.

6 Digitale toegankelijkheid en uitsluiting

Digitalisering kan publieke diensten sneller en toegankelijker maken, maar kan ook nieuwe uitsluitingsmechanismen creëren. Een dienst die formeel voor iedereen beschikbaar is, is niet daadwerkelijk toegankelijk wanneer gebruik een modern apparaat, stabiele internetverbinding, digitale identiteit en complexe vaardigheden vereist.

Uitsluiting kan voortvloeien uit gebrek aan apparatuur, internettoegang of financiële middelen. Zij kan ook worden veroorzaakt door beperkte taalvaardigheid, laaggeletterdheid, cognitieve belasting, visuele of motorische beperkingen en onbegrijpelijk ontwerp. Een digitale procedure kan juridisch correct zijn en toch praktisch ontoegankelijk blijken.

Ouderen en personen met een beperking vormen geen homogene groepen, maar kunnen vaker met specifieke barrières worden geconfronteerd. Digitale toegankelijkheid vereist daarom meer dan een algemeen aanbod van hulp. Websites, applicaties en authenticatiemiddelen moeten vanaf het ontwerp bruikbaar zijn voor verschillende gebruikers en ondersteunende technologieën.

Wanneer fysieke loketten verdwijnen, worden mensen vaker afhankelijk van familieleden, vrijwilligers of commerciële tussenpersonen. Daarmee kunnen privacy, autonomie en vertrouwelijkheid onder druk komen te staan. Een burger moet dan persoonlijke financiële, medische of juridische gegevens delen om toegang tot een publieke dienst te krijgen.

Digitale toegang brengt bovendien kosten mee. Apparatuur, software, internet en identificatiemiddelen zijn niet voor iedereen vanzelfsprekend betaalbaar. Wanneer de overheid digitale communicatie feitelijk verplicht stelt, moet zij rekening houden met deze materiële voorwaarden.

Systeemfouten of ontbrekende digitale identiteit kunnen leiden tot plotselinge uitsluiting. Een persoon kan geen aanvraag indienen, informatie ontvangen of termijn bewaken terwijl de oorzaak buiten zijn invloed ligt. Het recht op tijdige correctie en een toegankelijke alternatieve route is daarom essentieel.

De gevolgen reiken verder dan dienstverlening. Digitale uitsluiting kan de toegang tot sociale zekerheid, zorg, wonen, onderwijs, arbeid en rechtsbescherming beperken. Zij raakt daarmee bestaanszekerheid, autonomie en maatschappelijke participatie. Digitale toegankelijkheid moet daarom niet alleen als technisch kwaliteitsvereiste worden behandeld, maar als grondrechtelijke voorwaarde voor de daadwerkelijke uitoefening van andere rechten.

Dit betekent niet dat iedere dienst steeds via ieder kanaal beschikbaar moet zijn. De overheid mag digitaliseren en efficiënte standaardprocessen gebruiken. Zij moet wel redelijke alternatieven en ondersteuning bieden wanneer uitsluitend digitale toegang groepen feitelijk uitsluit of de wezenlijke inhoud van een recht aantast.

7 Private platformmacht

Digitale platforms vervullen een centrale rol in communicatie, informatievoorziening, handel en arbeid. Zij bepalen mede welke berichten zichtbaar worden, welke aanbieders consumenten bereiken en onder welke voorwaarden personen toegang krijgen tot digitale markten en gemeenschappen.

Moderatie, aanbeveling en rangschikking zijn daarbij vormen van private ordening. Platforms beslissen welke inhoud wordt verwijderd, aanbevolen of minder zichtbaar gemaakt. Deze keuzes worden vaak door geautomatiseerde systemen uitgevoerd en kunnen grote gevolgen hebben voor publieke meningsvorming, economische kansen en het bereik van personen en organisaties.

Profilering vormt de economische basis van veel platformdiensten. Persoonsgegevens en gedragsinformatie worden gebruikt voor advertenties, prijsstelling en beïnvloeding. De grens tussen het aanbieden van relevante informatie en het manipuleren van gedrag is niet altijd duidelijk, vooral wanneer platforms individuele kwetsbaarheden, emoties of afhankelijkheden kunnen afleiden.

Netwerkeffecten en lock-in beperken de keuzevrijheid. De waarde van een platform neemt toe naarmate meer anderen het gebruiken, waardoor overstappen moeilijk wordt. Gebruikers kunnen formeel instemmen met voorwaarden, maar hebben in de praktijk weinig onderhandelingsruimte of gelijkwaardige alternatieven. Individuele toestemming biedt in zulke situaties slechts beperkte legitimatie.

Bij platformarbeid kan algoritmisch management bepalen wie werk krijgt, welke prijs wordt betaald, hoe prestaties worden beoordeeld en wanneer toegang tot het platform wordt beëindigd. Een geautomatiseerde score of deactivering kan daardoor directe gevolgen hebben voor inkomen en bestaanszekerheid, terwijl de werknemer moeilijk kan achterhalen hoe de beslissing tot stand kwam.

Ook appstores, cloudinfrastructuren, zoekmachines, betalingssystemen en andere digitale toegangspoorten oefenen structurele macht uit. Zij kunnen bepalen welke diensten technisch of economisch toegang krijgen tot gebruikers. Daarmee beïnvloeden zij niet alleen individuele contractrelaties, maar ook de inrichting van markten en publieke communicatie.

Het grensoverschrijdende karakter van digitale ondernemingen bemoeilijkt democratische controle en handhaving. Bedrijven opereren in meerdere rechtsordes, terwijl gegevens, algoritmen en besluitvorming niet noodzakelijk plaatsvinden in het land waar de gevolgen worden ervaren. Nationale bescherming blijft daardoor afhankelijk van Europese en internationale samenwerking.

Private platformvoorwaarden functioneren ten dele als regels voor digitale maatschappelijke ruimten. Zij worden echter niet vastgesteld volgens democratische procedures en zijn meestal niet onderworpen aan dezelfde eisen van openbaarheid, motivering en evenredigheid als overheidsbesluiten. Dat maakt constitutionele bescherming tegen private digitale macht noodzakelijk.

Daaruit volgt niet dat platforms rechtstreeks aan alle grondrechten moeten worden gebonden alsof zij overheidsorganen zijn. De wetgever moet wel passende bescherming bieden wanneer hun marktmacht, essentiële functie, gegevenspositie of gebrek aan alternatieven leidt tot een afhankelijkheidsverhouding waarin autonomie, gelijkwaardigheid en toegang tot maatschappelijke kansen ernstig kunnen worden aangetast.

8 Constitutionele probleemanalyse

De bestaande Grondwet biedt belangrijke aanknopingspunten voor digitale bescherming. Artikel 10 beschermt de persoonlijke levenssfeer en bevat opdrachten over persoonsgegevens. Artikel 1 verbiedt discriminatie. De vrijheid van meningsuiting, het communicatiegeheim, behoorlijk bestuur en toegang tot de rechter bieden aanvullende waarborgen. Deze bepalingen zijn technologieneutraal en behouden daardoor betekenis in de digitale samenleving.

Toch is de bescherming onvolledig. Digitale autonomie wordt hoofdzakelijk benaderd vanuit privacy en gegevensverwerking. Dat perspectief is noodzakelijk, maar onvoldoende. Het maakt niet steeds zichtbaar hoe gegevens worden gebruikt om personen te classificeren, kansen te verdelen, gedrag te beïnvloeden en toegang tot diensten te bepalen.

De Grondwet maakt onvoldoende onderscheid tussen de verzameling van gegevens en de daarop gebaseerde algoritmische machtsuitoefening. Een gegevensverwerking kan formeel rechtmatig zijn, terwijl de daaruit voortvloeiende profilering of selectie ondoorzichtig, disproportioneel of discriminerend is. De constitutionele beoordeling moet daarom mede betrekking hebben op de beslissingen en machtsverhoudingen die door gegevensverwerking mogelijk worden gemaakt.

Ook ontbreekt een algemeen constitutioneel recht op begrijpelijke uitleg. Een formele motivering van het eindbesluit is niet steeds voldoende wanneer de betrokkene niet kan begrijpen welke gegevens, aannames en beslisregels bepalend waren. Effectieve tegenspraak vereist informatie die is afgestemd op het belang en de complexiteit van de beslissing.

Menselijke herbeoordeling is evenmin grondwettelijk gewaarborgd. Bestaande wettelijke regels bieden daarvoor in bepaalde gevallen bescherming, maar de Grondwet maakt niet duidelijk dat bij beslissingen met aanmerkelijke gevolgen een werkelijk bevoegde, deskundige en onafhankelijke menselijke beoordeling beschikbaar moet zijn.

Het algemene discriminatieverbod blijft van toepassing op algoritmische systemen, maar bewijs en handhaving zijn moeilijk. Ongelijke effecten kunnen verborgen blijven in data, proxies, foutmarges en feedbacklussen. Zonder transparantie, auditing, gegevensbeschikbaarheid en passende bewijslastregels kan algoritmische discriminatie praktisch onvoldoende corrigeerbaar zijn.

Digitale toegankelijkheid wordt evenmin uitdrukkelijk erkend als voorwaarde voor de uitoefening van grondrechten. Wanneer publieke dienstverlening vrijwel uitsluitend digitaal plaatsvindt, kan gebrek aan toegang of vaardigheden leiden tot feitelijke uitsluiting van sociale zekerheid, zorg, onderwijs, huisvesting en rechtsbescherming.

De huidige Grondwet biedt daarnaast weinig expliciete houvast tegenover private platformmacht. Bescherming is grotendeels afhankelijk van gewone wetgeving en Europees recht. Die regulering is noodzakelijk en vaak gedetailleerder dan een grondwet kan zijn, maar zij biedt geen zelfstandige nationale constitutionele ondergrens voor toekomstige wetgeving en machtsverschuivingen.

Collectieve en systemische digitale schade past bovendien moeilijk binnen een uitsluitend individueel beschermingsmodel. Een afzonderlijk besluit kan op zichzelf beperkt lijken, terwijl de gezamenlijke werking van gegevenskoppeling, profilering en geautomatiseerde selectie hele groepen structureel benadeelt. Een constitutioneel kader moet daarom ook onafhankelijke monitoring, collectieve procedures en herstel van systeemfouten mogelijk maken.

Ten slotte blijft verantwoordelijkheid in digitale ketens vaak diffuus. Het bestuursorgaan gebruikt software van een leverancier, de leverancier werkt met externe modellen, gegevens zijn afkomstig van andere instellingen en menselijke medewerkers volgen systeemadviezen. Wanneer schade ontstaat, kan iedere partij naar een andere schakel verwijzen. De Grondwet moet daarom als uitgangspunt vastleggen dat uitbesteding, ketensamenwerking en automatisering publieke verantwoordelijkheid niet opheffen.

De centrale constitutionele lacune is aldus niet dat iedere digitale toepassing ongereguleerd is. Zij bestaat erin dat de Grondwet nog geen samenhangend kader bevat voor de verschuiving van gegevensbescherming naar algoritmische macht. Een herzien artikel 10 en een nieuw artikel 10a moeten deze lacune vullen door digitale autonomie, uitlegbaarheid, menselijke herbeoordeling, gelijkwaardigheid, toegankelijkheid en corrigeerbaarheid als blijvende constitutionele beginselen te beschermen.

Lees nu het gehele voorstel: https://www.researchgate.net/publication/415320565_Mens_blijven_in_een_digitale_rechtsstaat_Voorstel_tot_wijziging_van_de_Grondwet_ter_bescherming_van_autonomie_gelijkwaardigheid_en_corrigeerbaarheid_bij_digitale_machtsuitoefening