Op donderdagmiddag 16 december 2021 organiseerde de Academie een online lezing, waarin mr. dr. Reijer Passchier, universitair docent Staats- en Bestuursrecht aan de Universiteit Leiden en universitair docent Staatsrecht en rechtstheorie aan de Open Universiteit, besprak of onze rechtsstaat wel bestand is tegen de opkomst van artificial intelligence (AI). Dit deed hij aan de hand van zijn onlangs verschenen boek Artificiële intelligentie en de rechtsstaat: Over verschuivende overheidsmacht, Big Tech en de noodzaak van constitutioneel onderhoud (Den Haag, Boom Juridisch, 2021). Er waren 136 aanmeldingen voor de lezing.

Passchier besprak de invloed van AI op drie elementen van de rechtsstaat: de trias politica, het legaliteitsbeginsel en het soevereiniteitsbeginsel.

Trias politica
Het machtsevenwicht in de trias politica staat volgens Passchier onder druk. Dat evenwicht verschuift steeds meer richting de uitvoerende macht. Door de ontwikkeling van de verzorgingsstaat is de uitvoerende macht sterk gegroeid, terwijl de rechtsprekende macht en het parlement niet zijn meegegroeid. Ook op digitaal vlak zijn er vooral ontwikkelingen te zien binnen de uitvoerende macht. Door de digitalisering is de uitvoerende macht bovendien ondoorzichtiger geworden en moeilijker te controleren. Dat komt door het driedelige ‘black-box’ karakter van technologie. Ten eerste zijn algoritmes vaak geheim en daardoor lastig te controleren, ten tweede ontbreekt het aan expertise op dit terrein bij rechters en parlementariërs en ten derde neemt het gebruik van zelflerende algoritmes toe, die inherent moeilijk te doorzien zijn. Daarnaast brengt digitalisering ook institutionele complexiteit mee. Besluitvorming vindt steeds vaker plaats in ketens waarbij data van verschillende overheidsonderdelen met elkaar worden gecombineerd. Op deze manieren vergroot digitalisering de toch al bestaande disbalans tussen de staatsmachten.

Legaliteitsbeginsel
Ook het legaliteitsbeginsel staat onder druk. Legaliteit kan in theorie juist door algoritmes worden versterkt omdat zij rationeler zijn dan mensen. Voorwaarde daarvoor is echter wel dat de wet duidelijk is en dat is in de praktijk niet altijd zo. Als gevolg daarvan verschuift een deel van de discretionaire macht nu naar de programmeurs van algoritmes. De discretionaire ruimte die vaak in de wet zit, wordt door het bestuursrecht weliswaar genormeerd, bijvoorbeeld door de algemene beginselen van behoorlijk bestuur, maar het is de vraag of het bestuursrecht er voldoende in slaagt om het werk van de programmeurs van algoritmes te disciplineren. En met de opkomst van zelflerende algoritmes verschuift de macht zelfs naar de machines zelf: hoe kun je die aan de wet houden?

Soevereiniteitsbeginsel
Tenslotte is het soevereniteitsbeginsel in het geding omdat private entiteiten in de Big Tech enorm veel macht in zich concentreren. Passchier noemt dit de herfeodalisering van de samenleving. Door verschillende ontwikkelingen in het verleden zijn bedrijven steeds groter geworden en door de digitalisering kunnen zij nog meer eigendom in zich concentreren. Apple is bijvoorbeeld drie biljoen euro waard en daarmee 8 keer zo groot als multinationals, zoals Shell en Unilever. Grote techbedrijven kunnen daardoor allerlei belangrijke keuzes maken. Zo bepalen zij in sterke mate hoe de technologie zich ontwikkelt. Bovendien zijn deze bedrijven veel meer dan voorheen met de samenleving verweven. Denk aan de vele bedrijven en overheden die door de overstap naar de cloud afhankelijk van de grillen van eigenlijk maar twee grote cloudaanbieders zijn geworden. Er is sprake van een clash tussen statelijke wetgevers en grote techbedrijven en het is de vraag wie dat gaat winnen. Volgens Passchier zijn Staten zich hiervan nog onvoldoende bewust.

De tussenconclusie die Passchier trekt, is dat we er niet best voor staan. Onze constitutie is gezien de opkomst van digitalisering en AI niet in staat om onze democratische en rechtsstatelijke waarden voldoende te borgen.

Oplossingen
Er zijn een aantal oplossingsrichtingen waar we aan zouden kunnen denken om hierin verandering aan te brengen. Ten eerste zou de trias politica kunnen worden versterkt door de Staten-Generaal voldoende ondersteuning te geven. Er zou een parlementair bureau voor technology assessments kunnen worden opgericht om het parlement te helpen de uitvoering beter te controleren en beter aan het wetgevingsproces mee te kunnen doen. Ten tweede moeten we er bij het maken van wetgeving al rekening mee houden dat deze met digitale middelen zal worden uitgevoerd. Bij voorkeur nemen we algoritmes al op in de wet en laten we zo weinig mogelijk over aan private computerprogrammeurs. Ten derde moeten we ons herbezinnen op grote techbedrijven en de manier waarop we het kapitalisme hebben gestructureerd. Willen we wel dat deze bedrijven zo veel macht hebben? Of zouden we bedrijven moeten constitutionaliseren en binden aan grondrechten en democratische waarden?

Deze interessante lezing leidde tot veel vragen die Reijer allemaal beantwoordde alvorens de lezing werd beëindigd.