De data beslissen? Een kwestie van waarden!

De Raad van State bracht onlangs een advies uit over de digitalisering van overheidsbesluiten. Zij stelde dat ‘zwaar ingrijpende besluiten’ niet (zuiver) automatisch tot stand mogen komen. Wat ‘zwaar ingrijpende besluiten’ zijn, liet de Raad in het midden, of liever gezegd zij constateert dat een nadere definiëring hiervoor nodig is. [1]

Maar eigenlijk moet er naar een ander criterium worden gekeken, namelijk of er menselijk handelen nodig is bij het nemen van het besluit, of kortweg of er menselijke beslisruimte moet zijn. Als B rechtstreeks uit A volgt, dan kan het besluit automatisch genomen worden. Een mooi voorbeeld is de scanauto die fout geparkeerde auto’s scant waarna automatisch via het kenteken een boete volgt. Als het niet op voorhand mogelijk is om te bepalen of B uit A volgt, is de tussenkomst van een menselijke hand nodig. Hét onderscheidend criterium is daarmee de waardengeladenheid van de aard van het besluit en niet de ‘zwaar ingrijpende’ impact.

Aanleiding

Voorop gesteld: we delen de observatie van de RvS dat de mate waarin de overheid data gebruikt in besluitvorming (bijvoorbeeld door middel van blockchain of andersoortige algoritmes [2]) een belangrijk en urgent vraagstuk is. Digitalisering en automatisering leidt onherroepelijk tot risico’s, waarop de RvS terecht wijst. Tegelijkertijd biedt digitalisering en automatisering ook veel voordelen, mits goed ingezet én ontworpen.

Onze reflectie

Om scherpte te krijgen in het debat over de verhouding tussen mens en machine in besluitvorming is van groot belang (ook in het advies van de RvS) om verder onderscheid te maken tussen juridische besluiten en besluiten die in het spraakgebruik gelden als een besluit, maar die niet (noodzakelijkerwijs) ook een juridisch besluit zijn.

Wij menen dat verschil maakt of enkel sprake is van ondersteuning van besluitvorming door een machine, of dat sprake is van échte (juridische) besluitvorming door een machine, zonder dat er nog mensenhanden aan te pas komen.

Wij menen dat het argument van de RvS, dat “zwaar ingrijpende” besluiten niet geautomatiseerd tot stand zouden moeten komen, nog aan kracht kan winnen door ook de redenering zelf aan te scherpen. De mate van impact zoals 'ingrijpendheid' van een besluit zou volgens ons niet het onderscheidende criterium moeten zijn. Dit stelt namelijk ten onrechte de consequentie centraal. Hét onderscheidende criterium is wat ons betreft de aard van het besluit.

De bestuurskunde helpt in dit verband door een onderscheid te maken tussen gestructureerde en ongestructureerde besluitvorming.

• - 

  Bij gestructureerde besluitvorming is overeenstemming over het doel van de besluitvorming, over de criteria die tot het besluit leiden én waarbij alle informatie op die criteria aanwezig is. Bij deze besluitvorming volgt B uit A, zonder dat sprake is van beslisruimte bij de besluitvormende instantie. Denk bijvoorbeeld aan de boete die volgt als je met te hoge snelheid het gereden en geflitst bent.
• - 

  Bij ongestructureerde besluitvorming zijn er verschillen van inzicht over wat als ‘’goed besluit’’ geldt, omdat mensen verschillend denken over doelen, over de criteria waarlangs dat besluit tot stand komt én waarbij informatie ontbreekt of foutief is. Bij deze besluitvorming is er wél discretionaire ruimte voor de instantie die beslist. Denk hierbij aan het verlenen van een vergunning voor de bouw van een windmolen.

Gestructureerde besluitvorming is een kwestie van informatie ordenen en deterministische vragen beantwoorden. Als iemand aan eenduidige criteria voldoet, dan volgt een bepaald besluit. Gestructureerde besluitvorming is bij uitstek geschikt voor geautomatiseerde besluitvorming.

Op veel plekken heeft dit veel (efficiency, transparantie, snelheid) gebracht en de overheid zou niet meer zonder kunnen functioneren. Bovendien bieden de algemene beginselen van behoorlijk bestuur, zoals zorgvuldigheid, evenredigheid en motivering en artikel 22 AVG de benodigde waarborgen.

Een kanttekening hierbij is dat er op dit moment vaan nog onvoldoende oog is voor de gevallen waarbij er iets mis gaat. De burger staat er dan vaak alleen voor om zelf uit te zoeken in de besluitvormingsketen waar iets mis is gegaan én hoe en een ander is te herstellen.[3] Een noodremprocedure is altijd nodig en vereist goed bestuurskundig, juridisch en technologisch ontwerp.

Bij ongestructureerde besluitvormingsprocessen is altijd een waarde-afweging nodig tijdens de besluitvorming. Het gaat om situaties waarin doelen en relevante criteria op voorhand niet volledig bekend (kunnen) zijn. In dat geval passen naast procedurele waarborgen zoals zorgvuldigheid, evenredigheid, transparantie en motivering, ook een “menselijke hand” bij het nemen van het besluit.

We denken daarom dat een overheid die verstandig met digitalisering en automatisering omgaat, in staat is om niet-waardengeladen en waardengeladen besluitvorming te onderscheiden. Een aanzet voor wanneer digitalisering en automatisering passend is, hebben wij uitgewerkt dit schema:

Conclusie

We concluderen:

• 1. 

  De RvS pakt een goed thema om ongevraagd over te adviseren. De vraag of sprake is van een “zwaar ingrijpend besluit” is wat ons betreft echter niet het criterium om te bepalen of een besluit automatisch tot stand mag komen.
• 2. 

  Het relevante criterium is wat ons betreft waardengeladenheid. Bij gestructureerde besluitvorming past volledige dataficering en automatisering, maar wel met oog voor de gevallen dat het mis gaat. Bij ongestructureerde besluitvorming kan hooguit sprake zijn van ondersteuning in de besluitvorming door digitalisering en automatisering.
• 3. 

  De overheid moet goed dat onderscheid kunnen maken. Ontwerpcriteria voor de besluitvormingsprocessen zelf volgen hieruit en vereisen het combineren van bestuurskundige, technische en juridische expertise.

Roeland Stolk is managing director bij Berenschot en heeft een achtergrond in de bestuurskunde. Jeroen Boot is managing consultant bij Berenschot en heeft een achtergrond in het recht. Harro Spanninga is managing director bij Berenschot en heeft een achtergrond in de technologie. Zij schreven dit stuk op persoonlijke titel.

[1] Zie paragraaf 3.4.

[2] https://www.nrc.nl/nieuws/2018/04/08/algoritme-voorspelt-wie-fraude-pleegt-bij-bijstandsuitkering-a1598669

[3] https://www.rijksoverheid.nl/documenten/rapporten/2017/07/07/berenschotrapport-correctiepunt-basisregistraties