Steeds vaker worden AI en algoritmes ingezet om geautomatiseerd besluiten te nemen. Bijvoorbeeld bij online sollicitaties of een kredietaanvraag. Dat mag echter niet zomaar. De AVG stelt hier eisen aan. Daarom is het veelal noodzakelijk om betekenisvolle menselijke tussenkomst in te richten binnen een organisatie. Hoe u dat doet?
Wat zegt de AVG over geautomatiseerde besluitvorming?
Artikel 22 van de AVG zegt hierover:
“De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.”
De AVG geeft mensen dus het recht op een menselijke blik bij automatische besluiten die rechtsgevolgen of andere serieuze gevolgen voor hen hebben.
Zo hebben betrokkenen het recht een verzoek in te dienen bij een organisatie als zij het niet eens zijn met een automatisch besluit met (rechts)gevolgen. In dat geval moet een medewerker van de organisatie de gegevens van de betrokkene beoordelen en binnen een maand reageren op het verzoek van de betrokkene.
Zorgvuldig een besluit nemen met behulp van algoritmes én mensen
AI en algoritmes worden steeds vaker ingezet om processen te versnellen en besluiten geautomatiseerd te nemen. Denk aan de beoordeling van een lening of online sollicitatie.
Ideaal, maar mogelijk met verstrekkende gevolgen voor de betrokkenen.
Een algoritme mist namelijk menselijke eigenschappen en houdt meestal geen rekening met de omstandigheden van een specifieke zaak. Zo kan het noodzakelijk zijn om extra gegevens op te vragen om een goede afweging te kunnen maken.
Algoritmes zijn dan ook goed in het beoordelen van algemene patronen, terwijl menselijke beoordelaars juist letten op de individuele omstandigheden van de zaak.
Om organisaties te helpen vorm te geven aan betekenisvolle menselijke tussenkomst, heeft de Autoriteit Persoonsgegevens (AP) handvatten gepubliceerd.
Het inrichten van menselijke tussenkomst bij geautomatiseerde besluitvorming
De AP noemt 4 relevante factoren die menselijke tussenkomst betekenisvol maken.
Mens
Algoritmes beschikken niet over menselijke eigenschappen. Een mens is daarom vaak een noodzakelijke filter tegen de onverschilligheid van algoritmes tegenover sommige, relevante informatie en het trekken van verkeerde conclusies. Het is voor organisaties zoeken naar een evenwicht tussen de kracht van algoritmes en een menselijke kijk op zaken. De AP geeft handvatten aan beoordelaars om samen te werken met het algoritme en tegelijk voldoende ruimte te bieden aan het menselijk inzicht.
Technologie en ontwerp
Hierbij wordt gekeken in hoeverre de technologie en het ontwerp de menselijke tussenkomst beïnvloeden. De inrichting van het algoritme kan zodanig zijn, dat er weinig ruimte is voor een beoordelaar om zelf na te denken en keuzes te maken. Het is daarom essentieel om het interface zodanig te ontwerpen dat de beoordelaar een weloverwogen besluit kan maken. Ook de wijze waarop de data gepresenteerd wordt speelt daarbij een belangrijke rol.
Proces
Het is belangrijk dat er binnen organisatie een duidelijk beschreven proces bestaat voor menselijke tussenkomst en dat betrokken medewerkers dit goed kunnen uitleggen. Het moet duidelijk zijn welke eisen een organisatie stelt aan menselijke tussenkomst en op basis van welke data een beoordelaar zijn of haar besluiten dient te nemen. Daarbij spelen onder meer bevoegdheid, werkdruk en ondersteuning een belangrijke rol.
Governance
Uiteindelijk is de organisatie zelf verantwoordelijk voor de inzet van een algoritme. Het management en de directie spelen daarin een belangrijke rol. Belangrijk is dat de eindverantwoordelijkheid niet bij de beoordeelaars van de door het algoritme genomen besluit ligt, maar dat deze op het juiste niveau belegd is. Daarbij vormen de inrichting van het menselijke toezicht, het trainen van beoordelaars en toetsing en monitoring de belangrijkste schakels.
Meer weten?
Lees dan de volledige publicatie van het AP met handvatten voor betekenisvolle menselijke tussenkomst bij geautomatiseerde besluitvorming.
Blijf op de hoogte!
Zeker weten dat u niks mist? Abonneert u zich dan op onze maandelijkse nieuwsbrief en ontvang onze blogs automatisch in uw mailbox.