Van naleving naar vertrouwen: mensen centraal stellen bij verantwoordelijke AI

Overheden staan onder steeds grotere druk om AI op verantwoorde wijze te gebruiken. Het naleven van regels is niet voldoende. Echt vertrouwen wordt opgebouwd wanneer technologie ten dienste staat van mensen. In deze blog deelt prof. dr. Evert Stamhuis van de Erasmus Universiteit Rotterdam inzichten over hoe AI het publieke vertrouwen kan versterken terwijl burgers centraal blijven staan.

AI verandert de manier waarop overheden publieke diensten leveren. Het kan patronen voorspellen, menigtes beheren en besluitvorming ondersteunen. Maar het roept ook een belangrijke vraag op: hoe kunnen overheden AI op een verantwoordelijke manier gebruiken en het vertrouwen van burgers winnen?

Deze vraag stond centraal tijdens een recente sessie georganiseerd door ECP | Platform voor de InformatieSamenleving. Experts uit de academische wereld, de overheid en het bedrijfsleven kwamen bijeen om het onderwerp te verkennen. Het evenement bood een kans om te bespreken hoe AI publieke veiligheid kan ondersteunen terwijl het ethisch en mensgericht blijft.

Mensen eerst, technologie daarna

Prof. dr. Evert Stamhuis van de Erasmus Universiteit Rotterdam en één van de onderzoekers van AI MAPS, deelde een centraal idee: technologie mag niet het uitgangspunt zijn. Oplossingen moeten voortkomen uit de mensen die de problemen ervaren.

Evert legde uit: “Ik beschreef hoe keuzes over het gebruik van op data gebaseerde technologie veel meer belanghebbenden beïnvloeden dan alleen de gebruikers. Een gesprek met alle belanghebbenden is wenselijk, maar niet eenvoudig in de praktijk te realiseren. Inclusie is meer dan alleen het versturen van een vragenlijst.”

Evert waarschuwde voor technologische oplossingsgerichtheid, het idee dat technologie alleen complexe maatschappelijke problemen kan oplossen. Hoewel AI patronen in digitale data kan signaleren, kan het geen echte wereldproblemen oplossen die ondervertegenwoordigd zijn in de data. Innovatie begint met het begrijpen van menselijke behoeften.

Inclusie, transparantie en vertrouwen

De sessie benadrukte het belang van inclusie en transparantie. Burgers zouden deel moeten uitmaken van ontwerpprocessen. Experts uit verschillende vakgebieden zouden moeten samenwerken. Besluiten zouden begrijpelijk en zichtbaar moeten zijn.

Zoals Evert benadrukte: “Het kan waar zijn dat niet iedere inwoner de fijne kneepjes van technologie begrijpt, maar zij kennen hun eigen problemen. Experts hebben ongetwijfeld grote waarde, maar zouden probleem en oplossing niet alleen op hun eigen voorwaarden moeten bepalen.”

Deze principes helpen overheden verder te gaan dan alleen naleving. Vertrouwen is geen checklist. Het groeit door betrokkenheid, reflectie en samenwerking.

AI-kaarten in actie

De ideeën die tijdens de sessie werden besproken, weerspiegelen het werk van AI MAPS. Het project combineert ethisch, juridisch en sociaal onderzoek met AI-ontwikkeling. Het richt zich op complexe uitdagingen op het gebied van openbare veiligheid.

Evert deelde een concreet voorbeeld: “In de Lombardijen-usecase hebben we geprobeerd de bewoners een stem te geven. We hebben geen traditionele sociale-wetenschappelijke instrumenten ingezet, maar kunst en AI gebruikt.  Dit zou kunnen werken omdat we daar een goede ingang hadden en hebben geïnvesteerd in contacten met mensen in deze buurt.

Verantwoordelijke AI gaat niet alleen over regels of technologie. Het gaat over het begrijpen van mensen en het respecteren van maatschappelijke waarden.

Van naleving naar vertrouwen

De belangrijkste les is duidelijk. Het naleven van regels is noodzakelijk, maar niet voldoende. Overheden moeten luisteren naar de mensen die door AI worden geraakt en hen betrekken bij beslissingen. Samenwerking en kritische reflectie zijn essentieel.

Reflecterend op het idee van vertrouwen zei Evert: “Vertrouwen in AI omvat zo veel verschillende vertrouwenrelaties dat ik niet kan zeggen dat ik AI over het algemeen betrouwbaar vind. We kunnen streven naar het optimale in concrete contexten met mensen en de planeet in gedachten.”

Verantwoorde AI is niet alleen een technische of juridische uitdaging. Het is een maatschappelijke uitdaging. Mensen centraal stellen is de sleutel tot het opbouwen van vertrouwen.

Bron: compliance-trust-putting-people-centre-responsible-ai

Foto credits: iStock/Iurii Motov