Skip to content Skip to main navigation Skip to footer

AI for multi-agency public safety issues (AI-MAPS)

Naarmate kunstmatige intelligentie (AI) invloedrijker wordt in ons dagelijks leven, wordt het cruciaal om de technologie niet alleen te beoordelen op prestaties maar vooral ook op ethische, juridische en maatschappelijke impact.

AI biedt gemeenten en politie ongekende mogelijkheden. Maar toepassingen zoals automatische gezichtsherkenning of het in kaart brengen van patronen om crimineel gedrag te voorspellen zijn controversieel. Er zijn reële zorgen over het ontstaan van Big Brother-achtige situaties waarbij de privacy en autonomie van individuen in het geding zijn.

Mensgerichte AI

In 2022 werd door de NWO en NLAIC de NWA-call ‘Mensgerichte AI voor een inclusieve samenleving – naar een ecosysteem van vertrouwen’ gelanceerd. Hiermee wordt onderzoek gestimuleerd naar AI die de mens centraal stelt en ethisch verantwoord en betrouwbaar is. Vijf onderzoeken kregen samen €10,9 miljoen toegekend.

AI-MAPS is één van die onderzoeken. Het is een meerjarig, allesomvattend ‘ELSA lab’, onder leiding van Prof. Dr. Gabriele Jacobs van de Erasmus Universiteit. AI-MAPS onderzoekt de invloed van AI op het veiligheidsdomein, met een benadering die ze zelf aanduiden als ‘AI-cologie’. Het onderzoeksteam beschouwt AI niet als een op zichzelf staand fenomeen, maar als deel van een groter systeem waarin menselijke en kunstmatige intelligentie samenwerken.

Allesomvattend onderzoek

AI-MAPS beoogt inzicht te verkrijgen in hoe AI besluitvorming en acties in veiligheidssituaties kan beïnvloeden en begeleiden. Vooral in de context van sociale onrust en overlast, high impact crime en crowd management.

AI biedt weliswaar tal van mogelijkheden, maar brengt ook uitdagingen met zich mee zoals privacy kwesties,  mogelijke discriminatie, invloed op meningen en gedrag, en verantwoordelijkheden voor beslissingen en informatieverwerking.

Door middel van veldonderzoek onderzoekt AI-MAPS samen met burgers, bedrijven en overheidsinstanties zowel de voordelen van AI als de ethische, juridische en sociale risico’s voor alle betrokkenen – waaronder ook de planeet. Als verbindende schakel tussen technologische vooruitgang en ethisch-maatschappelijke overwegingen, streeft het onderzoeksteam naar een evenwichtige en verantwoorde integratie van AI in onze samenleving.

Inclusieve chatbot

Het team ontwikkelt daartoe onder meer een ‘methodisch kader’, waarbinnen partijen van elkaar kunnen leren. En ook een AI-agent, een chatbot die individuele standpunten helpt verduidelijken en ervoor zorgt dat in discussies diverse perspectieven evenredig aan bod komen.

AI-MAPS Consortium partners