Een vergelijkend onderzoek naar 10 Fundamental Rights Impact Assesments (FRIA) voor Al-systemen

De EU Al Act, Fundamental Rights Impact Assesments (FRIAs), zal een grote rol gaan spelen bij de bescherming van de ‘Fundamental Rights’. Een vergelijkend onderzoek, uitgevoerd door Algorithm Audit, heeft tien bestaande FRIA-frameworks beoordeeld aan de hand van twaalf vereisten op het gebied van juridische, organisatorische, technische en sociale dimensies. 

Het onderzoek heeft echter laten zien dat er een grote kloof is wat betreft de volledigheid van FRIAs.

Zo hebben veel FRIAs geen wettelijke instrumenten opgenomen die de kern van normatieve besluitvorming aanpakken, zoals objectieve rechtvaardiging, die vooral belangrijk is wanneer gebruikers gesegmenteerd worden door een Al-systeem.

Ook koppelt geen van de FRIA’s criteria voor nauwkeurigheid aan het beoordelen van de conceptuele betrouwbaarheid van de statistische methodologie van een AI-systeem, zoals het testen van (hyper)parametergevoeligheid voor ML- en DL-methoden, of het testen van statistische hypothesen voor risicobeoordelingsmethoden.

Bovendien wordt er niet genoeg nadruk gelegd op het actief betrekken van verschillende belanghebbende zoals relevante organisaties en burgers, om te helpen bij niet alleen het opstellen van vragen bij het uitvoeren van een FRIA, maar om te helpen bij het oplossen van deze vragen. Op deze manier krijgen burgers ook de mogelijkheid om op zinvolle wijze deel te nemen aan het vormgeven van de technologieën die hen besturen.

Het volledige rapport vindt u HIER

Source: Algorithm Audit