Ethische Aspecten
Na een enthousiaste start met Data-analytics en AI in de afgelopen jaren, is het wel duidelijk geworden, hoe makkelijk het is om data te misbruiken en een AI te ontwikkelen die niet ethisch en zelfs discriminerend kan zijn.
Ethica is bij gebruik van AI en acceptatie door de maatschappij en consumenten, erg relevant. Het is dan ook erg belangrijk dat ontwikkelde AI, algoritmes en Data gebruik voldoet aan ethische maatstaven en goed toetsbare afspraken hieromtrent.
Gelukkig is wet- en regelgeving in de maak en zijn er diverse ethische kaders ontwikkeld waardoor het duidelijk is aan welke eisen een AI-systeem of gebruikt algoritme dient te voldoen.
Figuur 1 De Bond van Verzekeraars gebruikt dit ethisch kader. Klik op de mindmap om deze uitvergroot als PDF op hun webpagina te kunnen zien.
Ethisch kader
Er zijn diverse bedrijven en organisaties die ethische AI codes en principes hebben ontwikkeld. Een goed overzicht hiervan staat op de website van het Rathenau Instituut.
In adviestrajecten voor klanten wordt door AI in Bedrijf uitgegaan van het ethisch kader dat door de Europese Unie is voorgesteld. Dit kader wordt door veel bedrijven en organisaties gebruikt en vertaald naar de eigen situatie van het bedrijf en/of de branche. Zie ter voorbeeld de afbeelding links.
Er zijn zeven eisen waaraan het ethisch kader dient te voldoen:
- ‘Human agency and oversight’: Voldoende menselijke autonomie;
- ‘Technical robustness and safety’: Technische- en (cyber)security eisen aan de AI applicatie;
- ‘Privacy and data governance’: Reeds bekende AVG;
- ‘Transparency’: Besluitvorming door de AI moet transparant zijn;
- ‘Diversity, non-discrimination and fairness’: Lijkt logisch maar is vaak complex;
- ‘Societal and environmental well-being’: Gevolgen voor de samenleving;
- ‘Accountability’: Interne controles en verantwoording.
EU AI Act
Er is sinds 2019 een voorstel voor een Europese wetgeving op het gebruik van AI en eisen die daaraan gesteld moeten worden. Zie link naar EU (2021)
Het betreft een “voorstel voor een verordening van het Europees parlement en de raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de unie”.
In feite is het idee dat de eerder besproken zeven ethische eisen (zie figuur 2) in een wettelijk kader worden gegoten die gaan gelden in elk EU land.
Figuur 2 . Schematische weergave met de onderlinge verhouding van de zeven vereisten: alle vereisten zijn even belangrijk, ondersteunen elkaar en moeten gedurende de levenscyclus van een AI-systeem worden uitgevoerd en geëvalueerd.
De verordening volgt een risico gebaseerde aanpak, waarbij een onderscheid wordt gemaakt tussen AI-toepassingen met een onaanvaardbaar risico (verboden), een hoog risico (sterk gereguleerd), en een laag of minimaal risico (ongemoeid).
De lijst van verboden praktijken bevat alle AI-systemen waarvan het gebruik onaanvaardbaar wordt geacht omdat het strijdig is met de waarden van de Unie, bijvoorbeeld vanwege een schending van grondrechten. Ten tweede zijn er toepassingen met een hoog risico, zoals een cv-scanner die sollicitanten rangschikt, deze worden onderworpen aan specifieke wettelijke voorschriften. Ten slotte blijven toepassingen die niet expliciet verboden zijn of als zeer riskant zijn aangemerkt, grotendeels ongereguleerd.
De verwachting is dat deze wetgeving nog lang op zich laat wachten gezien de trage besluitvorming in de EU en de verschil van mening tussen de diverse landen. Gezien echter het gebeurde bij de gemeente Nissewaard, de 2e Kamervragen hierover en reeds bestaande richtlijn op algoritme gebruik van het ministerie van J&V zal de Nederlandse wetgever hier vermoedelijk op vooruit gaan lopen en zeker het gebruik van AI en Algoritmen door overheden en semi-overheden sterk gaan reguleren.
