Het college heeft toegezegd de raad in het tweede kwartaal te informeren over haar onderzoek naar uitbreiding van inzet van AI binnen de gemeentelijke organisatie. De fractie van Progressief Nederland heeft hier verdere vragen over en heeft artikel-40 vragen ingediend. Aangezien AI een terrein van technieken is dat zich nog volop aan het ontwikkelen is, en de regelgeving daarop niet is ingericht, willen we benadrukken dat het belangrijk is om toekomstgericht met AI om te gaan.

Bevorderen van digitale autonomie en weerbaarheid

Er komt steeds meer aandacht voor de risico’s bij een te grote digitale afhankelijkheid van buitenlandse aanbieders, met name van de niet-Europese digitale diensten en technieken die de globale digitale markten overheersen. Momenteel werkt staatssecretaris Aerdts (Digitale Economie en Soevereiniteit) aan een handreiking digitale autonomie voor lagere overheden. We hebben vragen gesteld over hoe de gemeente Meerssen digitale autonomie gaat bevorderen.

Aansluiten bij huidige en nieuwe wetgeving

Een ander deel van de vragen gaat over hoe de gemeente ervoor zorgt dat gebruik van AI niet tot nadelige gevolgen leidt, zoals discriminatie. De Europese AI wetgeving wordt momenteel in stappen uitgevoerd en alle standaarden/protocollen voor onder andere een impact assessment op de samenleving (voor AI-systemen met een hoog risico) moeten nog worden vastgesteld. Een substantieel deel van AI-applicaties binnen een gemeentelijke overheid zullen waarschijnlijk als een hoog risico worden aangemerkt, met name de generatieve AI en andere AI die gebruik maakt van persoonlijke data om voorstellen te doen.

PRO denkt dat het altijd zo moet zijn dat de verantwoordelijkheid voor de gemaakte beleidsuitvoeringskeuzes bij de mensen moet liggen. Dus AI moet ondersteunend zijn. Dat impliceert ook doorlopende investering in ‘AI Literacy’ (AI-geletterdheid). Dat betekent dat gebruikers leren (alle gebruikers) wat de waarde is van de uitkomsten die met AI worden aangeboden.

Risico’s inschatten en monitoren

AI is dus net zoals menselijke intelligentie vatbaar voor fouten en bias. Hoe complexer de AI, hoe groter de kans hierop. Die risico’s dienen te worden meegewogen bij elke keuze voor een AI systeem. Er zijn verschillende manieren om die risico’s in te dammen. Het begint bij te weten wat men koopt, wat voor stresstesten zijn gedaan, met welke data, aan welke regelgeving voldoet het, en hoe transparant is het systeem (wat doet het)? Een tweede belangrijk manier is om te blijven meten hoe het functioneert in een omgeving, zeker als het andersoortige data wordt gebruikt dan bij het testen (denk aan de persoonlijke data van mensen). Want data en het gebruik van data in de context zijn twee van de grofweg drie manieren waarop vertekeningen en fouten ontstaan in algoritmes. De eerste manier is het ontwerp. We hebben specifiek vragen gesteld over hoe de gemeente verwacht betrouwbaarheid van complexe AI te garanderen.

Lees hier de vragen: https://meerssen.notubiz.nl/