Eerder dit jaar heeft Progressief Nederland in Meerssen artikel40-vragen gesteld over het stimuleren van gebruik van AI in de gemeentelijke organisatie.

Uit de beantwoording blijkt een zorgvuldige aanpak rond het gebruik van Artificiële Intelligentie (AI) waarbij de gemeente deelneemt aan regionale en landelijke netwerken waarin kennis en ervaringen worden uitgewisseld en waarin ze samenwerking opzoekt waar die van toegevoegde waarde is. Het college is zich ervan bewust dat uitwerking van Europese regelgeving nog in beweging is en kiest daarom voor een gefaseerde aanpak.

Het college is het op belangrijke punten met PRO in Meerssen eens. Zo onderschrijft ze het belang van digitale autonomie en het voorkomen van ongewenste afhankelijkheden van leveranciers (vendor lock-in). Zij betrekt deze aspecten bij toekomstige inkoop- en aanbestedingen-trajecten. Daarnaast wegen ook andere relevante criteria mee, zoals informatieveiligheid, privacy, functionaliteit, interoperabiliteit, continuïteit en kosten.

Ook realiseert het college zich dat doorgaande scholing in het gebruik van AI nodig is en dat altijd de medewerkers verantwoordelijk blijven voor hun werkzaamheden; AI neemt die verantwoordelijkheid niet over.

Een zeer relevant element, dat vanzelfsprekend lijkt, maar vaak niet wordt meegenomen in het gebruik van AI, is aan eind-gebruikers, zoals inwoners, uitleggen dat ze te maken hebben met AI. Inwoners moeten kunnen vragen hoe de uitkomst tot stand is gekomen in hun geval en er moet duidelijk zijn dat zij met een Al-toepassing interacteren.

Daarop geeft het college aan: “Transparantie is een belangrijk uitgangspunt bij het verantwoord gebruik van AI binnen de overheid. Inwoners en ondernemers moeten erop kunnen vertrouwen dat de gemeente zorgvuldig met hun belangen omgaat. Wanneer een uitkomst hen raakt, geven wij hierover een zorgvuldige en begrijpelijke uitleg. Daarbij blijft duidelijk dat menselijke beoordeling leidend is geweest. Wanneer inwoners of ondernemers in de toekomst rechtstreeks gebruikmaken van een Al-toepassing, moet ook duidelijk zijn dat sprake is van interactie met Al”.

De gemeente zet op dit moment geen Al-toepassingen in waarmee inwoners of ondernemers rechtstreeks interacteren. Bij toekomstige toepassingen, zoals chatbots, blijft het belangrijk dat de informatie waarop deze toepassingen zijn gebaseerd actueel, betrouwbaar en zorgvuldig is. Daar waar AI wordt gebruikt in beoordelingen, blijft de menselijke beoordeling leidend; die vormt daardoor een belangrijke waarvoor voor een verantwoorde inzet van AI.

PRO heeft ook gevraagd naar de bekendheid met risico’s en negatieve gevolgen bij het gebruik van AI en hoe daar mee om te gaan. Het college is het met ons eens dat ze geen AI moeten inkopen als ze niet bekend zijn met hoe deze AI werkt. Ze achten het van belang dat voldoende inzicht bestaat in de werking, risico’s en beheersmaatregelen van toepassingen die worden ingezet. En ze erkennen het belang van interne audits bij het gebruik van AI. Bij toepassingen die persoonsgegevens gebruiken of op andere wijze gevolgen kunnen hebben voor inwoners en ondernemers, zal de gemeente zorgvuldig beoordelen welke waarborgen nodig zijn.

Lees de volledige beantwoording hier: https://meerssen.notubiz.nl/document/17175494/1?connection_type=17&connection_id=13575093