Artificiële Intelligentie (AI) beleid gemeente Súdwest-Fryslân

Uit de Handreiking AI en Algoritmen van de VNG

(https://www.informatiebeveiligingsdienst.nl/product/handreiking-ai-en-algoritmen/)

Risico’s voor gemeenten

Het gebruik van AI brengt risico's met zich mee voor gemeenten. Om deze risico's te beheersen, is het essentieel dat gemeenten proactief handelen en passende maatregelen nemen. Hieronder volgt een overzicht van de enkele belangrijke risico’s en voorbeelden van maatregelen bij het gebruik AI:

Onderwerp

Risico

Voorbeeld van een beheersmaatregel

1

Privacy en gegevensbescherming

AI en algoritmen verwerken vaak grote hoeveelheden gegevens, waaronder persoonlijke informatie. Het onjuist verzamelen, opslaan of gebruiken van deze gegevens kan leiden tot schendingen van de privacy en gegevensbescherming, wat resulteert in reputatieschade en

mogelijke juridische consequenties.

Gemeenten moeten zorgvuldig omgaan met persoonlijke gegevens en ervoor zorgen dat AI-systemen voldoen aan de geldende privacywetgeving. Het anonimiseren en beveiligen van gegevens is essentieel.

2

Menselijke betrokkenheid en verantwoordelijkheid

Het overmatig vertrouwen op AI en algoritmen kan leiden tot verminderde menselijke betrokkenheid en verantwoordelijkheid. Het is belangrijk om de rol van menselijke besluitvorming en toezicht te behouden om de ethische en morele aspecten te waarborgen en mogelijke fouten of misstanden te voorkomen. Niet voor niets dat in artikel 22 van de AVG menselijke betrokkenheid als een verplichting is

opgenomen.

AI en algoritmen moeten worden gezien als hulpmiddelen ter ondersteuning van menselijke besluitvorming. Gemeenten moeten de betrokkenheid van burgers, experts en belanghebbenden waarborgen bij het ontwerpen en implementeren van AI-systemen.

3

Bias en discriminatie

AI-algoritmen zijn afhankelijk van de gegevens waarop ze zijn getraind. Is er sprake van vooringenomenheid in de gegevensset kunnen de algoritmen onbedoelde discriminatie in stand houden. Dit kan leiden tot ongelijke behandeling van burgers op basis van factoren zoals geslacht, ras, leeftijd of sociaaleconomische

achtergrond.

AI-systemen zijn afhankelijk van de beschikbare gegevens en kunnen inherente vooroordelen bevatten. Gemeenten moeten ervoor zorgen dat de gebruikte gegevens representatief en onbevooroordeeld zijn om discriminatie te voorkomen. Hieronder valt het testen en monitoren van AI op bias en discriminatie.

4

Transparantie en uitlegbaarheid

Sommige AI-modellen, zoals deep learning en black-box algoritmen, kunnen moeilijk te begrijpen zijn en de resultaten zijn mogelijk niet

transparant. Dit kan leiden tot een

Het is belangrijk dat gemeenten transparant zijn over het gebruik van AI en algoritmen en verantwoordelijkheid nemen voor de

gevolgen van hun inzet. Het begrijpen

gebrek aan vertrouwen en acceptatie bij zowel burgers als medewerkers van de gemeente. Het is belangrijk om de werking van AI- systemen goed te documenteren en waar mogelijk uitlegbaarheid te bevorderen. Bij inkoop van software met Algoritmen of AI-componenten dient hiermee in het contract

rekening gehouden te worden.

en uitleggen van de werking van AI- systemen kan het vertrouwen van inwoners vergroten.

5

Veiligheid en beveiliging

AI-systemen en de gegevens die ze verwerken, kunnen kwetsbaar zijn voor cyberaanvallen en misbruik. Onvoldoende beveiligingsmaatregelen kunnen leiden tot ongeautoriseerde toegang tot gevoelige informatie en het

compromitteren van systemen.

Gemeenten moeten ervoor zorgen dat de gebruikte AI-systemen voldoen aan hoge beveiligingsnormen om misbruik en hacking te voorkomen.

6

Verlies van menselijk contact en sociale impact

Het gebruik van AI kan resulteren in verminderd menselijk contact, met name in situaties waar persoonlijke interactie belangrijk is. Dit kan negatieve impact hebben op het contact van de gemeente met haar

incomers.

Zorg ervoor dat AI het werk makkelijker en sneller maakt, maar dat het niet ten koste gaat van het menselijke contact van de inwoner met de gemeente.

Richtlijnen gebruik ChatGPT, Google Bard, Copilot of andere LLM’s (Large language models)

Deze tools beloven veel: vragen beantwoorden, tekstvoorstellen of suggesties en aanpassingen waarmee je snel aan de slag kunt. De tool kent echter ook een aantal valkuilen waar we mee moeten leren omgaan. Met de volgende vuistregels is veilig gebruik mogelijk:

GPT en de anderen zijn een hulpmiddel

Controleer en bewerk ten allen tijden de uitvoer voordat je deze met collega's of derden deelt. Uiteindelijk blijf jij verantwoordelijk voor wat er met de uitvoer gebeurt.

GPT en de anderen zijn geen zoekmachine

Gebruik de LLM’s niet om feiten op te vragen of te controleren. LLM’s leveren je dingen die mooi klinken, ongeacht of ze kloppen. De bronnen zijn niet te checken en vaak onduidelijk.

GPT en de anderen kennen geen privacy

Noem geen persoonlijke informatie van jou of anderen in een vraag. Controleer altijd nog een keer extra de persoonlijke informatie die eruit komt en overweeg of die noodzakelijk is.

GPT en de anderen doet niet aan geheimhouding

Alles wat je invoert, gebruikt men bij deze bedrijven voor eigen doeleinden. Cijfers, namen, besluitvorming of (cruciale) processen, gevoelige informatie, stappenplannen of de strategie: dat hoort allemaal niet in deze programma’s.

GPT en de anderen doen niet aan controle

Controleer daarom zelf alle uitvoer op feitelijke onjuistheden of ongewenste/ongepaste uitspraken.

Gebruik je gezond verstand

Zou je dezelfde vragen ook aan een collega stellen? Of aan een leverancier of derde partij voorleggen? Zo niet, dan hoef je het ook niet te vragen aan deze LLM’s.

Gebruik een zakelijk account

Maak met je zakelijk mailadres een account aan, en gebruik dit ook alleen voor werkgerelateerde zaken. Verwijder geen conversaties; de chatgeschiedenis is belangrijk in het kader van het afleggen van verantwoording en mogelijk bewijs.

GPT en de anderen zijn redacteur

Gebruik de LLM’s voor het opzetten of structureren van teksten, of ter inspiratie bij het schrijven van eigen werk. Hele lappen tekst van de LLM’s letterlijk gebruiken is niet alleen saai, maar kan ook plagiaat opleveren.

GPT en de andere LLM’s gebruiken is niet duurzaam en gebruikt heel veel energie De servers waarop wordt gedraaid, verbruiken enorm veel energie (een gemiddeld antwoord kost een paar cent aan stroom). Neem dit mee in je afwegingen om een LLM te gebruiken.

Gebruikte bronnen:

https://open.overheid.nl/documenten/9b7b55fd-1762-499b-b089-2b7132c12402/file

https://www.informatiebeveiligingsdienst.nl/product/handreiking-ai-en-algoritmen/

https://www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/ai-verordening

https://www.rijksoverheid.nl/documenten/rapporten/2024/01/01/overheidsbrede-visie-generatieve-ai

https://vng.nl/brieven/principes-voor-de-digitale-samenleving

https://www.autoriteitpersoonsgegevens.nl/actueel/ap-onstuimige-opkomst-ai-vraagt-om-waakzaamheid-van-iedereen

https://algoritmes.overheid.nl/nl

https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister

https://www.rekenkamer.nl/publicaties/rapporten/2024/10/16/focus-op-ai-bij-de-rijksoverheid

https://www.rekenkamer.nl/publicaties/brieven/2024/10/16/reactie-staatssecretaris-van-bzk-op-het-rapport-focus-op-ai-bij-de-rijksoverheid

https://www.amsterdam.nl/innovatie/amsterdamse-visie-ai/

Algemene Rekenkamer: Toetsingskader algoritmes v2.0

https://www.government.nl/documents/reports/2022/03/31/impact-assessment-fundamental-rights-and-algorithms

https://gemeente.groningen.nl/file/waar-moet-de-gemeente-op-letten-bij-het-inzetten-van-generatieve-ai

https://vng.nl/nieuws/position-paper-en-trendanalyse-ai-algoritmen-en-gemeenten

https://www.autoriteitpersoonsgegevens.nl/documenten/rapportage-ai-algoritmerisicos-nederland-ran-februari-2025

Algoritme: Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden

AI (Artificial Intelligence, Artificiële Intelligentie, Kunstmatige Intelligentie): het nabootsen van menselijke vaardigheden met een computersysteem, zoals leren, plannen, redeneren, anticiperen en zelfstandig beslissen zonder tussenkomst van menselijke intelligentie.

AI-model: een softwarecomponent waarin kennis ligt besloten om op basis van invoer tot uitkomsten (zoals voorspellingen of classificaties) te komen. Modellen leren patronen uit voorbeeld data (voorbeeld invoer met een correcte uitkomst) en verwerken nieuwe invoer op basis hiervan tot een zo goed mogelijk uitkomst.

AI-systeem: een systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat gebruikmaakt van een AI-model.

AI Act: De AI Act is een Europese verordening die regels stelt voor autonoom handelende computersystemen en algoritmes die beslissingen nemen, content genereren of mensen assisteren.

Generatieve AI: een vorm van AI die in staat is om nieuwe data te genereren. De meest populaire toepassingen maken teksten en afbeeldingen waar niet meer aan af is te zien dat deze door AI gegenereerd zijn. Een invoer van een gebruiker geeft vaak aan wat te genereren.

Machine learning: methodes om patronen uit data op te nemen in een AI-model.

Deep learning: een methode binnen machine learning. Deze methode maakt gebruikt van neurale netwerken met veel parameters.

Large Language Model (LLM): een AI-model dat op basis van veel tekstdata patronen heeft opgeslagen in grote neurale netwerken. Het model kan tekst genereren en kan bijvoorbeeld worden toegepast in vraag-antwoord-situaties.

Data Protection Impact Assessments (DPIA's): een DPIA is een instrument om vooraf de privacyrisico’s van een gegevensverwerking in kaart te brengen. Zodat de organisatie maatregelen kan nemen om deze risico’s te verkleinen.

Fundamental Rights Impact Assessment (FRIA’s/IAMA): met het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) kan een afgewogen discussie gevoerd worden tussen de relevante partijen bij de afweging om wel of niet een algoritmische toepassing te gaan ontwikkelen. En het IAMA helpt om de gekozen ontwikkeling en implementatie vervolgens op een verantwoorde manier te doen.

Conformity assessment / conformiteitsbeoordeling: aanbieders moeten (op basis van art. 43 AI Act) een conformiteitsbeoordeling uitvoeren op een AI- systeem met hoog risico voordat het op de markt mag worden gebracht.

Samenvatting Artificiële Intelligentie (AI) beleid Gemeente Súdwest-Fryslân

Het AI-beleid van de gemeente Súdwest-Fryslân biedt de kaders om de kansen van Artificiële Intelligentie slim, veilig en verantwoord te benutten. Het doel is om efficiëntie en innovatie te bevorderen, zonder concessies te doen aan de integriteit, het vertrouwen van de burger en onze maatschappelijke verantwoordelijkheden.

Kaders en Principes

Het beleid is verankerd in cruciale wettelijke kaders zoals de vanaf 1 oktober 2024 van kracht geworden Europese AI Act en de Algemene Verordening Gegevensbescherming en zorgt ervoor dat ook ethiek, mensenrechten en duurzaamheid worden meegenomen bij het gebruik van AI. De AI die wordt toegepast moet wettig, ethisch en robuust zijn.

De inzet van AI volgt daarom zeven leidende principes voortkomend uit de AI Act:

1Menselijke controle en menselijk toezicht

2Technische robuustheid en veiligheid

3Privacy en datagovernance

4Transparantie

5Diversiteit, non-discriminatie en rechtvaardigheid

6Maatschappelijk- en milieuwelzijn

7Verantwoording

Nieuwe Governance en Verantwoordelijkheden

Om het beleid te waarborgen én de 7 principes toe te passen, wordt de volgende governancestructuur ingericht, waarvoor het College van B&W eindverantwoordelijk is. Centraal hierin staan twee nieuwe rollen:

De AI Officer: Het eerste aanspreekpunt en de spil binnen de gemeente voor alle AI-gerelateerde vraagstukken en AI-toepassingen. De AI Officer coördineert, adviseert en monitort.

Het expertiseteam AI: Een multidisciplinair team dat risicoanalyses en impactassessments uitvoert en adviseert over de inzet van AI-toepassingen.

Praktische Verplichtingen voor de Organisatie

Voor de organisatie en haar medewerkers brengt dit concrete verplichtingen met zich mee, waaronder:

Er wordt geïnvesteerd in AI-geletterdheid om de basiskennis van kansen en risico's te vergroten.

Voordat een AI-systeem wordt ingezet, is een risicoanalyse verplicht.

Voor systemen met een hoog risico moet een Impact Assessment Mensenrechten en Algoritmes (IAMA) worden uitgevoerd.

Ter bevordering van de transparantie worden gebruikte algoritmes ingeschreven in het landelijke Algoritmeregister.

Richtlijn voor ChatGPT en andere LLM's

Voor het gebruik van Large Language Models (LLM's) zoals ChatGPT, Copilot of Bard geldt een duidelijke richtlijn: wees uiterst voorzichtig. Deel nooit persoonsgegevens of strategisch gevoelige informatie. Medewerkers blijven altijd zelf verantwoordelijk voor de output en moeten deze controleren op juistheid en feitelijkheid.