Amsterdam verbiedt ChatGPT voor ambtenaren vanwege 'propaganda'-risico
De gemeente Amsterdam heeft het gebruik van ChatGPT en andere generatieve kunstmatige intelligentie (AI) voor ambtenaren verboden. De hoofdstad ziet te grote risico’s op foutieve informatie, haatzaaiende taal en propaganda. CDA-fractievoorzitter in Amsterdam zet vraagtekens bij de uitvoerbaarheid van het verbod, meldt De Telegraaf.
Het nieuwe beleid werd deze week gecommuniceerd in een medewerkersbericht van de gemeente: 'Als medewerker mag je alleen AI-tools gebruiken waarvan is vastgesteld dat ze voldoen aan wet- en regelgeving en het Amsterdams beleid', aldus de gemeente.
Risico’s van AI
Volgens de gemeente biedt generatieve AI veel kansen, maar zijn er ook grote risico’s. Het gebruik kan leiden tot het verspreiden van foutieve informatie die lastig te controleren is.
Ook kan het volgens de gemeente leiden tot schendingen van privacyregels door het verzamelen van persoonsgegevens en ongewenste inhoud, zoals haatzaaiende taal of propaganda. Ten slotte stelt de gemeente dat datalekken een mogelijk risico zijn.
Gemeente Amsterdam publiceerde in november 2024 de 'Amsterdamse Visie op AI', waarin betrouwbaarheid, toekomstbestendigheid en mensgerichtheid, aldus de gemeente, centraal staan. Op basis van eerdere tests is nu besloten om het gebruik van generatieve AI te beperken. De ontwikkelingen worden echter nauwlettend gevolgd volgens de gemeente.
Pilot ChatAmsterdam
Hoewel generatieve AI verboden wordt, loopt er een proefproject genaamd ‘ChatAmsterdam’. Dit experiment moet uitwijzen hoe AI op een veilige en verantwoorde manier binnen de gemeente gebruikt kan worden.
Vragen over handhaving
Rogier Havelaar, CDA-fractievoorzitter in Amsterdam,stelde donderdagochtend vragen aan wethouder Hester van Buren (Personeel en Organisatie) over de handhaving van het verbod. De wethouder bleek echter nog niet op de hoogte van het interne bericht. Ze beloofde schriftelijk te reageren.
Havelaar uitte zijn kritiek op deze gang van zaken: 'Ik vind het raar dat de wethouder bedrijfsvoering niet op de hoogte is van zoiets belangrijks'. Ook stelt Havelaar op basis van het boek 'Co-intelligentie - slimmer werken met AI' dat Je weet als je het gebruik van AI gaat verbieden, dat 30 tot 60 procent van de medewerkers het stiekem op hun privé-apparaten gaan gebruiken.
Daarom is Havelaar kritisch op het besluit van de gemeente: 'Dat is enorm onwenselijk. Je kunt niet iets verbieden wat iedereen wil gebruiken zonder een alternatief te bieden. Dit wakkert alleen maar stiekem gedrag aan wat slecht is voor de toch al slechte organisatiecultuur.'
Eerdere verboden op apps
Dit is niet de eerste keer dat de gemeente Amsterdam apps verbiedt. Vorig jaar werd het gebruik van TikTok, Telegram en AliExpress op werktelefoons van ambtenaren ook al verboden.
