Discussie Opinie Vandaag

Het onzichtbare gevaar van 'Shadow AI'

Het zonder toestemming of toezicht gebruik van AI-tools in de accountancy is een risico. Dus reden om hierbij stil te staan, in het licht van het debat over de inzet van AI-tools en dataveiligheid.

Folkert Feenstra

Shadow AI is het gebruik van AI-tools en -applicaties door medewerkers binnen een organisatie, zonder expliciete goedkeuring, controle of toezicht hierop. Recent was in het nieuws dat binnen een gemeente is gebleken dat duizenden bestanden met gevoelige persoonsgegevens zijn geüpload naar openbare/gratis AI-tools zoals Gemini. Het ging onder meer om Jeugdwet-dossiers met gezondheidsinformatie van minderjarigen, diagnoses en dergelijke. Afhankelijk van hoe deze bestanden zijn aangeleverd, is die informatie potentieel voor altijd opgenomen in een Amerikaans AI-model; zonder verwerkersovereenkomst, zonder toestemming van de betrokkene, zonder mogelijkheid tot verwijdering. Dit zal in de accountancy hoogstwaarschijnlijk niet anders zijn voor bedrijfsinformatie die wordt gegeven aan gratis AI-modellen. Uit berichtgeving van beveiligingspartij Netskope blijkt dat bijna de helft (47 procent) van de werknemers die generatieve AI-tools op het werk gebruiken, dit doet via persoonlijke accounts (Cloud and Threat Report: 2026).

De casus: hoe het misgaat

Een collega ontvangt een brief van de Belastingdienst over een ingenomen standpunt en uploadt deze in de gratis Google AI Studio. Het is een pdf-document en niet geanonimiseerd. De AI wordt gebruikt als snelle sparringpartner om nuttige punten te genereren. Diegene houdt rekening met de veelvoorkomende valkuilen waarmee hij of zij bekend is, zoals verwijzingen naar verouderde wet- en regelgeving, of hallucinaties in belastingtarieven.

Wat is het gevolg? De gebruiker maakt gebruik van Google AI Studio, de gratis AI-website van Google. De input in deze systemen wordt direct gebruikt als trainingsdata en de content kan door medewerkers van Google worden gelezen. Omdat de input niet wordt vernietigd, is er bij deze gratis tools geen sprake van 'zero retention'. In de opdrachtbevestiging met de klantrelatie staat niets vermeld over het gebruik van AI; klanten hebben hiervoor geen akkoord gegeven. Bovendien schendt een (assistent-)accountant die klantdata in een gratis AI gooit hiermee niet alleen de AVG, maar handelt hij of zij ook in directe strijd met de VGBA rondom het principe van vertrouwelijkheid en de vakbekwaamheid en zorgvuldigheid.

Een alternatieve werkwijze

Bij de ontwikkeling van software is veel terug te voeren tot instellingen, dus soms simpelweg het omschuiven van een schakelaartje, of het gebruik van de juiste API-key van Google. Binnen FenoFin maken wij gebruik van CrewAI, waarbij een hiërarchische agent-structuur centraal staat. In deze opzet stuurt een hoofdagent diverse gespecialiseerde sub-agenten aan, elk met een strikt gedefinieerde taak. Deze agenten maken gebruik van RAG (Retrieval-Augmented Generation). Met andere woorden: "Lees eerst dit en beantwoord dán pas de vraag."

De agenten worden hierbij verplicht om een specifieke, afgeschermde database met actuele wet- en regelgeving te raadplegen. Hiervoor worden bronnen, zoals het Handboek Loonheffingen en de Wet op de loonbelasting 1964, omgezet naar gescheiden Markdown-bestanden. Via OCR worden deze verwerkt tot vector-embeddings en veilig opgeslagen in een PostgreSQL-database met de pgvector-extensie.

Door de opdrachten vooraf dwingend te definiëren, krijgen de agenten de instructie om uitsluitend de eigen vectordatabase te raadplegen en geen informatie uit algemene trainingsdata te verzinnen. De hoofdagent coördineert de specialisten per fase en evalueert na elke stap of de tussenresultaten kwalitatief voldoen. Zo analyseert de 'Standpunten Analist' elk onderwerp vanuit een specifieke invalshoek, waarna de 'Rapport Schrijver' het eindproduct samenstelt in het gewenste formaat. Hierbij kun je de hoofdagent een duurder model laten gebruiken dan de uitvoerende agenten.

Om privacy en dataveiligheid te waarborgen, wordt de AI gebruikt binnen de afgeschermde Google Vertex AI-omgeving. In tegenstelling tot consumentenversies worden gegevens via deze API-route niet gebruikt om modellen te trainen. Verder worden de bestanden en de PostgreSQL-database gehost in een cloud-based omgeving van een Tier 4-partij, wat staat voor de allerhoogste graad van fouttolerantie en fysieke beveiliging. Dit is in veel opzichten veiliger dan het lokaal opslaan van bestanden.

Grip krijgen op Shadow AI

De huidige praktijk laat zien dat AI op grote schaal al als onmisbaar wordt gezien, anders zouden gebruikers geen privé-abonnementen afsluiten om AI te gebruiken. Verder vormt het huidige intensieve gebruik van AI, zonder duidelijk beleid, het perfecte recept voor Shadow AI. Grip hierop krijgen is geen luxe, maar een absolute beroepsplicht.

Als je veronderstelt dat AI-modellen beter zullen worden, zul je dit onderwerp niet op zijn beloop willen laten. Ook zal je als professional vanuit het oogpunt van risicobeheersing AI zo goed mogelijk willen inzetten, om fouten te voorkomen en de kwaliteit van je werk te verhogen.