AP waarschuwt voor persoonsgegevens in publieke AI-chatbots
2026-06-12 · ai-edu.nl redactie
Kennisplatform AVG-support.nl meldt dat de Autoriteit Persoonsgegevens (AP) onlangs nadrukkelijk waarschuwde voor het risico van persoonsgegevens in openbare AI-chatbots. Aanleiding was onder meer een incident bij de gemeente Eindhoven: medewerkers voerden daar duizenden documenten met persoonsgegevens in bij openbare AI-chatbots, zoals ChatGPT. Het ging om gevoelige informatie, waaronder Jeugdwet-dossiers, reflectieverslagen en cv's van sollicitanten. Inmiddels heeft de gemeente de toegang tot openbare AI-websites geblokkeerd.
Volgens AVG-support.nl spreek je al snel van een datalek zodra persoonsgegevens buiten je organisatie terechtkomen zonder dat je daar controle of afspraken over hebt. Bij veel gratis AI-tools weet je niet precies wat er met de ingevoerde data gebeurt, kunnen gegevens worden opgeslagen of gebruikt voor training en worden ze vaak buiten de EU verwerkt. Dat maakt het invoeren van persoonsgegevens in zo'n tool risicovol en in veel gevallen niet AVG-proof. Bij betaalde of enterprise-varianten zijn de afspraken over datagebruik vaak beter, wordt er vaak niet op jouw data getraind en is er soms Europese hosting — maar dat maakt ze volgens AVG-support.nl niet automatisch 'veilig'.
Wat betekent dit voor jouw school
De Autoriteit Persoonsgegevens schrijft op haar pagina over digitale systemen en hulpmiddelen in het onderwijs dat je als verwerkingsverantwoordelijke altijd verantwoordelijk blijft voor de persoonsgegevens die je verwerkt, ook als je die verwerking uitbesteedt aan een derde partij, zoals de aanbieder van een digitale toepassing of app. Bovendien moet je met die aanbieder een verwerkersovereenkomst sluiten, en heb je een grondslag nodig: toestemming, uitvoering van een overeenkomst, een wettelijke plicht of een gerechtvaardigd belang. Deelt de aanbieder gegevens met een land buiten de EU, dan gelden volgens de AP specifieke regels.
Voor scholen kan dit betekenen dat het even snel laten herschrijven van een verslag of zorgsignaal in een gratis chatbot een incident oplevert dat je moet beoordelen en vastleggen. Wij raden daarom aan dit onderwerp expliciet met je team te bespreken.
Wat moet je doen
- Spreek af dat er geen persoonsgegevens van leerlingen in openbare AI-chatbots gaan, en laat medewerkers met geanonimiseerde voorbeelden werken.
- Overweeg, net als de gemeente Eindhoven deed, de toegang tot openbare AI-websites te blokkeren of een omgeving met betere afspraken over datagebruik aan te bieden.
- Ging het toch mis? AVG-support.nl adviseert: breng in kaart wat er is ingevoerd en door wie, beoordeel het risico voor de betrokkenen, leg vast wat je hebt gedaan en welke maatregelen je neemt, en meld het binnen 72 uur bij de AP als er een reëel risico is.
- Wil je weten hoe je school ervoor staat op AI-beleid, AI-training en DPIA's? Doe onze gratis AI-compliance-check (12 vragen, direct een rapport met status per onderdeel).
- Voor vastleggen: het AI Compliance Starterpakket (€ 299,00 incl. btw, eenmalig) bevat een beleidsdocument, DPIA-templates om zelf vast te leggen (o.a. ChatGPT, Copilot en Gemini), een risicoanalyse, sjablonen en een stappenplan. Zie onze pakketten.