De AVG en AI botsen zelden op iets ingewikkelds. Ze botsen bijna altijd op iets simpels: niemand in het bedrijf weet precies welke bedrijfs- en klantgegevens er door die AI-dienst gaan. Daar gaat dit stuk over. Het geeft geen juridisch oordeel, want dat mogen en kunnen wij niet geven. Het geeft je de vragen die je jezelf stelt voor je op verzenden drukt, in de volgorde waarin ze bruikbaar zijn.
De vraag is niet of AI mag. De vraag is welke gegevens je erdoor stuurt, en wat daarover afgesproken is.
De AVG verandert niet omdat er AI bij komt, je verwerking wel
In de AVG, de verordening die je even vaak de GDPR hoort noemen, staat geen apart hoofdstuk over kunstmatige intelligentie. Dezelfde principes gelden als altijd: je verwerkt gegevens voor een omschreven doel, je hebt daar een grondslag voor, je gebruikt niet meer gegevens dan je nodig hebt, je beveiligt ze, je bewaart ze niet eeuwig en je bent er open over tegenover de mensen om wie het gaat.
Wat wel verandert, is de weg die je gegevens afleggen. Documenten die vroeger in je eigen mailbox en op je eigen server bleven, gaan nu in één beweging naar een dienst van iemand anders. Meestal gebeurt dat zonder dat iemand het ergens opschreef, want een chatbot openen vraagt geen IT-project en geen goedkeuring. Het risico zit dus zelden in het model zelf. Het zit in de stapel die er ongemerkt doorheen gaat.
Tijdens een screening van twee uur bij jou ter plaatse tellen we onder andere hoeveel systemen er open moeten staan en hoe vaak er gekopieerd en geplakt wordt. Dat kopiëren en plakken is precies waar deze vraag zich verstopt: het gebeurt tussen twee vensters door, en het staat nergens in een procedure.
Begin bij de vraag welke gegevens er precies doorheen gaan
"Het zijn maar bedrijfsgegevens" is de zin die het vaakst valt en die het minst vaak klopt. Een map met offertes bevat namen van contactpersonen, gsm-nummers, en soms een mailtje waarin iemand uitlegt dat een levering te laat was omdat een collega in het ziekenhuis lag. Zodra een gegeven te herleiden is naar een persoon, zit je in de AVG, ook al staat het op een bedrijfsdomein en gaat het over werk.
Neem daarom één echt dossier en loop het regel per regel door. Niet de beschrijving van het dossier, maar het dossier zelf. Meestal komt daar dit uit:
| wat je erin vindt | voorbeeld uit een KMO | waar je bij stilstaat |
|---|---|---|
| gegevens zonder personen | prijslijst, technische handleiding, voorraadstanden | valt buiten de AVG, maar kan wel bedrijfsgeheim zijn |
| zakelijke contactgegevens | naam en mailadres van een contactpersoon bij een klant | dit zijn persoonsgegevens, ook op een bedrijfsdomein |
| klantendossiers | mailwisseling, werkbonnen, klachten, foto's van een plaatsing | er zit bijna altijd meer in dan je verwacht |
| personeelsgegevens | sollicitaties, evaluaties, afwezigheden | gevoeliger, en er speelt een gezagsverhouding |
| bijzondere categorieën | gezondheid, vakbondslidmaatschap, herkomst | apart en strenger regime, hier beslis je niet zelf |
De officiële uitleg van deze begrippen, en van wanneer iets precies een persoonsgegeven is, staat bij de Gegevensbeschermingsautoriteit. Dat is de bron waar je naar teruggaat als je twijfelt, niet een blogartikel en ook niet de verkoopbrochure van een leverancier.
Waar de verwerking gebeurt, en wie daarbij verwerker is
Twee rollen die je uit elkaar moet houden. Bepaal jij waarvoor de gegevens gebruikt worden en met welke middelen, dan ben jij de verwerkingsverantwoordelijke. De partij die dat in jouw opdracht uitvoert en er zelf niets anders mee doet, is de verwerker. Dat onderscheid blijft precies hetzelfde wanneer die verwerker een AI-dienst is in plaats van een boekhoudpakket.
In de praktijk is het bijna nooit één partij. Achter een automatisatie zit vaak een platform, daarachter een aanbieder van het model, en daarachter nog een hostingpartij. Vraag dus naar de lijst van subverwerkers, en naar de afspraak dat je verwittigd wordt wanneer die lijst verandert. Vraag ook waar de verwerking fysiek gebeurt en of er gegevens buiten de Europese Economische Ruimte terechtkomen. Bij veel diensten kan je een Europese regio kiezen, maar het is zelden de instelling die standaard aanstaat.
Je verwerkingsregister is de plek waar dit hoort te landen
De AVG werkt met een verwerkingsregister: een lijst waarin per verwerking staat wat het doel is, welke soorten gegevens erin zitten, over wie het gaat, wie ze te zien krijgt, hoe lang je ze bijhoudt en hoe je ze beveiligt. Of en in welke vorm jij er een moet bijhouden, hangt af van je situatie, en dat is een vraag voor je jurist of voor de Gegevensbeschermingsautoriteit. Wat we wel zien: waar er een register is, is het vaak één keer gemaakt en daarna nooit meer opengedaan.
Een nieuwe AI-workflow is een nieuwe regel in dat register, of een wijziging aan een bestaande regel. Dat is geen extra last die erbij komt. Het is de plek waar de antwoorden op alle vragen hierboven samenkomen, in één overzicht dat je binnen een jaar nog kan lezen.
Hoe lang je die gegevens bijhoudt, en wie ze opruimt
Een AI-workflow maakt kopieën die je niet ziet staan. De vraag die je stuurde, het antwoord dat terugkwam, de logregels, de tussenbestanden, de zoekindex waarin je documenten zijn opgenomen, de bijlagen die in een wachtrij bleven hangen. Elk van die kopieën heeft een levensduur, en vaak heeft niemand die ooit ingesteld.
Vier vragen die je hier stelt:
- Bewaart de leverancier wat je invoert, en kan je dat uitzetten?
- Kan je gericht verwijderen wanneer één klant daarom vraagt, of alleen alles tegelijk?
- Wat gebeurt er met de gegevens als je stopt met de dienst?
- Wie kan die logs inkijken, aan jouw kant en aan hun kant?
De laatste vraag wordt het vaakst overgeslagen. Logging is nuttig, want zonder logs kan je achteraf niet aantonen wat er gebeurd is. Alleen staat er in die logs vaak net dezelfde inhoud als in het dossier zelf, en kunnen er meer mensen bij dan nodig omdat dat bij het opzetten het snelst ging. Bij ons horen zulke afspraken bij Care, dat doorloopt vanaf het einde van de testperiode. Wat daar precies in staat, lees je op de pagina over Care en de reactietermijn.
Spreek dit af met je leverancier voor de eerste test draait
Achteraf iets rechttrekken is altijd lastiger dan het vooraf op papier zetten. En een leverancier die deze vragen niet gewoon vindt, geeft daarmee zelf al een antwoord. Dit hoort er minstens in te staan:
- een verwerkersovereenkomst waarin de rollen benoemd zijn
- welke subverwerkers er zijn, en hoe je verwittigd wordt bij een wijziging
- waar de verwerking gebeurt, en of er doorgifte buiten de EER is
- dat jouw gegevens niet gebruikt worden om modellen mee te trainen
- hoe lang invoer en logs bewaard worden, en of je dat zelf kan aanpassen
- wat er gebeurt bij een incident, en hoe snel jij verwittigd wordt
- teruggave en verwijdering bij het einde van de samenwerking
- wie de toegangen beheert, en wat er gebeurt als die persoon vertrekt
Let er ook op wélke versie van een dienst je gebruikt. De consumentenversie en de zakelijke versie van dezelfde aanbieder hebben zelden dezelfde voorwaarden, en medewerkers gebruiken doorgaans wat ze thuis ook gebruiken. Dat is geen kwade wil, dat is gemak. Daarom zetten wij onze AI-automatisaties altijd op accounts van het bedrijf, met toegangen die je kan intrekken, en niet op een persoonlijk account van iemand die er over twee jaar misschien niet meer werkt.
De AI Act komt bovenop de AVG en vervangt ze niet
Het zijn twee verschillende dingen. De AVG gaat over persoonsgegevens. De Europese AI Act gaat over het AI-systeem zelf: in welke risicoklasse het valt, wat je erover documenteert, en wanneer je een gebruiker laat weten dat hij met AI communiceert. Een workflow zonder één persoonsgegeven kan onder de AI Act vallen, en een verwerking die niets met AI te maken heeft valt nog altijd onder de AVG.
Wat de AI Act concreet voor jou betekent, hangt af van wat het systeem doet en niet van hoe groot je bedrijf is. Ook een kleine onderneming die zo'n systeem inzet, valt eronder. Een tekstgenerator die een conceptmail klaarzet, zit wel in een andere categorie dan een systeem dat sollicitanten rangschikt. Dat verschil kennen en per toepassing vastleggen hoort bij het werk. De verplichtingen worden bovendien in fasen van toepassing, en welke fase wanneer geldt, haal je bij de officiële bron en niet bij ons.
Praktisch komt het neer op één document per toepassing: wat doet het systeem, welke gegevens gebruikt het, waar beslist het zelf en waar beslist een mens. Op dat laatste is ons antwoord altijd hetzelfde. Het systeem stelt voor, iemand keurt goed. Dat is geen juridische voorzorg maar een ontwerpkeuze, en ze maakt de rest van deze lijst een stuk eenvoudiger.
Wat wij wel en niet voor je kunnen beoordelen
Wij zitten op de Corda Campus in Hasselt en bouwen software op maat en automatisaties voor KMO's in Limburg en Vlaanderen. Deze vraag komt in bijna elk traject terug, dus we hebben er een manier van werken voor. Wat daar wel in zit:
- in kaart brengen welke gegevens door welke stap lopen, samen met de mensen die het werk doen
- de opzet zo bouwen dat er niet meer gegevens meegaan dan die stap nodig heeft
- een Europese datalocatie kiezen waar de dienst dat toelaat
- logging voorzien, zodat achteraf te zien is wat er gebeurd is
- de documentatie aanleveren waarmee jij je eigen register kan bijwerken
Wat er niet in zit, en dat is even belangrijk om vooraf te zeggen:
- een juridisch oordeel over de vraag of jouw verwerking rechtmatig is
- kiezen op welke grondslag jij je beroept
- de rol van functionaris voor gegevensbescherming overnemen
- garanderen dat je in orde bent, want dat kan geen enkele leverancier
Voor het echte oordeel ga je naar je eigen jurist, of naar je functionaris voor gegevensbescherming als je die hebt. Voor de officiële informatie, de modellen en de meldingsprocedures is de Gegevensbeschermingsautoriteit de bron.
Het meeste van dit werk is trouwens geen juridisch werk maar administratie: uitzoeken welke gegevens er lopen, opschrijven waar ze naartoe gaan, en afspreken wat ermee mag gebeuren. Dat is ook nuttig als je vandaag nog geen AI gebruikt. Wil je het voor één concrete workflow samen doornemen, dan is de screening daar de geschikte plek voor. Voor de rest kan je ons altijd een bericht sturen via de contactpagina.
Veelgestelde vragen
Mag ik klantgegevens in een AI-chatbot plakken?
Dat hangt af van welke gegevens het zijn, welke versie van de dienst je gebruikt en wat daarover in je overeenkomst met die aanbieder staat. Een consumentenaccount en een zakelijk account van dezelfde aanbieder hebben zelden dezelfde voorwaarden. Wij kunnen die opzet mee bekijken en zo bouwen dat er niet meer meegaat dan nodig, maar het oordeel of jouw verwerking rechtmatig is hoort bij je jurist of je functionaris voor gegevensbescherming.
Heb ik een verwerkersovereenkomst nodig met een AI-leverancier?
Verwerkt die leverancier in jouw opdracht persoonsgegevens, dan is zo'n overeenkomst de gebruikelijke gang van zaken en vraag je ze gewoon op. Let daarbij ook op de subverwerkers achter die leverancier, want achter een AI-dienst zit meestal een keten. De officiële uitleg over de rollen en de verplichtingen vind je bij de Gegevensbeschermingsautoriteit.
Wat is het verschil tussen de AVG en de AI Act?
De AVG gaat over persoonsgegevens: voor welk doel, op welke grondslag, hoe lang en hoe beveiligd. De AI Act gaat over het AI-systeem zelf: in welke risicoklasse het valt, wat je erover documenteert en wanneer je een gebruiker laat weten dat hij met AI communiceert. Ze kunnen allebei tegelijk gelden, en een systeem zonder één persoonsgegeven kan nog altijd onder de AI Act vallen.
Blijven onze gegevens in Europa als we een AI-dienst gebruiken?
Bij veel diensten kan je een Europese regio kiezen, maar dat is zelden de standaardinstelling. Vraag het expliciet na en laat vastleggen of er gegevens buiten de Europese Economische Ruimte terechtkomen. Wij kiezen een Europese datalocatie waar de dienst dat toelaat, en we zeggen het wanneer het niet kan.
Wie is verantwoordelijk als een AI-workflow een fout maakt?
Voor de verwerking van persoonsgegevens blijf jij als opdrachtgever de verwerkingsverantwoordelijke, ook wanneer een leverancier het werk uitvoert. Daarom zetten wij nooit een volledig autonome opzet neer: het systeem stelt voor, een mens keurt goed. Zo blijft er iemand die kan ingrijpen voor er iets buitengaat.
Twee uur aan tafel voor er iets doorgestuurd wordt
Tijdens een screening van twee uur brengen we samen met jou en je mensen in kaart welke gegevens door welke stap lopen. Daarna weet je wat automatiseerbaar is en hoeveel workflows het ongeveer zijn. Je krijgt een bevindingenrapport, dat we doornemen in een call van dertig minuten.
