Een goede prompt is essentieel voor het verkrijgen van relevante en nuttige antwoorden van AI-systemen. Een korte zin, vraag of afbeelding dient als input voor AI-tools om tot een specifiek antwoord of resultaat te komen. Op basis van de ingevoerde input, genereert de AI-tool output.
Maar wat mag de AI-leverancier met de data die u invoert? In deze blog gaan wij in op deze vraag.
Data blijft niet altijd binnen de muren van het systeem
Veel AI-tools verwerken inputdata in een cloudomgeving of via een SaaS-platform. Het is dan ook belangrijk om te checken:
Worden prompts of ingevoerde bestanden tijdelijk opgeslagen?
Worden ze gebruikt om de AI-tool zelf te verbeteren?
Wordt informatie gedeeld met derden of doorgegeven aan derde partij AI-systemen?
Vooral het gebruik van input door de AI-leverancier voor het verbeteren van de AI-tool is een aandachtspunt en voor velen inmiddels een bekend risico. Indien een gebruiker in een AI-tool bijvoorbeeld bedrijfsprocessen invoert om deze te optimaliseren, kan de leverancier die informatie gebruiken om het AI-model verder te trainen. Zo wordt bedrijfsgevoelige informatie onbedoeld gedeeld met de AI-leverancier.
Gebruiksvoorwaarden voor AI-system
Of en in hoeverre input gebruikt mag worden voor het trainen van AI-modellen zou terug te vinden moeten zijn in de algemene voorwaarden van de betreffende AI-tool.
Een blik op de Terms of Use van 2 veelgebruikte AI-oplossingen laat het volgende zien.
Terms of Use AI-tool 1:
“Je kunt input leveren aan de Diensten ("Input") en op basis van de Input output ontvangen van de Diensten ("Output"). Input en Output vormen gezamenlijk de "Inhoud".”
“Ons gebruik van inhoud. We kunnen Inhoud gebruiken om onze Diensten te leveren, te onderhouden, te ontwikkelen en te verbeteren, de toepasselijke wetgeving na te leven, onze voorwaarden en ons beleid te handhaven en onze Diensten veilig te houden.”
Terms of Use AI-tool 2:
“We bezitten Uw Inhoud niet, maar we kunnen Uw Inhoud gebruiken om de Tool te bedienen en te verbeteren. Door de Tool te gebruiken, geeft u ons toestemming om Uw inhoud te gebruiken, wat betekent dat we het kunnen kopiëren, verspreiden, verzenden, openbaar tonen, openbaar uitvoeren, bewerken, vertalen en formatteren, en we kunnen diezelfde rechten geven aan anderen die namens ons werken.
Wij mogen beslissen of we Uw Inhoud gebruiken, en we hoeven u niet te betalen, uw toestemming te vragen of te informeren wanneer we dat doen.”
Deze bepalingen spreken voor zich. De ruimte die de leverancier in deze voorbeelden heeft om de input te gebruiken is groot, maar deze terms zullen niet altijd bekend zijn bij de afnemer van het AI-systeem. Oplettendheid ten aanzien van de terms is dan ook noodzakelijk.
Mag dit volgens de AI Act?
Uit de AI Act volgen verschillende principes die in dit kader relevant zijn, met name transparantie en controle door de gebruiker. Zo moeten gebruikers geïnformeerd zijn over hoe AI-output wordt gegenereerd en welke data daarvoor wordt gebruikt. Als de input van klanten wordt gebruikt voor training van het systeem, moet dit in het kader van transparantie bekend worden gemaakt aan de gebruiker. Daarnaast moeten gebruikers kunnen controleren en beheren welke data wordt gebruikt.
Om aan deze vereisten te voldoen wordt bij het gebruik van data voor het trainen van AI modellen, vaak voor opt-in of opt-out regelingen gekozen door de leverancier.
De AI Act verplicht dus niet letterlijk opt-in of opt-out, maar door deze mechanismen kan een bepaalde controle aan de gebruiker worden gegeven en kan toestemming van de gebruiker worden verkregen.
Bij opt-out geldt:
Data wordt standaard gebruikt voor training van het model. De leverancier moet dit duidelijk communiceren in bijvoorbeeld de Terms of Use. De gebruiker moet actief handelen om zijn data te beschermen, door het indienen van bezwaar tegen het gebruik van de input.
Ten aanzien van opt-in geldt:
Data wordt alleen gebruikt als de gebruiker hiervoor expliciet toestemming geeft.
Voor organisaties is opt-in natuurlijk veel veiliger en wenselijker, maar de meeste leveranciers zullen een opt-out regeling in de voorwaarden hebben opgenomen.
Als we teruggaan naar de Terms of Use van de leverancier van de hiervoor genoemde AI-tool 1, zien we het volgende:
“Afmelden. Als je niet wilt dat we jouw Inhoud gebruiken om onze modellen te trainen, kun je je afmelden door de instructies in dit artikel te volgen. Houd er rekening mee dat dit in sommige gevallen de mogelijkheden van onze Diensten kan beperken om beter in te spelen op jouw specifieke gebruikssituatie.”
Een duidelijke opt-out regeling, met ook nog een disclaimer dat de dienst mogelijk minder goed werkt als je voor deze optie kiest.
Best practices voor afnemende organisaties van AI-systemen
Samenvattend is het van belang om alert te zijn op welke input de AI-tool wordt gegeven en wat er vervolgens met die input door de leverancier mag worden gedaan. Controleer of de input geen persoonsgegevens of bedrijfsgevoelige strategieën bevat. Check vooral ook de Terms of Use om te weten of de input gebruikt wordt voor AI-training. Is er een opt-out regeling? Overweeg dan om bezwaar te maken tegen het gebruik van de data voor trainingsdoeleinden.
Wilt u meer weten over welke mogelijke risico’s uw organisatie loopt bij het gebruik van AI-tools?
Het team van ervaren specialisten bij Legalz staat klaar om u te adviseren.
Neem vrijblijvend contact met ons op.
Klik op onderstaande button of bel ons direct op telefoonnummer 010-2990646