Rollen

Bestuurder bij de RVGP

Je zit met je team aan tafel en jullie voeren een gesprek over het mogelijk inzetten van een chatbot.

Jij wilt geadviseerd worden door je team. Je nodigt de teamleden uit om hun vragen, zorgen en dilemma’s in het gesprek te brengen.

Hoofd IT bij de RVGP

Jouw dilemma gaat over de uitvoerbaarheid van een dergelijk project voor de IT-afdeling.

Zaken die jij je bijvoorbeeld afvraagt zijn:

• Ik weet niet of wij wel voldoende technische expertise in huis hebben om een dergelijk systeem uit te voeren, te monitoren en blijvend goed te laten functioneren.
• Zo niet, of er dan voldoende kennis in huis is om het beheer en onderhoud van het systeem op een verantwoorde, betrouwbare manier uit te besteden aan een externe partij?

Beleidsmedewerker bij de RVGP

Jouw dilemma gaat over wat jullie als organisatie acceptabel vinden ten aanzien van het risico dat de chatbot foute antwoorden zou kunnen geven.

Zaken die jij je bijvoorbeeld afvraagt zijn:

• Wat zijn de gevolgen als een bot ‘verkeerde’ adviezen geeft waar mensen wel op vertrouwen?
• Welke herstelmogelijkheden moeten/willen we daarvoor bieden?
• Welke disclaimer is er nodig en wat betekent een disclaimer voor de toegevoegde waarde voor gebruikers?

Projectleider bij de RVGP

Jouw dilemma gaat over kwaliteitsbeheersing.

Zaken die jij je bijvoorbeeld afvraagt zijn:

• Wanneer is de chatbot goed (genoeg) en hoe gaan we dit testen en monitoren?

Data Scientist bij de RVGP

Jouw dilemma gaat over de kwaliteit van de data en het model.

Zaken die jij je bijvoorbeeld afvraagt zijn:

• Hoe zorgen we dat de informatie waarmee het model getraind wordt up to date blijft?
• Mag de chatbot leren van de vragen die hij krijgt en antwoorden die hij geeft?
• Zijn er vangrails -> vragen waar de chatbot moet doorverwijzen naar een ambtenaar?

Privacy Officer bij de RVGP

Jouw dilemma gaat over het risico dat er persoonsgegevens in de trainingsdata zitten of dat mensen persoonsgegevens gaan delen in de chatgesprekken.

Zaken die jij je bijvoorbeeld afvraagt zijn:

• Hoe gaan we de chatbot trainen? Gaan we daarvoor onze eigen info-mailbox gebruiken? Hoe zit het dan met de persoonsgegevens in die dataset?
• Als we een reeds in basis getrainde AI nemen, wat vinden we dan van het risico dat deze AI getraind is op data met copyright zonder toestemming van de makers?
• Om een passend advies te kunnen krijgen, moeten mensen misschien wel persoonlijke gegevens gaan delen in de chat. Hoe gaan we daarmee om?

Inkoper bij de RVGP

Jullie hebben als organisatie ‘maatschappelijk verantwoord inkopen’ als uitgangspunt omarmd. Van daaruit bezien heb jij wel wat vraagtekens bij het afwegen of er een AI chatbot ingezet kan gaan worden. Een andere zorg die je hebt is of jullie dit zelf gaan doen of gaan inkopen/aanbesteden.

Zaken die jij je bijvoorbeeld afvraagt zijn:

• Bij maatschappelijk verantwoord inkopen is duurzaamheid een uitgangspunt. Een dergelijke chatbot (trainen en uitvoeren) kost veel energie en water. Wat vinden we daarvan?
• Gaan we dit in huis ontwikkelen of inkopen/aanbesteden? En als we het gaan inkopen/aanbesteden, welke eisen/normen willen we dan borgen bij de toeleverancier?