Hoe explainable AI (XAI) processen veilig, eerlijk en betrouwbaar houdt

Hoe explainable AI (XAI) processen veilig, eerlijk en betrouwbaar houdt

Nieuws Overig

‘AI first’ is het motto van BREiNN, het innovatiecentrum van installatiebedrijf Breman. "Bij ons begint elke taak met kunstmatige intelligentie: een rapport schrijven, een presentatie maken, een berekening doen, noem maar op", vertelt Patrick van Stokhem, technisch directeur en AI-strategieconsultant. "Daarna scherpen we het zelf aan." Omdat de rol van AI binnen bedrijven groeit, wordt het belangrijker om te begrijpen hoe een AI-systeem tot zijn antwoorden komt. Alleen dan kun je processen veilig, eerlijk en betrouwbaar houden. Van Stokhem legt uit welke kansen en risico’s AI met zich meebrengt en deelt de inzichten die hij tijdens het event "De toekomst aan tafel: AI-Connect" opdeed rondom explainable AI (XAI).

Door een taak eerst door AI uit te laten voeren, maken we van AI een gewoonte bij BREiNN. AI wordt in de nabije toekomst namelijk een integraal onderdeel van het leven. Privé en op het werk. Over tien jaar ruimen we niet meer zelf de vaatwasser in, maar doet onze huishoudrobot dat. En op het werk gebruiken we dan taalmodellen die volledig zelfstandig teksten voor ons schrijven. Er zijn zelfs voorbeelden van hijskranen die vanuit huis worden bestuurd. De rol van de mens verschuift hierdoor van creëren naar controleren.

Van creëren naar controleren

“De komende jaren wordt AI steeds autonomer”, zegt Van Stokhem. “Ik geef het nog twee jaar en dan kunnen medewerkers ‘vragen stellen aan hun bedrijf’. Met andere woorden, ze stellen een vraag en krijgen direct antwoord, zonder dat daar een mens aan te past komt. Zie het als ‘een Google’ die gevuld is met alle info die beschikbaar is binnen het bedrijf. Databases, naslagwerken, contactgegevens, cijfers, begrotingen, enzovoort. Jij stelt je vraag en de bedrijfs-chatbot geeft antwoord.”

In het verlengde daarvan ligt de zelfstandige klantenservice voor Breman waar het vijfkoppige team van BREiNN momenteel aan werkt. “Klanten kunnen over een tijdje bellen en whatsappen met ons bedrijf. Ze krijgen dan geen mens aan de lijn of in de chat, maar een digitale avatar die zijn antwoorden put uit ‘de Google van Breman’. Is een vraag ingewikkeld of wil een klant liever een agent mét hartslag aan de lijn”, zegt Van Stokhem met een lach, “dan verbindt de digitale agent door naar een mens.”

Breman en innovatie

Breman is een familiebedrijf met bijna 1.700 installatie-experts in dienst, verspreid over 26 vestigingen. Het bedrijf bouwt aan een toekomst vol duurzame, technische installaties die zorgen voor beter wonen en werken. “Breman installeert hr-ketels, warmtepompen, zonnepanelen, ventilatiesystemen en slimme thermostaten en biedt service- en onderhoud. En Breman zet zich in voor het oplossen van maatschappelijke uitdagingen, zoals de energietransitie en de woningopgave”, licht Van Stokhem toe. “BREiNN pakt dat het liefst aan met inzet van AI en robots. We hebben op kantoor robot Bob, waarmee we experimenteren.”

Tijdwinst

Een van de maatschappelijke uitdagingen waarop Breman zich momenteel focust, is de woningnood. “Vooral sociale huurwoningen komen we tekort in Nederland”, zegt Van Stokhem. “Water daarentegen hebben we wel veel. Sterker nog, Nederland loopt door de klimaatverandering langzaam steeds verder onder water. We werken nu aan het project ‘Drijvende kracht’: een ontwerp voor woningen op water. Ik heb AI een paar dagen laten rekenen en tekenen. Mijn prompt (de opdracht aan de AI-tool, red.) bestond uit allerlei voorwaarden: drijvend, ronde vorm, in Nederland, lichtgewicht, bestand tegen weer en wind, et cetera. Na twee weekenden calculeren en nadenken spuugde het een tekening van een drijvende woning met aerodynamische koepel uit, inclusief technische specificaties. Die hebben we vanuit BREiNN na laten rekenen door bouwkundigen. Het bleek al heel dicht bij een werkende oplossing te liggen.”

Explainable AI

In een wereld die steeds meer door AI wordt aangestuurd, is het controleren en begrijpen van beslissingen en antwoorden van AI-systemen essentieel. Daarom is explainable AI (XAI) in opkomst. Een casus die schreeuwde om de uitlegbaarheid van AI, was de genderdiscriminatie door Apple Card in 2019. Vrouwen kregen via de Apple Card lagere kredietlimieten dan mannen, zelfs bij echtparen met gezamenlijke financiën. Europa zit met het regelgevingskader Artificial Intelligence Act (AIA) bovenop ethische en eerlijke toepassing van AI. Volgens Van Stokhem is XAI een belangrijke stap naar naleving van die act. Tijdens het event ‘De toekomst aan tafel: AI-Connect’ op 3 december in Zwolle, zoomden tientallen aanwezigen, waaronder Van Stokhem, in op het uitlegbaar maken van AI. Het AI-Connect event werd georganiseerd door ZWINC, Digitaal District Zwolle en de AI-hub Oost-Nederland, met financiële ondersteuning van Topsector ICT.

De toekomst aan tafel: AI-Connect

Keynote-spreker Meike Nauta, winnaar van de Prins Friso Ingenieursprijs 2025, deelde tijdens het event haar expertise over XAI. “Wat mij vooral bijbleef”, blikt Van Stokhem terug, “is dat we nu al kunnen werken aan de uitlegbaarheid van AI-toepassingen die we ontwikkelen. En dat je de toepassingen zelfs zo kunt programmeren dat die zichzélf uitleggen. Eigenlijk heel simpel, door bijvoorbeeld standaard in het prompt op te nemen dat de toepassing bij het beantwoorden van de vraag aangeeft hoe ’ie daarop is gekomen.”

Wat als werken optioneel wordt?

Het event bood Van Stokhem ook een moment van netwerken, vertragen en filosoferen. “Ik heb daar goede gesprekken gehad met mensen die ik anders niet zou ontmoeten. Bijvoorbeeld van ziekenhuis Isala. Mijn conclusie na de gesprekken op het event is dat AI voor een renaissance moet zorgen. Wat nou als werken – zoals we dat nu nog kennen - optioneel wordt? Dat AI het werk verzet en ‘the human in the loop is’ om te controleren of dat werk goed gaat? Dat we leidinggevenden worden van onze eigen AI-oplossingen? Dan hebben we allemaal tijd om onze kinderen naar school te brengen, kan de zorgmedewerker meer aandacht aan patiënten geven en heeft de installatiemonteur meer tijd voor vragen van de klanten waar ’ie over de vloer komt.”

In het verlengde van dat laatste spreekt Van Stokhem nog een wens uit voor de toekomst. “Met BREiNN zou ik een oplossing voor de monteurs van Breman willen maken. Er is geen monteur die met dit werk begint omdat ’ie zo van administratieve taken houdt. Wat als de monteur tegen zijn tablet kan praten en die alles in het systeem zet en automatisch een overzicht voor de klant print?”

Sparren over AI

Meedenken met andere bedrijven en organisaties doet Van Stokhem graag: “Iedereen die wil sparren over AI mag aankloppen bij BREiNN”: info@breinn.nl. Meer weten over AI-hub Oost-Nederland of een AI-vraagstuk voorleggen? Ga naar www.aihub-oost.nl, en neem contact op met één van onze programma-managers.