Van zwarte doos naar uitlegbare AI
Veel AI-systemen zetten informatie om in complexe rekenmodellen die voor mensen niet meer te volgen zijn. Dat maakt de technologie krachtig, maar ook moeilijk controleerbaar. Daar zag Thoughtful Oasis een kans. In plaats van AI uitsluitend te laten werken met onbegrijpelijke rekenwaarden, ontwikkelde het bedrijf een tussenlaag waarin begrippen worden gebruikt die vakexperts zelf hebben gekozen. Denk aan termen als urgentie, soort gevaar of bevoegdheid.
“De rekenkracht blijft hetzelfde, maar het resultaat verandert”, vertelt Rens Dommerholt, medeoprichter en CEO bij Thoughtful Oasis. “Elk antwoord is terug te leiden naar de begrippen die het opleverden. Dus niet score 0,83, maar hoge overlap op urgentie, gemiddelde op gevaarklasse. AI is daardoor controleerbaar. Niet door er achteraf een audit op los te laten, maar omdat hij zo is gebouwd.” Volgens Dommerholt maakt dat AI niet alleen transparanter, maar ook beter toepasbaar in omgevingen waar beslissingen achteraf verklaard moeten kunnen worden.
Wetenschappelijke basis als fundament
Deze aanpak – die Thoughtful Oasis zelf ontologische vectordatabase noemt – is niet ontstaan vanuit een bestaand softwareproduct, maar vanuit eigen wetenschappelijk onderzoek. Het bedrijf heeft de methode in drie wetenschappelijke publicaties uitgewerkt en openbaar gepubliceerd. De toepassingen die nu bij klanten draaien zijn daar de directe vertaling van.
De grootste uitdaging lag niet in het bedenken van het concept, maar in het aantonen dat het daadwerkelijk werkt. Lange tijd werd aangenomen dat krachtige AI en volledige uitlegbaarheid niet samengaan. Thoughtful Oasis wilde bewijzen dat beide wel degelijk gecombineerd kunnen worden. Daarvoor moest niet alleen een begrijpelijke begrippenstructuur worden ontwikkeld, maar ook worden aangetoond dat een taalmodel dezelfde situatie steeds op consistente wijze beoordeelt. Dat is hen gelukt, en de eerste pilots draaien al.
“Een bijkomend voordeel is dat de ontwikkelde datalaag losstaat van het AI-model. Daardoor kunnen organisaties in de toekomst overstappen op nieuwe taalmodellen zonder opnieuw te beginnen”, zegt Dommerholt.
Snellere en beter onderbouwde beslissingen bij de brandweer
Een van de eerste toepassingen is MissionOS, ontwikkeld voor Veiligheidsregio Noord- en Oost-Gelderland (VNOG). “Bij incidenten moeten bevelvoerders vaak binnen enkele seconden beslissingen nemen, terwijl het juiste protocol in een handboek van honderden pagina's staat dat niemand doorbladert op een rijdende tankautospuit”, legt Dommerholt uit. MissionOS analyseert de situatie aan de hand van benoemde kenmerken zoals het type incident, beschikbare middelen en bevoegdheden en wijst vervolgens het meest relevante protocol aan.
“Het grote verschil met traditionele AI-oplossingen is dat iedere aanbeveling direct herleidbaar is naar de gebruikte bronnen en begrippen. Hierdoor kunnen gebruikers controleren waarom een bepaald advies wordt gegeven”, vervolgt Dommerholt. De pilot draait momenteel met vijftien medewerkers van VNOG. Inmiddels zijn meer dan 250 simulaties uitgevoerd en staat een livegang na de zomer gepland.
Minder Woo-verzoeken door burgers sneller antwoord te geven
Ook het ministerie van Justitie en Veiligheid is een klant van Thoughtful Oasis. VraagMijnOverheid draait er in een pilot rondom de Wet open overheid (Woo) die regelt dat burgers overheidsinformatie kunnen opvragen. Veel burgers dienen een Woo-verzoek in omdat zij niet weten waar openbare informatie al beschikbaar is. Het verwerken van deze verzoeken kost overheidsorganisaties veel tijd en capaciteit.
VraagMijnOverheid pakt het probleem aan de voorkant aan. Burgers stellen hun vraag in gewone taal, waarna het systeem direct verwijst naar het antwoord, als deze informatie al openbaar is. Daardoor hoeft in veel gevallen geen formeel Woo-verzoek meer te worden gestart. “De pilot is sinds 15 juli opengezet voor burgers. Sindsdien zijn er al 51 chats gestart, waarna twaalf zoekrapporten gedownload zijn, en drie ingediende informatieverzoeken binnen zijn gekomen. Een informatieverzoek is gunstiger voor het ministerie want deze zijn sneller af te handelen dan officiële Woo-verzoeken”, vertelt Dommerholt.
Het systeem levert voordelen op voor beide partijen; burgers krijgen sneller antwoord in begrijpelijke taal en de overheid voorkomt onnodige administratieve procedures. Tegelijkertijd draagt de oplossing bij aan meer transparantie en toegankelijkheid van overheidsinformatie.
AI als ondersteuner
Voor Thoughtful Oasis draait AI niet om het vervangen van menselijke expertise, maar juist om het ondersteunen ervan. Door beslissingen uitlegbaar te maken, blijft de vakexpert betrokken en kan deze een AI-advies beoordelen, controleren of ter discussie stellen. Dat vergroot niet alleen het vertrouwen in de technologie, maar maakt implementatie binnen organisaties ook eenvoudiger.
Uitlegbare AI zal een steeds belangrijkere rol spelen naarmate kunstmatige intelligentie vaker wordt ingezet in kritische processen. Niet alleen omdat regelgeving daarom vraagt, maar vooral omdat professionals willen begrijpen waarop een advies gebaseerd is voordat zij ernaar handelen.
Praktische tips voor ondernemers
- Betrek vakexperts vanaf de eerste dag. Zij bepalen welke kennis en begrippen echt relevant zijn voor de praktijk.
- Begin met één concreet vraagstuk. Een overzichtelijke pilot levert sneller inzichten op dan een brede implementatie.
- Denk vooruit. Bouw oplossingen zo op dat nieuwe AI-modellen later eenvoudig kunnen worden geïntegreerd.
- Zie AI als ondersteuning van mensen. De grootste meerwaarde ontstaat wanneer technologie en menselijke expertise elkaar versterken.
Wil jij ook aan de slag met AI? Neem dan contact met ons op.
