Je implementatie strandde niet door een technisch probleem. Het model werd genegeerd, omzeild of actief tegengewerkt door de mensen voor wie het bedoeld was. Dit is het meest onderschatte risico bij AI-trajecten.
Herkenbare patronen van weerstand
Analisten vertrouwen hun eigen spreadsheet boven het model
Als een senior analist met 12 jaar ervaring een modeluitkomst naast zich neerlegt, is dat geen koppigheid. Dat is een signaal dat het model geen aantoonbare meerwaarde heeft geleverd in hun dagelijkse beslissingen.
Geen inzicht in hoe het model tot een uitkomst komt
Zwarte-doos modellen worden zelden geadopteerd in financiele omgevingen waar beslissingen verantwoord moeten worden. SHAP-waarden of vergelijkbare technieken zijn geen luxe maar een vereiste.
Wat je had moeten doen voor livegang
Betrek twee tot drie eindgebruikers bij de validatiefase. Laat hen zelf gevallen beoordelen en vergelijk met modeluitkomsten. Bespreek afwijkingen expliciet, niet om hen te overtuigen maar om het model te testen op hun kennis.
Geen feedbackmechanisme ingebouwd
Als een analist ziet dat een voorspelling incorrect was, waar meldt die dat dan? Zonder feedbackloop leer je nooit welke fouten het model systematisch maakt.
Wat dit betekent voor een herstart
Ga niet opnieuw beginnen met betere techniek. Begin met een gesprek over welke beslissing het model moet ondersteunen en wie daarvoor verantwoordelijk is.