De software was niet het probleem. Niemand vertrouwde hem.

Waarom levert automatisering soms niets op?

Een systeem dat technisch werkt maar niet vertrouwd wordt, levert niets op. Er ontstaat dan een controlelaag: de computer doet het werk en mensen kijken na of het klopt. Onder de streep is er dan meer werk dan ervoor, en dat is geen automatisering.

Hoe dat eruitziet

Het systeem maakt automatisch iets aan. Een medewerker controleert het. Daarna kijkt een collega er nog even naar. En omdat het nieuw is, wil de manager de eerste maanden ook meelezen.

Eerst deed één persoon het werk.

Nu doet de computer het werk en controleren drie mensen of hij het goed heeft gedaan.

Dat is geen randgeval. Het is de meest voorkomende manier waarop een geslaagd project alsnog niets oplevert, en het staat in geen enkele oplevering.

Waarom die controlelaag ontstaat

Niet uit onwil. Uit iets veel redelijkers.

Er is één keer iets misgegaan. In de eerste week deed het systeem iets vreemds bij een uitzondering. Dat is gerepareerd, maar het verhaal blijft rondgaan — en één zichtbare fout weegt zwaarder dan honderd goede gevallen die niemand opmerkt.

Niemand kan zien waaróm het systeem iets deed. Als een collega een offerte maakt, kunt u het hem vragen. Als het systeem het doet, is er een uitkomst en geen redenering. Dan blijft er twijfel, ook als de uitkomst klopt.

De verantwoordelijkheid is niet verplaatst. De medewerker wordt nog steeds aangesproken als er iets fout gaat. Dan is nakijken geen wantrouwen maar zelfbescherming, en volstrekt logisch.

Dat derde punt is het belangrijkste en het minst besproken. Zolang iemand aansprakelijk blijft voor werk dat hij niet meer doet, blijft hij controleren. Dat lost u niet op met betere software.

De vraag die het gesprek opent

Vraag niet of mensen het systeem vertrouwen. Iedereen zegt ja.

Vraag: *wanneer heeft u voor het laatst een fout van het systeem gevonden?*

Is het antwoord “eigenlijk nooit”, dan controleert men uit gewoonte en is dat bespreekbaar. Is het antwoord concreet, dan is er iets aan de hand en moet dat eerst opgelost worden voordat er over vertrouwen te praten valt.

Dat is dezelfde gewoonte als bij vraag wat iemand ziet: niet naar een oordeel vragen maar naar een waarneming.

Hoe u vertrouwen wél opbouwt

Laat het systeem zijn redenering tonen. Niet alleen de uitkomst maar waarom: welke regel werd toegepast, welke gegevens gebruikt. Een uitkomst die u kunt navertellen, hoeft u niet na te rekenen.

Laat het bij twijfel niets doen. Een systeem dat zegt “dit geval weet ik niet, kijk jij even” bouwt sneller vertrouwen op dan een systeem dat altijd een antwoord geeft. Dat is ook de reden dat wij bij een agent vastleggen wat er bij twijfel moet gebeuren, en niet alleen wat hij mag.

Begin met een deel. Laat het systeem eerst de gevallen doen waar niets aan vastzit, en houd de rest bij de mens. Als dat drie maanden goed gaat, is het gesprek over de volgende stap een ander gesprek.

Bouw de controle expliciet af. Dit vergeet bijna iedereen. Er wordt afgesproken dat er de eerste maand wordt meegelezen, en dan blijft dat vier jaar zo omdat niemand het moment aanwijst waarop het stopt. Spreek af: na hoeveel goede gevallen gaat de controle eraf. Zet er een getal bij.

Verplaats de verantwoordelijkheid mee. Als het systeem de handeling doet, hoort een fout van het systeem geen fout van de medewerker meer te zijn. Zolang dat niet uitgesproken is, blijft er gecontroleerd worden — en terecht.

Wat dit voor uw project betekent

De technische oplevering is het halve werk. Wij rekenen een traject pas als geslaagd wanneer de controlelaag weg is, want daarvoor is er niets bespaard.

Dat betekent ook dat wij soms adviseren minder te automatiseren dan mogelijk is. Een systeem dat negentig procent doet en dat volledig vertrouwd wordt, levert meer op dan een systeem dat honderd procent doet en dat iedereen nakijkt. Zie ook waarom AI-projecten mislukken — dit is daar de meest onderschatte oorzaak van.

Tel wie er nog meekijkt

Zoek een handeling die u ooit hebt geautomatiseerd en tel hoeveel mensen er nu nog naar kijken.

Is dat er meer dan nul, vraag dan wanneer die controle er voor het laatst iets uithaalde. Weet niemand dat, dan hebt u een afspraak te maken in plaats van software te bouwen.