Modellen lezen. Mensen beslissen.
De vraag is niet wat AI kan. De vraag is wat er gebeurt als het fout zit, en het antwoord zit in hoe het werk verdeeld is.
IvanSofia
De vraag die we het vaakst van eigenaren horen, is niet “wat kan AI?” Ze hebben genoeg demo’s gezien om te weten dat het veel kan. De vraag is: “wat gebeurt er als het fout zit?”
Dat is de juiste vraag. Elk model maakt fouten. Het leest een 3 als een 8 op een wazige scan. Het haalt twee kopers met bijna dezelfde naam door elkaar. Het is zeker van zijn zaak als dat niet terecht is. De echte vraag is niet of er fouten gebeuren, maar waar ze terecht kunnen komen.
Drie taken, drie eigenaren
Ons antwoord is het werk in drieën te splitsen en elk deel te geven aan wie er het best in is:
- Het model leest en doet een voorstel. Het maakt van een Italiaanse e-mail een order, van een spraakbericht een deal, van een gescand certificaat ingevulde velden. Dit is het rommelige deel van het werk, en daar zijn modellen heel goed in.
- Code rekent de cijfers uit. Marges, opslagkosten, factuurtotalen, leverweken. Gewone code die elke keer hetzelfde antwoord geeft. Geen model gokt een prijs.
- Een mens beslist. De order telt als iemand klikt. De herinnering gaat de deur uit als iemand hem goedkeurt. En elke klik kan ongedaan worden gemaakt.
Wat dat betekent voor fouten
Leest een model een woord verkeerd, dan is het ergste geval een fout concept. Een mens ziet het, corrigeert het en gaat verder. Het wordt nooit een foute factuur, want de factuur wordt door code berekend en door een mens uitgeschreven.
Als de software het niet zeker weet, gokt hij niet. Hij laat alles zoals het was en vraagt het. Dat klinkt trager. In de praktijk is het sneller, want niemand hoeft een middag te ontwarren wat de AI op eigen houtje deed.
Waarom dit telt voor vertrouwen
Ik zie al jaren teams nieuwe tools in gebruik nemen. Het patroon is altijd hetzelfde: mensen gebruiken wat ze kunnen controleren.
Als het team kan zien wat de AI las en wat hij voorstelde, gaan ze er binnen een paar weken op vertrouwen. Ze vangen een fout, zien dat die makkelijk te vangen was, en vertrouwen hem iets meer. Als de AI uit het zicht handelt, gebeurt dat nooit. Eén verrassing is genoeg.
Daarom laten we ons werk zien. Wat er gelezen is, waar het vandaan kwam, wat er wordt voorgesteld, en wie ja zei.
Waar het als eerste handelt
We proberen eerlijk te zijn over de uitzonderingen. Op de MeatBorsa-marktplaats worden aanbiedingen die per e-mail binnenkomen gepubliceerd, en chatberichten vertaald, voordat een mens kijkt. Dat zeggen we gewoon, want u hoort het liever van ons. Meer over hoe we AI veilig houden.
