Les modèles lisent. Les personnes décident.
La question n’est pas ce que l’IA sait faire. C’est ce qui se passe quand elle se trompe, et la réponse tient à la façon dont le travail est réparti.
IvanSofia
La question que nous entendons le plus souvent de la part des dirigeants n’est pas “que sait faire l’IA ?” Ils ont vu assez de démos pour savoir qu’elle sait faire beaucoup. La question est : “que se passe-t-il quand elle se trompe ?”
C’est la bonne question. Tout modèle fait des erreurs. Il lit un 3 comme un 8 sur un scan flou. Il confond deux acheteurs aux noms proches. Il est sûr de lui quand il ne devrait pas l’être. La vraie question n’est pas de savoir si les erreurs arrivent, mais où elles peuvent aboutir.
Trois tâches, trois responsables
Notre réponse : découper le travail en trois, et confier chaque partie à qui la fait le mieux :
- Le modèle lit et propose. Il transforme un e-mail en italien en commande, un message vocal en affaire, un certificat scanné en champs. C’est la partie désordonnée du travail, et les modèles y excellent.
- Le code calcule les chiffres. Marges, frais de stockage, totaux de factures, semaines de livraison. Du code simple qui donne la même réponse à chaque fois. Aucun modèle ne devine un prix.
- Une personne décide. La commande compte quand quelqu’un clique. La relance part quand quelqu’un l’approuve. Et chaque clic peut être annulé.
Ce que cela change pour les erreurs
Quand un modèle lit mal un mot, le pire résultat est un brouillon erroné. Une personne le voit, le corrige et passe à autre chose. Cela ne devient jamais une facture erronée, parce que la facture est calculée par le code et émise par une personne.
Quand le logiciel n’est pas sûr, il ne devine pas. Il laisse les choses en l’état et pose la question. Cela paraît plus lent. En pratique, c’est plus rapide, parce que personne n’a à passer un après-midi à démêler ce que l’IA a fait seule.
Pourquoi c’est une question de confiance
Je regarde des équipes adopter de nouveaux outils depuis des années. Le schéma est toujours le même : les gens utilisent ce qu’ils peuvent vérifier.
Si l’équipe voit ce que l’IA a lu et ce qu’elle a proposé, elle commence à s’y fier en quelques semaines. Elle repère une erreur, voit qu’elle était facile à repérer, et lui fait un peu plus confiance. Si l’IA agit hors de vue, cela n’arrive jamais. Une seule surprise suffit.
C’est pourquoi nous montrons notre travail. Ce qui a été lu, d’où cela vient, ce qui est proposé, et qui a dit oui.
Là où elle agit en premier
Nous essayons d’être honnêtes sur les exceptions. Sur la place de marché MeatBorsa, les offres reçues par e-mail sont publiées, et les messages du chat sont traduits, avant qu’une personne ne regarde. Nous le disons clairement, parce que vous devez l’apprendre de nous. Comment nous sécurisons l’IA.
