I modelli leggono. Le persone decidono.
La domanda non è cosa sa fare l’AI. È cosa succede quando sbaglia, e la risposta sta in come si divide il lavoro.
IvanSofia
La domanda che sentiamo più spesso dai titolari non è “cosa sa fare l’AI?”. Hanno visto abbastanza demo per sapere che sa fare molto. La domanda è: “cosa succede quando sbaglia?”
È la domanda giusta. Ogni modello commette errori. Legge un 3 come un 8 su una scansione sfocata. Confonde due acquirenti con nomi simili. È sicuro di sé quando non dovrebbe. La vera domanda non è se gli errori capitano, ma dove possono andare a finire.
Tre compiti, tre responsabili
La nostra risposta è dividere il lavoro in tre, e affidare ogni parte a chi la fa meglio:
- Il modello legge e propone. Trasforma un’email in italiano in un ordine, un messaggio vocale in un affare, un certificato scansionato in campi compilati. È la parte disordinata del lavoro, e i modelli la fanno molto bene.
- Il codice calcola i numeri. Margini, costi di stoccaggio, totali delle fatture, settimane di consegna. Codice semplice che dà ogni volta la stessa risposta. Nessun modello tira a indovinare un prezzo.
- Una persona decide. L’ordine vale quando qualcuno clicca. Il sollecito parte quando qualcuno lo approva. E ogni clic si può annullare.
Cosa significa per gli errori
Quando un modello legge male una parola, il caso peggiore è una bozza sbagliata. Una persona la vede, la corregge e va avanti. Non diventa mai una fattura sbagliata, perché la fattura è calcolata dal codice ed emessa da una persona.
Quando il software non è sicuro, non tira a indovinare. Lascia le cose come stavano e chiede. Sembra più lento. In pratica è più veloce, perché nessuno deve passare un pomeriggio a sbrogliare qualcosa che l’AI ha fatto da sola.
Perché conta per la fiducia
Da anni osservo team che adottano nuovi strumenti. Lo schema è sempre lo stesso: le persone usano ciò che possono verificare.
Se il team vede cosa ha letto l’AI e cosa ha proposto, comincia a fidarsi nel giro di settimane. Trova un errore, vede che era facile trovarlo, e si fida un po’ di più. Se l’AI agisce senza farsi vedere, non succede mai. Basta una sorpresa.
Per questo mostriamo il nostro lavoro. Cosa è stato letto, da dove viene, cosa viene proposto e chi ha detto sì.
Dove agisce per prima
Cerchiamo di essere onesti sulle eccezioni. Sul marketplace MeatBorsa le offerte che arrivano via email vengono pubblicate, e i messaggi in chat vengono tradotti, prima che una persona guardi. Lo diciamo chiaramente, perché è giusto che lo sappia da noi. Di più su come manteniamo sicura l’AI.
