Modele czytają. Ludzie decydują.
Pytanie nie brzmi, co AI potrafi. Brzmi: co się dzieje, gdy się myli. A odpowiedź tkwi w podziale pracy.
IvanSofia
Pytanie, które najczęściej słyszymy od właścicieli, nie brzmi „co AI potrafi?”. Widzieli dość dem, by wiedzieć, że potrafi dużo. Pytanie brzmi: „co się dzieje, gdy się myli?”
To dobre pytanie. Każdy model popełnia błędy. Na nieostrym skanie czyta 3 jako 8. Myli dwóch odbiorców o podobnych nazwach. Jest pewny siebie, gdy nie powinien. Prawdziwe pytanie nie brzmi, czy błędy się zdarzają, tylko gdzie mogą trafić.
Trzy zadania, trzech właścicieli
Nasza odpowiedź to podzielić pracę na trzy części i oddać każdą temu, kto robi ją najlepiej:
- Model czyta i proponuje. Zamienia maila po włosku w zamówienie, notatkę głosową w transakcję, zeskanowane świadectwo w pola formularza. To nieuporządkowana część pracy i modele są w niej bardzo dobre.
- Kod liczy. Marże, koszty składowania, sumy faktur, tygodnie dostaw. Zwykły kod, który za każdym razem daje ten sam wynik. Żaden model nie zgaduje ceny.
- Człowiek decyduje. Zamówienie liczy się, gdy ktoś kliknie. Przypomnienie wychodzi, gdy ktoś je zatwierdzi. A każde kliknięcie można cofnąć.
Co to oznacza dla błędów
Gdy model źle odczyta słowo, w najgorszym razie powstaje błędny szkic. Człowiek go widzi, poprawia i idzie dalej. Nigdy nie zamienia się to w błędną fakturę, bo fakturę liczy kod, a wystawia człowiek.
Gdy oprogramowanie nie ma pewności, nie zgaduje. Zostawia wszystko bez zmian i pyta. Brzmi to wolniej. W praktyce jest szybciej, bo nikt nie musi spędzać popołudnia na odkręcaniu czegoś, co AI zrobiło na własną rękę.
Dlaczego to ważne dla zaufania
Od lat obserwuję, jak zespoły wdrażają nowe narzędzia. Schemat jest zawsze ten sam: ludzie używają tego, co mogą sprawdzić.
Jeśli zespół widzi, co AI przeczytało i co zaproponowało, w ciągu kilku tygodni zaczyna na nim polegać. Wyłapuje błąd, widzi, że łatwo go było wyłapać, i ufa trochę bardziej. Jeśli AI działa poza zasięgiem wzroku, zaufanie nie przychodzi nigdy. Wystarczy jedna niespodzianka.
Dlatego pokazujemy, jak doszliśmy do wyniku. Co zostało przeczytane, skąd pochodzi, co jest proponowane i kto powiedział tak.
Gdzie działa pierwsze
Staramy się uczciwie mówić o wyjątkach. Na giełdzie MeatBorsa oferty przysłane mailem są publikowane, a wiadomości na czacie tłumaczone, zanim spojrzy na nie człowiek. Mówimy o tym wprost, bo powinni Państwo usłyszeć to od nas. Więcej o tym, jak dbamy o bezpieczeństwo AI.
