Моделите четат. Хората решават.
Въпросът не е какво може AI. А какво става, когато сгреши – и отговорът е в това как е разделена работата.
IvanSofia
Въпросът, който най-често чуваме от собствениците, не е „какво може AI?“. Видели са достатъчно демота, за да знаят, че може много. Въпросът е: „какво става, когато сгреши?“
Правилният въпрос е. Всеки модел греши. Чете 3 като 8 на размазан скан. Бърка двама купувачи с подобни имена. Сигурен е, когато не бива да е. Истинският въпрос не е дали ще има грешки, а докъде могат да стигнат.
Три задачи, трима отговорни
Нашият отговор е да разделим работата на три и да дадем всяка част на този, който я върши най-добре:
- Моделът чете и предлага. Превръща имейл на италиански в поръчка, гласово съобщение в сделка, сканиран сертификат в попълнени полета. Това е хаотичната част от работата и моделите са много добри в нея.
- Кодът смята числата. Маржове, разходи за съхранение, суми по фактури, седмици на доставка. Обикновен код, който дава един и същ отговор всеки път. Никой модел не гадае цена.
- Човек решава. Поръчката важи, когато някой кликне. Напомнянето излиза, когато някой го одобри. И всеки клик може да се отмени.
Какво означава това за грешките
Когато моделът прочете грешно дума, най-лошият случай е грешна чернова. Човек я вижда, поправя я и продължава. Тя никога не става грешна фактура, защото фактурата се смята от кода и се издава от човек.
Когато софтуерът не е сигурен, не гадае. Оставя всичко както си е и пита. Звучи по-бавно. На практика е по-бързо, защото никой не губи следобед да разплита нещо, което AI е направил сам.
Защо това е важно за доверието
От години гледам как екипи приемат нови инструменти. Моделът винаги е един и същ: хората ползват това, което могат да проверят.
Ако екипът вижда какво е прочел AI и какво предлага, за седмици започва да разчита на него. Хващат грешка, виждат, че е било лесно да се хване, и му вярват малко повече. Ако AI действа скрито, това никога не става. Стига една изненада.
Затова показваме какво правим. Какво е прочетено, откъде идва, какво се предлага и кой е казал „да“.
Местата, където действа пръв
Стараем се да сме честни за изключенията. В борсата MeatBorsa оферти, пристигнали по имейл, се публикуват, а съобщенията в чата се превеждат, преди човек да погледне. Казваме го направо, защото трябва да го чуете от нас. Още за това как пазим AI безопасен.
