Agent AI przygotował ofertę i pyta: „Czy kontynuować?”. Pracownik klika zgodę. Chwilę później narzędzie dopisuje załącznik, zmienia termin i wysyła wiadomość do innego adresata. Formalnie ktoś coś zaakceptował. Tylko trudno powiedzieć, co dokładnie. Zatwierdzenie ma sens, gdy dotyczy konkretnego działania, które po akceptacji pozostaje tym samym działaniem.
W automatyzacji przepływów pracy ten moment projektuje się podobnie jak przekazanie zadania między pracownikami. Trzeba wskazać przedmiot decyzji, osobę uprawnioną oraz skutek odmowy. Sam przycisk z napisem „Akceptuj” nie załatwi pozostałych ustaleń.
Oddziel przygotowanie od wykonania
Niektóre zadania mogą kończyć się na propozycji. Agent zbiera informacje, tworzy szkic i wskazuje rozbieżności. Prawo do wysłania wiadomości, zmiany rekordu lub uruchomienia kolejnego etapu stanowi osobny zakres. Dokumentacja OpenAI opisuje mechanizm wywoływania narzędzi jako współpracę modelu z kodem aplikacji; to aplikacja obsługuje wykonanie proponowanej operacji.
Ten podział pozwala kontrolować działania poza samą rozmową. Jeżeli agent ma tylko odczyt rejestru, nie zmieni ceny przez sprytne sformułowanie polecenia. Uprawnienia techniczne powinny odpowiadać uzgodnionemu zakresowi. Prośba „nie rób nic ryzykownego” jest zbyt pojemna, aby zastąpić taki mechanizm.
Przy obsłudze zapytań klientów można na przykład dopuścić samodzielne przypisywanie sprawy do kolejki, a pozostawić człowiekowi zatwierdzenie indywidualnej obietnicy terminu. Nie każda czynność wymaga tej samej kontroli. Wymaganie zgody na każdy odczyt szybko zamieni nadzór w rytmiczne klikanie.
Materiał od klienta może zawierać treść przypominającą polecenie. Dlatego granice działania warto zestawić z ochroną przed prompt injection w dokumentach. Załącznik nie powinien zmienić odbiorcy oferty ani wyłączyć wymogu akceptacji. Te zasady muszą pozostać po stronie aplikacji, niezależnie od tego, jak przekonująco dokument zwraca się do agenta.
Pokaż to, za co osoba bierze odpowiedzialność
Ekran decyzji powinien zawierać gotową treść, odbiorców, powiązaną sprawę i istotne zmiany danych. W portalu obsługującym sprawy finansowe przy operacji zbiorczej potrzebna jest możliwość obejrzenia pozycji, a nie wyłącznie komunikat „zmienimy kilka rekordów”. Zadbaj o czytelne wskazanie źródeł wartości, których człowiek nie potrafi ocenić z pamięci.
Nadaj propozycji wersję lub inny jednoznaczny identyfikator. Po zmianie istotnych danych poprzednia zgoda nie powinna automatycznie obejmować nowego wariantu. Podobne podejście przydaje się przy odbiorze aplikacji według kryteriów: oceniany przedmiot musi być rozpoznawalny.
Ustal termin ważności decyzji. Oferta zaakceptowana przed zmianą dostępności zasobów może wymagać ponownego sprawdzenia. System powinien pokazać, dlaczego zatrzymał wykonanie, zamiast sugerować, że człowiek kliknął za mało stanowczo. Przyczyną jest zmiana warunków, nie brak entuzjazmu dla przycisku.
Odmowa potrzebuje dalszej drogi
Po odrzuceniu propozycji sprawa może wrócić do poprawy, zostać przekazana innej osobie albo zakończyć się bez działania. Wybierz te możliwości świadomie. Agent nie powinien potraktować odmowy jako zaproszenia do szukania innego narzędzia wykonującego tę samą operację.
Sprawdź także brak decyzji. Kto zobaczy zalegającą akceptację? Czy istnieje zastępstwo? Co następuje po wygaśnięciu? Bez tych ustaleń automatyzacja przeniesie zator ze skrzynki mailowej do bardziej eleganckiej kolejki. Praktyczne reguły takiej obsługi opisuje monitorowanie automatyzacji i błędów.
Dziennik powinien pozwalać ustalić, kto zatwierdził określoną wersję oraz jakie działanie wykonano. Nie wymaga to bezrefleksyjnego kopiowania wszystkich dokumentów do logów. Zwykle potrzebujesz identyfikatorów, statusów i możliwości powiązania ich z kontrolowanym źródłem, a zakres zapisu wynika z procesu.
Dolicz obsługę akceptacji do kosztu utrzymania systemu AI. Czas osoby sprawdzającej propozycję jest częścią procesu. Jeżeli po uruchomieniu pracownik musi badać więcej szczegółów niż wcześniej, sam szybszy szkic nie przesądza o korzyści. Można wtedy zmienić zakres, poprawić ekran decyzji albo zostawić automatyzacji węższy etap zadania. Zapisz też, ile propozycji odrzucono z powodu brakujących danych.
Po zgodzie sprawdź skutek w systemie docelowym
Akceptacja oznacza upoważnienie do działania, nie dowód, że operacja się udała. Po wykonaniu odczytaj potwierdzony stan w aplikacji docelowej. Gdy połączenie zerwie się po zapisie, ponowienie nie może w ciemno utworzyć drugiej oferty lub drugiego zlecenia. Ten przypadek trzeba przećwiczyć przed udostępnieniem procesu zespołowi.
Projektując agenta AI dla firmy, zaczynamy od listy operacji i ich skutków. Na tej podstawie można wyznaczyć sensowne punkty zatwierdzania, przygotować ekran decyzji i ustalić próby odbiorcze. Dzięki temu człowiek kontroluje konkretne zobowiązania, zamiast zatwierdzać tajemniczy dalszy ciąg rozmowy.
Źródła i dokumentacja
Materiały sprawdzone przy opracowaniu tekstu. Przy wyborze usługi lub technologii potwierdzamy warunki dla konkretnego projektu.
