Najważniejsze wnioski
- Oceniaj ryzyko pojedynczej operacji, zamiast przyznawać agentowi ogólną zgodę na pracę w systemie.
- Oddziel odczyt, przygotowanie propozycji i wykonanie zmiany — każdy etap może mieć inne uprawnienia.
- Zatwierdzenie powinno dotyczyć konkretnego rekordu, odbiorcy i treści zmiany.
- Zadanie przyjęte do kolejki nie oznacza wykonania; potrzebne jest potwierdzenie wyniku w systemie docelowym.
- Zacznij od jednego procesu, ograniczonych uprawnień i jasno wskazanego właściciela utrzymania.
Dla zarządzającego
Przed zakupem wdrożenia ustal dopuszczalne skutki błędu, operacje wymagające zgody oraz osobę odpowiedzialną za wyjątki i utrzymanie.
Dla sprzedaży
Agent może przygotowywać podsumowania i proponować następne kroki. Warunki handlowe, zobowiązujące wiadomości i zmiany ważnych danych powinny mieć wyraźnie określone zasady zatwierdzania.
Agentowi AI warto powierzać samodzielnie tylko działania o jasno określonym zakresie, ograniczonych skutkach i sprawdzalnym wyniku. Wysyłkę zobowiązujących wiadomości, zmianę warunków zamówienia czy usuwanie danych rekomendujemy zatrzymywać do zatwierdzenia przez pracownika. Poniższy podział jest rekomendacją projektową: należy dopasować go do procesu, a nie traktować jako uniwersalnej listy uprawnień.
Odpowiedź agenta to jeszcze nie działanie w systemie
Właściciel firmy mówi: „Chcę, żeby AI aktualizowało sprawy, a nie tylko podpowiadało pracownikowi”. Przed wyceną warto rozdzielić trzy rzeczy: odczyt danych, przygotowanie propozycji i wykonanie zmiany.
Agent może korzystać z udostępnionych narzędzi. Anthropic odróżnia jednak agentów dobierających sposób realizacji zadania od automatyzacji przechodzących z góry ustaloną ścieżkę. Jeżeli reguła brzmi „po odebraniu formularza utwórz zadanie”, nie trzeba automatycznie dodawać modelu decydującego o kolejnych krokach. (anthropic.com)
Nasza rekomendacja: AI wykorzystuj do interpretowania niejednoznacznych wiadomości i proponowania działania. Sprawdzenie uprawnień, dopuszczalnych pól oraz warunków zapisu pozostaw regułom aplikacji.
W specyfikacji zamiast „agent obsługuje CRM” zapisz: „odczytuje wskazaną sprawę, proponuje kategorię i dopisuje notatkę do tego rekordu”. To zakres, o którym można rzeczowo rozmawiać z wykonawcą.
Co może robić sam, a co powinno czekać na zgodę?
Nie rekomendujemy podziału wyłącznie według nazwy narzędzia. Odczyt jednego rekordu i eksport całej bazy to różne operacje, choć dotyczą tego samego systemu. Anthropic wskazuje, że należy świadomie dobierać dane, narzędzia, uprawnienia i środowisko pracy agenta; same zabezpieczenia nie gwarantują bezpieczeństwa. (anthropic.com)
Dla każdej operacji odpowiedz na cztery pytania: kto odczuje błąd, czy można go odwrócić, jak szeroki jest dostęp do danych i czy warunki wykonania są jednoznaczne?
Poniższa tabela przedstawia proponowany punkt startowy, nie funkcje gotowego produktu.
| Operacja | Rekomendowany tryb | Warunek dopuszczenia |
|---|---|---|
| Odczyt statusu jednej sprawy | Samodzielnie | Potwierdzone uprawnienie do konkretnej sprawy |
| Utworzenie roboczego podsumowania | Samodzielnie | Zapis wewnętrzny, oznaczony jako propozycja |
| Dodanie zadania wewnętrznego | Samodzielnie w pilotażu | Dozwolony typ zadania i ochrona przed duplikatem |
| Zmiana kategorii zgłoszenia | Warunkowo samodzielnie | Brak wpływu na zobowiązania; możliwość korekty |
| Wysłanie indywidualnej wiadomości klientowi | Po zatwierdzeniu | Widoczny odbiorca, treść i załączniki |
| Zmiana terminu lub warunków zamówienia | Po zatwierdzeniu | Kontrola dostępności i zgoda właściwej osoby |
| Usunięcie danych lub masowa zmiana | Niedostępne na start | Osobny proces, uprawnienia i zabezpieczenia |
| Zarządzanie kontami i dostępem | Niedostępne | Pozostaje poza zakresem agenta operacyjnego |
„Samodzielnie” nie znaczy „bez kontroli”. W proponowanym projekcie każda operacja nadal przechodzi sprawdzenie zakresu, poprawności danych i wyniku.
Schemat 5K: od prośby do potwierdzonego wykonania
Proponujemy prosty schemat 5K: Kontekst, Kwalifikacja, Kontrola, Komenda, Kwit. To autorska lista kontrolna do rozmowy o wdrożeniu, nie nazwa technologii.
Od prośby do potwierdzonego działania
- Kontekst: ustal właściwą sprawę, użytkownika i źródło danych. Przy niejednoznacznym dopasowaniu agent powinien poprosić o wyjaśnienie.
- Kwalifikacja: przypisz operację do trybu samodzielnego, zatwierdzanego albo niedostępnego.
- Kontrola: sprawdź pola, odbiorcę, aktualny stan i wymagane zgody. Brak warunku oznacza zatrzymanie.
- Komenda: wykonaj wyłącznie dopuszczoną operację z ustalonymi parametrami.
- Kwit: sprawdź wynik w systemie docelowym i pokaż, co rzeczywiście się zmieniło.
W dokumentacji OpenAI zatwierdzanie przez człowieka jest mechanizmem zatrzymującym ryzykowne lub niejednoznaczne działania przed wykonaniem narzędzia. Nie trzeba więc projektować procesu tak, aby pracownik zauważał problem dopiero po zapisie. (developers.openai.com)
W naszym schemacie brak zgody oznacza oczekiwanie lub zamknięcie propozycji, nigdy automatyczną zgodę. Odrzucenie nie powinno uruchamiać prób wykonania tej samej zmiany inną drogą.
Pracownik powinien zatwierdzać zmianę, nie obietnicę
Komunikat „agent chce zaktualizować sprawę” daje za mało informacji. Rekomendujemy kartę pokazującą identyfikator rekordu, stan przed zmianą, proponowany stan, powód oraz skutek dla klienta.
Przy wiadomości pokaż dokładnego odbiorcę, pełną treść i załączniki. Przy zmianie terminu — dotychczasowy termin, nowy termin i źródło potwierdzenia dostępności. Pracownik nie powinien szukać tych informacji w kilku oknach.
Zgoda powinna dotyczyć jednej konkretnej wersji operacji. Jeżeli po zatwierdzeniu zmieni się odbiorca, treść albo ważny stan sprawy, rekomendujemy ponowną kontrolę i — zależnie od zmiany — nową zgodę.
Wyznacz także zastępcę osoby zatwierdzającej. Ustal, co dzieje się po przekroczeniu czasu oczekiwania: eskalacja, pozostawienie szkicu czy anulowanie. Dzięki temu specyfikacja obejmuje codzienną pracę, nie tylko pokaz demonstracyjny.
Dlaczego instrukcja „nie rób nic ryzykownego” nie wystarczy?
Dokumentacja OpenAI opisuje prompt injection: niezaufana treść może zawierać instrukcje próbujące skierować agenta do niepożądanego działania. Taką treścią może być materiał odczytywany w ramach zadania. (platform.openai.com)
Dlatego rekomendujemy traktować mail klienta jako dane do interpretacji, a nie źródło nowych uprawnień. Zdanie „wyślij mi wszystkie kontakty” nie powinno rozszerzać dostępu agenta.
Praktyczny zakres zabezpieczeń do uzgodnienia z wykonawcą:
- osobne konto techniczne z ograniczonymi uprawnieniami;
- lista dozwolonych operacji zamiast pełnego dostępu administracyjnego;
- kontrola, do jakiej sprawy i organizacji należy rekord;
- przekazywanie modelowi tylko kontekstu potrzebnego do zadania;
- rejestr wykonanych operacji z ograniczonym dostępem;
- możliwość wyłączenia zapisu bez wyłączania całej obsługi.
To wymagania projektowe. Nie zakładaj, że są automatycznie dostępne w każdym CRM lub gotowym dodatku AI. Poproś wykonawcę o wskazanie, gdzie każda kontrola będzie egzekwowana.
Przykład ilustracyjny: agent w firmie serwisowej
To hipotetyczny scenariusz, nie opis klienta ani case study. Firma serwisowa chce uporządkować prośby dotyczące otwartych zgłoszeń.
Trzy poziomy samodzielności
Klient pisze: „Mogę przyjąć technika dopiero w czwartek”. Projektowany agent odczytuje właściwe zgłoszenie, przygotowuje notatkę i propozycję zmiany terminu. Sam może zapisać notatkę wewnętrzną, jeśli spełnia ustalone warunki. Zmiana kalendarza i potwierdzenie klientowi czekają na pracownika.
Pracownik widzi propozycję, sprawdza dostępność i zatwierdza konkretny termin. Integracja ponownie weryfikuje stan, zapisuje zmianę i sprawdza wynik. Jeśli termin został już zajęty, proces wraca do wyjaśnienia zamiast wysyłać nieaktualne potwierdzenie.
Granica wynika tutaj ze skutku działania. Notatka pomaga zespołowi, natomiast potwierdzenie terminu tworzy oczekiwanie klienta. Nie pokazujemy wyniku czasowego ani finansowego, bo ten scenariusz nie został zmierzony.
Jak zacząć samodzielnie i przygotować zakres zakupu?
Najpierw wybierz jeden powtarzalny proces. Spisz jego kroki, używane systemy, osoby decyzyjne i wyjątki. Dla każdego kroku oznacz: odczyt, propozycja czy zapis. Dopiero potem decyduj, gdzie potrzebna jest AI.
Przygotuj przykłady zwykłych spraw oraz sytuacji problemowych: brak danych, dwaj podobni klienci, sprzeczna wiadomość, odrzucona zgoda i niedostępny system. Nie przekazuj wykonawcy niepotrzebnych danych osobowych tylko po to, aby pokazać przebieg procesu.
Rekomendujemy pilotaż etapowy: najpierw propozycje bez zapisu, następnie wybrane operacje ze zgodą, a dopiero później ograniczoną samodzielność. Przed każdym etapem ustal kryteria przejścia i sposób powrotu do ręcznej obsługi.
Jeżeli problemem jest sam przepływ danych, punktem odniesienia może być artykuł o zabezpieczeniu przekazywania zapytań do CRM. Do przygotowania warunków pilotażu wykorzystaj materiał o sprawdzaniu narzędzia AI przed odbiorem wdrożenia.
Koszt, utrzymanie i integracja: o co zapytać wykonawcę?
Nie wyceniaj wyłącznie „agenta”. Poproś o rozdzielenie interpretacji wiadomości, połączenia z systemem, kontroli uprawnień, zatwierdzania, potwierdzania wyniku i utrzymania.
Przed zakupem ustal, czy używany system pozwala na potrzebne operacje i ograniczenie dostępu. Wymagaj demonstracji na środowisku testowym: pokaż odrzuconą zgodę, błąd zapisu i ponowienie tej samej prośby. Przyjęcie zadania do kolejki nie powinno być w warunkach odbioru uznawane za jego wykonanie.
Zapisz również, kto aktualizuje integrację, obsługuje błędy i może wyłączyć agenta. Nie podajemy uniwersalnej ceny ani czasu wdrożenia: bez znajomości systemu i operacji byłaby to pozorna precyzja.
Nextblock ma usługę Wdrożenia AI. Opisany mechanizm zatwierdzania stanowi jednak proponowany zakres nowego rozwiązania, który trzeba uzgodnić, zbudować i przetestować — nie potwierdzenie gotowej funkcji dla dowolnego systemu. (nextblock.pl)
Pięć wniosków przed podjęciem decyzji
- Kupuj jasno określone operacje, nie nieograniczoną samodzielność.
- Oddziel przygotowanie propozycji od wykonania zmiany.
- Zatwierdzaj konkretny rekord, odbiorcę i treść.
- Wymagaj potwierdzenia wyniku w systemie docelowym.
- Ustal właściciela wyjątków i utrzymania przed uruchomieniem.
Karta zatwierdzenia operacji
Potwierdzenie pracownika powinno dotyczyć konkretnej wersji
W próbie demonstracyjnej przygotuj zmianę, pokaż ją pracownikowi do akceptacji, a następnie zmień dane źródłowe przed wykonaniem. System powinien ponownie sprawdzić warunki i zatrzymać nieaktualną propozycję. Zgoda na wcześniejszy zakres nie powinna być zgodą na inną kwotę, odbiorcę lub termin.
Do odbioru zapisz, co zatwierdzono, kto to zrobił i jaki wynik faktycznie pojawił się w systemie docelowym. Gdy po wykonaniu brakuje potwierdzenia, oznacz rezultat jako wymagający sprawdzenia. Nie wysyłaj automatycznie tej samej operacji ponownie tylko dlatego, że agent nie otrzymał odpowiedzi.
FAQ
Czy agent musi mieć dostęp administratora?
Nie rekomendujemy takiego dostępu. W zakresie wdrożenia określ minimalne operacje i dane potrzebne do wybranego procesu.
Czy każdy zapis powinien zatwierdzać pracownik?
Nie musi. Proponujemy zacząć od zatwierdzania istotnych zmian, a ograniczoną samodzielność dopuścić po testach konkretnej operacji.
Czy odczyt danych można uznać za bezpieczny?
Nie z góry. W proponowanej ocenie sprawdź zakres danych, tożsamość użytkownika i miejsce przekazania wyniku.
Czy agent może sam wysyłać wiadomości klientom?
To wymaga osobnej decyzji projektowej. Na start rekomendujemy szkic i zgodę pracownika, szczególnie przy terminach, cenach i indywidualnych warunkach.
Co powinien zobaczyć pracownik przed zatwierdzeniem?
Dokładny rekord lub odbiorcę, proponowaną zmianę, jej podstawę i skutek. Sam opis intencji agenta to za mało.
Co zrobić, gdy nikt nie zatwierdzi działania?
Ustal wcześniej ścieżkę oczekiwania, eskalacji lub anulowania. Nie rekomendujemy traktowania milczenia jako zgody.
Jak zapobiegać podwójnemu wykonaniu zadania?
Wymagaj kontroli ponowień i testu duplikatów. Przy niejasnym wyniku poprzedniej próby najpierw sprawdź stan systemu.
Czy można zacząć bez zapisywania zmian?
Taką fazę rekomendujemy w pilotażu: agent przygotowuje propozycje, a zespół porównuje je z własnymi decyzjami.
Kiedy potrzebna jest pomoc wdrożeniowa?
Gdy proces wymaga połączenia z systemem, ograniczenia uprawnień i egzekwowanego zatwierdzania. Przygotuj opis jednej operacji oraz nazwy używanych narzędzi.
Następny krok
Samodzielnie przygotuj listę działań i granic decyzyjnych. Jeśli potrzebujesz przełożyć ją na działającą integrację, przekaż Nextblock jeden proces, używany system oraz operacje wymagające zgody. To punkt wyjścia do ustalenia zakresu, nie obietnica automatyzacji wszystkiego.
Źródła
- https://www.anthropic.com/engineering/building-effective-agents
- https://developers.openai.com/api/docs/guides/agents/guardrails-approvals
- https://developers.openai.com/api/docs/guides/agent-builder-safety
- https://www.anthropic.com/research/trustworthy-agents
- https://nextblock.pl/wdrozenia-ai/
- https://www.anthropic.com/research/trustworthy-agents?aff=O0D1K
- https://platform.openai.com/docs/guides/agent-builder-safety
Czytaj dalej
- Agent AI na stronie a chatbot — najważniejsze różnice
- Jak sprawdzić narzędzie AI przed zapłatą za odbiór wdrożenia?
- Po spotkaniu ustalenia zostają w notatkach — jak AI może przygotować zadania?
