Najlepszy agent AI nie jest najbardziej autonomiczny

Agenci AI przesuwają automatyzację o krok dalej.

Nie tylko odpowiadają na pojedyncze polecenie. Mogą wykonywać sekwencję działań: zebrać informacje, uporządkować je, przygotować materiał, pilnować kolejnego kroku procesu czy reagować na określone zdarzenie.

To daje ogromne możliwości.

Ale wraz z autonomią rośnie też odpowiedzialność za to, gdzie postawimy granicę.

Najpierw zadania o niskim ryzyku

Dobrym początkiem są research, podsumowanie notatek, aktualizacja wiedzy, przypomnienia i szkice follow-upów.

To zadania, w których AI może oszczędzać czas, a jednocześnie konsekwencje ewentualnego błędu można stosunkowo łatwo wychwycić przed wykonaniem kolejnego kroku.

Agent może pilnować procesu

Sprzedaż często traci szanse przez nieregularność.

Brak odpowiedzi. Zapomniany follow-up. Niewykonany kolejny krok. Informacja, która utknęła w notatkach.

Agent może wychwytywać takie sytuacje, przypominać o działaniu i sygnalizować wyjątki.

Problem zaczyna się wtedy, gdy system nie tylko pomaga w procesie, ale zamyka klientowi drogę do innego rozwiązania.

Kiedy automatyzacja zaczyna szkodzić klientowi

Miałem taką sytuację w kontakcie z bankiem.

Próbowałem załatwić sprawę telefonicznie.

Bot prowadzący obsługę był jednak na tyle zamknięty w swoim scenariuszu, że mimo prób nie udało mi się połączyć z człowiekiem.

Problem ostatecznie rozwiązałem sam.

Następnego dnia zadzwonił do mnie pracownik tego samego banku.

Ale nie w sprawie mojego wcześniejszego problemu.

Dzwonił z propozycją dotyczącą oszczędności oferowaną przez bank.

I właśnie ten kontrast zapamiętałem najbardziej.

Dla mnie było to doświadczenie ważniejsze niż sama propozycja sprzedażowa.

Zrezygnowałem z usług tego banku.

To dobry przykład, że automatyzacja może działać dokładnie tak, jak została zaprojektowana, a mimo to prowadzić do złego wyniku biznesowego.

Bot przeprowadził proces. Klient odszedł.

Dobry agent musi wiedzieć, kiedy się zatrzymać

Nie chodzi więc o to, żeby agent był maksymalnie autonomiczny.

Powinien wiedzieć, kiedy może prowadzić sprawę sam, kiedy brakuje mu informacji, kiedy powinien poprosić o potwierdzenie, kiedy sytuacja wykracza poza jego scenariusz, kiedy klient wyraźnie chce porozmawiać z człowiekiem i kiedy dalsza automatyzacja zaczyna zwiększać frustrację zamiast ją zmniejszać.

Duże konsekwencje wymagają człowieka

Im większy wpływ działania na klienta, cenę, warunki współpracy czy ocenę człowieka, tym większa powinna być potrzeba kontroli.

Co innego przygotować szkic wiadomości. Co innego samodzielnie ją wysłać.

Co innego wskazać możliwe rozwiązania. Co innego podjąć decyzję, która zmienia warunki dla klienta.

Autonomia nie powinna być celem samym w sobie. Powinna wynikać z poziomu ryzyka.

Dane i uprawnienia są częścią projektu

Agent jest tak bezpieczny, jak zakres dostępu, który mu nadamy.

Zbyt szerokie uprawnienia zwiększają ryzyko. Zbyt wąskie mogą sprawić, że system stanie się praktycznie bezużyteczny.

Dlatego projektowanie agenta AI nie polega tylko na odpowiedzi na pytanie: co ma potrafić?

Równie ważne są pytania: do czego ma mieć dostęp, co może zrobić sam, co wymaga zatwierdzenia i kiedy ma oddać sprawę człowiekowi.

Najlepszy agent nie jest najbardziej autonomiczny

Dobry agent wie, kiedy wykonać zadanie, kiedy poprosić o potwierdzenie i kiedy przekazać sprawę człowiekowi.

To właśnie dlatego większa autonomia nie musi oznaczać lepszego rozwiązania.

Czasami najlepszą funkcją systemu jest umiejętność powiedzenia: tutaj powinien wejść człowiek.