Eskalačné cesty sú bezpečnostnou vrstvou skutočného agenta

Je ľahké znížiť bezpečnosť na modelovanie správania. Vo výrobe je tento pohľad príliš úzky.

Bezpečnejšie systémy sú zvyčajne tie s lepším dizajnom odovzdávania. Keď model nemôže s istotou pokračovať, keď je prekročený prah alebo keď pracovný tok vstúpi do citlivej zóny, systém potrebuje jasný spôsob, ako nasmerovať prácu k človeku, ktorý môže skutočne vlastniť výsledok.

Efektívna eskalácia má štyri vlastnosti

• jasný spúšťač
• pomenovaný vlastník
• zachovaný kontext
• cestu viditeľného rozlíšenia

Ako vyzerá zlá eskalácia

Najhoršou verziou je tichý prechod do e-mailu alebo Slack s polovičným kontextom. Operátor stráca čas, používateľ stráca dôveru a tím stráca schopnosť poučiť sa z udalosti.

Prečo ide o problém s produktom

Eskalácia je súčasťou rozhrania. Ak systém môže zodpovedne zlyhať, používatelia mu viac dôverujú. Ak to nepriehľadne zlyhá, aj dobrý model sa cíti ľahkomyseľne.

Pole so sebou

Pri práci pod napätím je bezpečnosť často problémom návrhu smerovania. Čím lepšia je vaša cesta odovzdania, tým ambicióznejšia môže byť vaša automatizácia.