Eskalační cesty jsou bezpečnostní vrstvou skutečného agenta

Je snadné snížit bezpečnost na modelování chování. Ve výrobě je tento pohled příliš úzký.

Bezpečnější systémy jsou obvykle ty s lepším předávacím designem. Když model nemůže s jistotou pokračovat, když je překročen práh nebo když pracovní postup vstoupí do citlivé zóny, systém potřebuje jasný způsob, jak směrovat práci k člověku, který může skutečně vlastnit výsledek.

Efektivní eskalace má čtyři vlastnosti

• jasná spoušť
• jmenovaného vlastníka
• zachovalý kontext
• cestu viditelného rozlišení

Jak vypadá špatná eskalace

Nejhorší verzí je tichý přechod do e-mailu nebo Slack s polovinou chybějícího kontextu. Operátor ztrácí čas, uživatel ztrácí důvěru a tým ztrácí schopnost poučit se z události.

Proč se jedná o problém s produktem

Eskalace je součástí rozhraní. Pokud systém může zodpovědně selhat, uživatelé mu více důvěřují. Pokud neprůhledně selže, i dobrý model se cítí lehkomyslný.

Pole s sebou

Při práci pod napětím je bezpečnost často problémem návrhu trasy. Čím lepší je vaše cesta předání, tím ambicióznější může být vaše automatizace.