升级路径是真正的代理安全层

模型行为的安全性很容易降低。在生产中，这种观点太狭隘了。

更安全的系统通常是具有更好切换设计的系统。当模型无法自信地进行时，当超过阈值时，或者当工作流进入敏感区域时，系统需要一种清晰的方式将工作路由给真正可以拥有结果的人。

有效的升级有四个特征

• 明确的触发因素
• 指定所有者
• 保留语境
• 可见的解析路径

糟糕的升级是什么样子的

最糟糕的版本是静默回退到电子邮件或 Slack ，但缺少一半上下文。操作员失去了时间，用户失去了信心，团队失去了从事件中学习的能力。

为什么这是产品问题

升级是界面的一部分。如果系统能够负责任地失败，用户就会更加信任它。如果它不透明地失败，即使是一个好的模型也会让人感觉鲁莽。

现场外卖

在带电作业中，安全往往是布线设计的问题。您的切换路径越好，您的自动化就越雄心勃勃。