一、自动化不等于免责
一个常见的误解是：流程自动化之后，出错就是「系统的问题」。
实际并非如此。对外发出的报价、提交的申报、客户收到的答复，是以企业的名义作出的，企业需要对它们负责，而不是工具。
二、哪些环节必须保留人工确认
我们按三条判断，命中任意一条就建议保留人工确认：
不可逆：付款、发货、对外发送、数据删除。做错了没法撤回的，人工确认。
涉及金额：报价、结算、退款。金额错误的代价往往大于人工确认的成本。
面向外部：客户答复、公开发布、监管申报。
三、高风险行业的额外原则
医疗、金融、法律这类领域，更应当由 AI 出建议、由人做决定，且决定过程可追溯。
这不是技术保守，是因为这些领域的错误成本不对称：省下的时间是有限的，出一次错的代价可能大得多。这些行业还可能有专门的监管要求，需要按实际合规要求确认。
四、保留人工会不会让自动化失去意义
不会，前提是你把人工放在确认环节而不是执行环节。
让人去核对一份已经填好的表单，通常比让人从零填一份表单省力得多。价值在于消除重复劳动，不在于消除人。