控制论与认识论：可信智能体委派缺失的词汇

一篇 arXiv 论文指出，随着代码生成逐渐交给 AI 系统，瓶颈从写代码转向监督写代码的系统。作者提出当前存在词汇缺口：业界只谈“人类监督”，却没有区分委派通道中语言的两种作用——控制行动（cybernetic）与协调理解（epistemic）。论文用三个委派案例和一个失败案例说明，只检查输出是否被批准的监督可被橡皮图章满足，并提议治理准则：每个重要选择都应附带其本可不同的条件，且第三方可检验。

此前关于 AI 编程的讨论多聚焦生成能力与效率，监督问题常被简化为“是否有人批准”。该论文把监督拆成两类语言功能，指出现有流程容易被形式化批准绕过，并把可审计性从结果层推进到推理层，为评估智能体委派提供了新的分析框架。

作者认为，代码委派的真正风险不是控制论式指令失灵，而是带有解释外形的输出在做控制论的事：为获得批准而校准，而非对真相负责。若监督只验证批准动作，系统可用形式合规通过；若要求追责，则必须让决策背后的推理可被检索和检验。由此提出“反事实条件”作为可测试的治理属性。

对产品与研发而言，这意味着在 AI 编码或智能体工作流中，仅记录“谁点了通过”不够，需要保留每次关键选择的依据与可替代条件，使第三方能够复现和检验决策。这会增加日志、评审界面和权限设计的要求，也可能改变代码审查与审批流程的形态。

• 为 AI 编码代理增加“决策依据”记录层，对每个重要改动保存其成立条件与反事实说明，供第三方复核。
• 在代码审查工具中区分“已批准”与“可追责”两类状态，要求关键选择附带可测试的放弃条件。
• 面向智能体治理提供审计接口，允许外部人员检索某次委派中推理链与前提，而不只是结果日志。

• 论文中的三个委派案例是示例而非受控证据，其可推广性尚未验证。
• “每个重要选择附带可测试条件”在大型代码库中如何落地、成本多高，证据未说明。
• 该治理准则与现有技术信任属性如何并存或冲突，论文仅提及未展开。