算法坐进了五角大楼的决策席
真正的风险不是机器杀人，而是没人说得清那个决定是谁做的。
一、十一天：从一条宣告到一间决策室
二〇二六年九月十九日，美国总统特朗普在社交平台宣布，正在组建一支人工智能部队，并把它与第一任期组建太空军相提并论。
当时引发的是困惑而非讨论。美国媒体采访后发现，业界并不知道这支部队负责什么、由谁参与，有人直言根本没人知道这到底是什么构想。困惑本身就是信号：一项重大宣告，宣布之时连执行者都未被告知内容，说明它首先是政治表达，其次才是制度安排。而危机往往不发生在宣告处，发生在宣告落地为组织的过程中。
十一天后答案浮出。九月三十日，美国国防部长赫格塞思在匡蒂科的海军陆战队基地演讲，同日宣布两项举措：成立自主作战司令部，聚焦人工智能与无人机的机器人化战争，由上将衔军官领导，这是美军时隔多年再设作战司令部级别的组织；启动子午线计划研究未来战争形态，限期一百二十天提交成果。
计划的牵头人安排，是最值得研究的切口。科技界企业家马斯克、防务企业安杜里尔工业公司三十四岁的联合创始人帕尔默·拉基、八十三岁的共和党前众议院议长纽特·金里奇，三人共领其事。
马斯克身上叠着三重身份：供应商，旗下企业为美军建设卫星网络并供应前沿模型，合同以数十亿美元计；顾问，牵头研究未来作战需求，而结论将决定军方采购什么样的能力；政治捐助人，向多名候选人与保守派团体捐出数千万至上亿美元量级资金。既定义需求，又提供满足需求的产品，还影响决定预算的人，这不是道德问题，是结构问题，而结构问题正是危机管理要处理的那类问题。
二、速度快到没有质疑的时间
人工智能进入指挥链，最确定的效果是压缩时间。二〇二六年二月的史诗怒火行动中，人工智能首次在完整作战链条上深度参与，过去由大型情报团队耗费大量时间完成的地面目标识别，压缩到由小规模团队在数分钟内完成，美军中央司令部司令公开称算法可在数秒内筛选大量数据。
速度快当然是优势，但速度越过某个阈值就会改变事物的性质。任何审慎的决策流程都要留出供人质疑、供人犹豫、供人推翻前议的时间，这段时间不是浪费，它是系统的纠错机制。当链条被压缩到十余分钟，留给人质疑的时间在物理上消失了。
此时所谓人在回路，容易退化成一种签字动作。作战人员面对算法给出的排序，可以批准也可以否决，却没有时间去检验算法为何这样排序、依据的数据是否过时。批准是默认动作，否决反而要承担延误责任。监督在形式上存在，在实质上消失。
这里有一个可观察的指标，叫否决率。若一个系统中人类对算法建议的否决率长期接近于零，那么人类监督就已经形式化，无论规程写得多严格。把它列为必查项，比在文件里强调人的最终责任更能说明问题。
危机管理的流程分为探源、评估、预测预警、预案、利用、响应、恢复、学习八段，前提是决策者有时间走完每段。压缩冲击的是前四段：信号被当作结论，可能被算法的置信度替代，而置信度是算法对自己输出的评分，不是对世界的判断；趋势被单点数据取代；预案只剩首选方案。
四段被挤压，体系就从防患于未然退化为反应于已发生。反应型体系效率很高，但它的安全边际完全依赖不出错，而任何系统都不可能不出错。危机管理的价值在于为出错留出余地，速度至上的设计恰恰在消灭余地。
还有一项系统性风险是自动化升级：双方指挥系统都高度依赖算法、都追求速度时，升级节奏可能超出政治层的控制。历史上有名的危机之所以没走到最坏结局，往往因为某一方在执行规程之外多犹豫了几分钟，而犹豫是被允许的。若规程不再允许犹豫，这道保护就失效了。
三、判断可以外包，责任不能外包
算法参与判断之后，最容易出现的一句话是：这是系统给出的结果。这句话一旦成立，责任就消失了。系统不是主体，不能承担后果，也不能被追责，把责任指向系统等于把责任交给无人。
我在安全生产研究中提过责任守恒：作业可以外包，责任不能外包，责任只可分担，不可转移。这一定律在军事领域不仅成立，而且更不容商量，因为军事决策的后果不可逆。
算法进入指挥链，制造出三处此前不重要的接口：人机接口，流经物是判断，失效形态是默认采纳；军民接口，模型由企业训练与更新，军方使用的是服务而非产品，失效形态是责任外移；军政接口，技术专家以顾问身份定义需求、政治人物以意志决定方向，失效形态是专业判断被政治节奏覆盖。
三处的共同特征：都不在任何一方的核心职责之内，却都在事故发生的必由之路上。事故从来不是从制度的空白处钻出来的，而是从制度的接缝处漏出来的。
同年二月那起针对学校的袭击造成百余人死亡，多数为儿童，调查指向攻击方可能依赖了过时的情报数据库。它的意义不在判定法律责任，而在展示责任如何在链条上消失：采集方可以说入库时准确，模型方可以说按规则排序，审核方可以说只有几分钟无法核实，指挥方可以说依据的是系统给出的高置信度目标。
每一环的说明都成立，合起来却是一个不可逆的后果。这不是无人负责，而是每个环节都有一份说得过去的理由，从而没有一个环节需要为整体结果负责。责任黑洞与责任真空不同：真空里没有东西，黑洞里有东西，只是光出不来。
四、误判的新形态：不是看错，是被喂错
传统误判是看错，即正确接收了信息却作出错误解读。人工智能时代出现了新形态：喂错，接收到的信息本身就是被污染的。
污染有三条路径：数据投毒，在训练或实时数据中植入带倾向性的样本；对抗样本，在输入中加入人眼不可辨、算法却敏感的扰动使识别翻转；认知欺骗，用大量虚假信号把对方的算法注意力引向错误方向。
三者攻击的不是模型的准确度，而是使用者的信任。指挥员一旦发现算法在关键时刻出错，要么全盘不信，要么加倍依赖，两种反应都削弱体系稳定。所以认知层的核心工作不是让模型更准，而是让使用它的人始终知道它什么时候可信。可操作的是三项：模型须输出不确定性区间而不只是点估计；关键判断强制用不同来源的独立信息交叉验证；定期用已知结果的案例检验实际命中率并公开给使用者。第三项最关键，它把信任从感觉变成数字。
五、最深的代价不在预算表上
技术变革最终要落在制度里。美国这场变革面临三重张力。
一是国会授权的缺位。宣告由总统个人在社交平台作出，事先未与业界沟通，事后未公布细节。军事组织变革需要法定授权、稳定预算、可预期任期，个人宣告能给方向感，给不了其中任何一样。太空军之所以延续至今，是因为它在建制化过程中完成了法定化。
二是尺度错配。军事能力建设通常以十年计，一项未来战争研究限一百二十天交卷，产出的多半是方向性判断而非可执行方案；更需警惕的是，紧迫的时间压力会诱导研究者提出激进而难以证伪的建议。
三是国家能力外包与技术依赖的悖论。五角大楼的生成式人工智能平台上年底上线，面向约三百万文职与军职人员，数月内独立用户超过一百七十万，五大军种将其列为默认平台，用户已在其上创建十万个以上的智能体，官方还计划把前沿模型扩展到涉密网络。
效率提升是真的，依赖形成也是真的。一旦日常流程深度嵌入商业模型，替换成本高到难以承受，而模型的能力边界、更新节奏与价值立场由企业掌握。依赖达到一定程度，国家就失去不用它的自由；失去不用的自由，也就失去议价的自由。这是技术外包最深的一层代价，它不出现在预算表上，却出现在每一次关键决策的选项里。
六、守住连接，而不是追赶装备
应对的对象不是某项技术，而是技术进入组织后产生的那几处断裂。
第一是三闸门。人在回路闸，涉及使用武力的决定必须有具名的人作出，且须由系统强制而非规程要求，因为速度压力下规程最容易被绕过。责任署名闸，每条算法参与的判断须有具名人为准确性署名，署名人须有检验所需的权限与时间，不具备则应拒绝署名并要求升级。可追溯闸，数据版本、模型版本、参数与审核记录完整留痕，使事后可不依赖回忆复现。三者分别对应动作闭合、责任闭合、信息闭合，缺一道就留一个敞口。
监测指标必须选状态量而非活动量，因为活动量可以制造，状态量不能。三项就够：否决率长期趋近于零视为监督形式化；署名覆盖率低于阈值视为责任悬空；可复现率低于阈值视为追溯失效。
第二是降级能力。任何智能化系统都必须能被关闭、可被降为人工、可被降为低速，且这条通道必须定期演练。能被关掉的能力，才是可靠的能力。还有一条细节：执行关闭或降级的人不能因为谨慎而承担不利后果，若谨慎的代价高于冒进的代价，所有人都会选择冒进。
第三是为算法意外事件补一条沟通机制。现有的热线与通报程序是为人的决策设计的，适配不了算法的速度，也处理不了系统给出高威胁判断却尚未形成决定这种中间状态。建议补三层次：技术性通报，一方系统发出高等级警报时向对方作出不含具体内容的风险提示；误报澄清，发现误报后以最短路径让对方知晓；共同降级，双方系统均已高速响应时提供一条把节奏共同降下来的程序。三者不要求交换情报或暴露能力，只交换状态与意图，因而政治上可接受，因为交换状态不等于让步。
七、结语
组建人工智能部队与自主作战司令部，本质是把算法放进指挥链，而不是多了一支新部队。判断它的影响，要看它改变了什么流程，而不是看它叫什么名字。速度是最确定的收益，也是最危险的风险；判断可以外包，责任不能外包。而最该反复提醒自己的是这一句：一个组织的真正韧性，不体现在它拥有多少先进系统，而体现在系统与人之间、军与民之间是否真的连着，以及当连接失效时，是否有人能在几分钟内把它接上。
编辑：永强