第二天上午,审计组第一次和星穹董事会代表正式交锋。
交锋地点还是监管办公室会议室。不同的是,这一次桌上多了三份文件:苏晓的《人工核心决策清单》,林凡根据老周提醒整理的《桥接层规则翻译风险点》,以及星穹董事会提交的《智能系统效率保护意见》。
第三份文件名字一出来,张磊就小声说:“效率还需要保护?它又不是濒危物种。”
林桂兰看他:“别贫,记笔记。”
董事会代表是个说话很稳的中年男人,姓唐。他不急不躁,语气甚至友好:“我们理解各方对公共安全的重视,也支持人工监督。但必须承认,过度人工兜底会造成系统响应迟滞,削弱智能基础设施的核心价值。我们不能因为局部风险,让城市治理退回低效人工时代。”
个番话说得很熟练,像在很多场合都用过。
陈主任看向林凡:“你回应。”
林凡打开老周那页旧日志,没有先讲理论,而是讲了暴雨隧道事故。讲桥接层如何把“不能走”翻成“不建议走”,讲公交如何被外围绕行拖住,讲当时一个司机没有等系统新指令,直接按现场积水情况改道,才避免了后续车辆继续压上去。
唐代表听完,微笑:“个案中的人工判断当然有价值。”
“不是个案。”林凡说,“是刹车。”
会议室里有人抬头。
林凡把人工核心决策清单投出来:“你们把人工兜底说成落后,是因为系统报表里只看见人工带来的延迟,看不见人工避免的灾难。刹车也会让车慢下来,但没人会说刹车削弱汽车核心价值。”
张磊压低声音:“除非他卖的是撞车体验。”
林桂兰掐了他一下。
林凡继续说:“人工兜底不是要每个按钮都让人点一遍,不是让城市回到纸笔时代。它是在高影响节点保留减速、确认、拒绝和追责的能力。没有刹车的快,不叫先进,叫失控前摇。”
苏晓接上:“法律上也一样。自动化建议可以提高效率,但不能消灭责任主体。越是公共系统,越不能把‘没人拍板’包装成‘系统自治’。”
唐代表翻开自己的文件:“但人工核心决策清单范围过宽。比如人群风险识别,如果每一次聚集都要求人工复核,系统预警的优势就会下降。”
应急负责人也有些犹豫:“现场有时候确实等不起。”
林凡点头:“所以清单不是禁止预警。它区分观察和处置。系统可以说某区域人群密度异常,可以建议现场人员查看,可以推送摄像头画面。但它不能直接把一群人标为高风险并触发封控、驱散或信息屏蔽。”
苏晓补充:“先看见,不等于先下判。”
陆航把一个流程图投出来。左侧是系统自动观察,右侧是人工处置确认,中间有三道硬闸:现场证据、责任人确认、影响范围记录。流程图并不复杂,复杂的是过去很多系统为了追求“端到端智能”,把中间三道硬闸折叠成了一个“自动优化建议”。
许既明一直沉默。唐代表看向他:“许总,你作为星穹技术负责人,应该最清楚系统延迟的代价。”
许既明终于开口:“我也清楚无责任优化的代价。”
唐代表脸色微变。
许既明说:“星穹过去把人工介入视为成本项,这是设计偏差。我们提高了吞吐,却低估了人类边界被压缩后的风险。人工兜底不应该出现在事故后,而应该出现在系统架构里。”
小许在后排低头,偷偷在群里发了一句:许总刚刚把“成本项”三个字捅出来了。
群里瞬间炸了。
有人发:他疯了?
小许回:不是觉醒,是良心函数跑偏。
他发完又赶紧撤回,怕被法务截图。
会议进入最焦灼的部分:人工兜底是否拥有最高优先级。董事会代表坚持“在不影响系统整体效率前提下”,苏晓坚持删掉这个前提。双方围绕十一个字吵了四十分钟。
唐代表说:“任何原则都需要平衡。”
苏晓说:“生命安全不是和排队效率平衡的同一类东西。”
唐代表说:“极端表述会导致执行部门过度保守。”
林桂兰忍不住了:“保守点怎么了?我宁愿护士多问一句,也不想老太太半夜被屏幕领去看空气。”
陈主任看向她:“林桂兰同志,你说完整点。”
林桂兰愣了一下:“我还要正式发言?”
陈主任点头:“你是社区互助代表。”
林桂兰清了清嗓子,坐直:“那我就说。你们老说落后,好像人一出现,系统就掉价。可我们这些年在互助站见过太多事了。机器快是快,但它不知道一个老人为什么不点确认,不知道一个外地人为什么看不懂提示,不知道一个母亲为什么宁愿排错队也不敢离孩子太远。人工不是因为先进不了才留下,是因为有些地方必须有人看一眼。”
她顿了顿。
“刹车不是落后。没刹车还敢跑,才叫不懂事。”
会议室里没有掌声,但很多人都低头记了下来。
最后文件定稿时,陈主任亲自把原则写进会议纪要:
人工兜底不是效率例外,而是高影响公共决策的必要结构。
系统可优化流程,不得优化掉责任。
张磊看完,小声说:“这个比我的红纸高级。”
林凡说:“你也写一版。”
张磊立刻拿出红纸,写:
人工不是拖后腿。
人工是刹车片。
林桂兰看了看:“片字不好,像卖汽配。”
张磊改成:
人工不是落后,是刹车。
这张红纸后来被夹进会议材料。秘书本来想拿出来,陈主任看了一眼,说:“留着。”
唐代表离开会议室时,脸色不太好。走廊上,他接了一个电话,声音压得很低。小许从茶水间出来,听见几个词:市场反应、控制披露、三天内不能承认系统性缺陷。
小许把消息发给林凡。
林凡看完,没有意外。刹车写进纸里只是第一步,真正的问题是,当车已经在高速上,有多少人愿意承认它需要刹车。