当前位置:首页 > 科研成果库

智慧社会技术愿景:当城市学会克制,技术退回背景

2026-11-18 23:33:17小研科研成果库21

先别急着给城市装大脑

先别急着给城市装大脑先别急着给城市装大脑

0923,南京河西,晚高峰。地铁口那排路灯杆上的灰盒子正在闪。我常把它当作观察智慧社会技术愿景的标本:一边是传感器、边缘网关、回传光纤,一边是赶路的人、卖桂花糕的小车、临时停靠的外卖电动车。技术愿景如果只从设备清单出发,很容易漏掉后者。可后者才是城市。

过去十年,智慧社会技术愿景的叙事被三件事推着走:感知成本下降、通信带宽上升、模型泛化能力变强。于是很容易得出一个顺滑推论——只要把物理世界足够细地数字化,再用算法实时调度,社会就能像机房一样被优化。这个推论有吸引力。但它跳过了几个硬问题:数据谁有权采集,误判谁负责,系统故障时人还能不能生活,以及哪些场景根本不该自动化。

可计算秩序的前提,是标出不可计算的部分

我见过一些方案书,开头就是全域感知、万物互联、智能决策。词都没错。问题是,全域的边界在哪里。比如社区独居老人关怀,用水表读数推断异常,确实能救命。可如果把门磁、摄像头、消费记录、社交活动全部打通,老人就变成了被持续评估的对象。关怀和监视之间,往往只差一个授权粒度。

南京江北新区智慧路灯杆边缘计算网关部署实景南京江北新区智慧路灯杆边缘计算网关部署实景

所以智慧社会技术愿景的一条技术原则,不是连接更多,而是先划定不可计算区。不可计算区不是反技术,它更像城市规划里的红线。哪些数据不采集,哪些决策不自动执行,哪些模型输出只能作为建议,必须在系统设计阶段写成约束。否则,后面再补伦理委员会,通常只能做消防员。

这里有个麻烦。不可计算区很难用统一标准给出。不同社区、不同人群、不同时段,接受度差异很大。技术方案如果追求一次部署、全城复用,就会把这种差异压平。压平的代价,通常由议价能力偏弱的人承担。

从预测到协商:算法得学会停下来

当前许多智慧应用的核心是预测:预测流量、预测故障、预测风险。预测本身没问题。问题在于,预测结果一旦接入执行链,就获得了改变现实的力量。交通信号、门禁、派单、信贷、城管巡检,都是如此。此时,算法不能只追求准确率,还要有停下来等一等的能力。

可争议性需要三样东西。可解释的中间状态,不是事后生成一段漂亮说明,而是保留特征、阈值、权重变化的时间线。可回溯的数据血缘,某条数据来自哪个传感器,经过哪些清洗和融合,授权是否仍然有效。可中断的执行链,人工接管不能是摆设,要有物理或逻辑开关,并且接管后系统不能暗中继续下发指令。

城市社区数据信托授权流程界面示意图城市社区数据信托授权流程界面示意图

举个例子。某园区用算法优化班车路线,把平均候车时间压低了。但几位上早班的保洁员被安排到更远的站点,步行多出十二分钟。平均指标好看,个体体验变差。这类问题很难靠模型自己发现,因为模型的目标函数里没有她们的脚步声。协商接口的意义就在这:让被优化的人能提出异议,并让异议进入下一轮调度。

边缘计算、数据信托与降级设计

实现路径上,边缘计算常被当成万能药。算力下沉,时延降低,隐私留在本地。听起来合理。可边缘节点也有硬约束:供电、散热、防尘、运维、安全补丁。南京有些园区试点把视频分析放在灯杆边缘,只上传结构化结果。效果不错。但复制到老旧小区,供电和网络稳定性一变,盒子就可能变成电子垃圾。

数据信托是另一个常被提到的机制。它的关键不在概念,而在授权粒度。一次授权永久使用,基本等于没授权。得支持按用途、按时间、按次数撤回。撤回之后,已经训练进模型的数据怎么办。需要遗忘机制,或者至少做隔离和版本回滚。技术上很难,但必须承认难,而不是用匿名化一笔带过。

降级设计同样重要。智慧系统不能假设永远在线、永远有电、永远有算力。医院、消防、公交调度,必须有离线预案。降级不是失败,而是系统成熟的表现。一个不能降级的智慧系统,本质上把城市绑在了单点故障上。

反例:当智慧设施开始自证合理

有些项目的问题不是技术不行,而是评价方式太窄。智能垃圾桶满了自动派单,清洁工被系统牵着走,真正脏的死角反而没人管。因为系统只能看见桶内传感器,看不见墙角。几个月后,数据报表显示清运效率提升,居民投诉却变多。这不是算法恶意,这是指标社会的惯性。

另一种风险是自证合理。系统采集数据,数据训练模型,模型决定资源投向,资源投向又强化了下一轮数据采集。循环一旦闭合,外部经验很难进入。比如某些区域被标记为低风险,巡检减少,问题更难被发现,于是继续被标记为低风险。技术愿景如果缺少外部扰动机制,就会变成自我实现的预言。

可退出、可降级、可审计

智慧社会技术愿景的成熟标志,不是无人化,而是有人可以随时接管。可退出、可降级、可审计。可退出,指居民能选择不进入某些数据链路,且不因此被排除基本服务。可降级,指网络或算力中断时,社会功能仍能维持。可审计,指算法决策能被人独立检查,而不是只能看厂商报告。

趋势上,未来几年会出现更多混合架构:中心云做长周期训练,边缘做实时推理,端侧做隐私过滤。数据信托、隐私计算、模型卡、算法影响评估,会从合规文件变成工程模块。但技术不会自动带来好的社会。它只提供可能性。选择哪些可能性,仍然需要公开讨论和制度约束。

回到0923的南京。路灯杆上的盒子还在闪。它可以是智慧社会技术愿景的起点,也可以只是一次采购。区别在于,我们是否愿意在系统里留下人的位置——不是作为数据点,而是作为可以说不、可以退出、可以接管的人。技术退回背景,人回到前景。这大概才是愿景该有的样子。