技术伦理讨论：当算法开始替我们做决定，我们该慌吗？

最近在刷手机的时候，看到一个新闻：某外卖平台的算法因为优化配送时间，逼得骑手闯红灯。评论区吵翻了。有人说这是技术进步的必然代价，有人骂平台冷血。我看着看着，突然有种说不出的别扭。

咱们天天说技术改变生活，可谁想过，技术其实也在悄悄改变我们的选择？甚至，它替我们做了决定——而我们还以为是自己选的呢。

算法比你妈还懂你，但这真的好吗？

我有个朋友，做推荐算法的。他说，现在的模型能预测你下一秒想点什么菜，误差不到百分之五。听起来很酷对吧？但恐怖的是——他们公司刚上线了一个新功能，会根据用户的情绪状态自动调整推送内容。你在低落的时候，它给你推鸡汤；你有点愤怒，它给你推爽文。就问你，这跟操控有啥区别？

上个月，斯坦福大学出了一项研究，关于算法偏见。他们训练了一个医疗诊断模型，结果发现，模型对黑人患者的误诊率比白人高出整整百分之二十。为什么？因为训练数据里，黑人的病例本来就少，而且医疗体系里本身就存在结构性歧视。算法不过是把这种歧视复制了一遍。技术不是中性的。它带着人类的偏见，而且更容易被掩盖。

你说，这算不算伦理问题？我觉得算。但更麻烦的是，没人认账。算法出错了，谁来负责？是写代码的程序员，还是提供数据的医院，还是那个拍板用算法的CEO？法律上找不到依据。

自动驾驶的“电车难题”不是笑话，是现实

还记得那个经典问题吗？一辆失控的车，前面左边是5个行人，右边是1个行人，你作为AI，该往哪边打方向盘？以前我觉得纯属扯淡，直到我看了一篇论文——慕尼黑工业大学2023年的一项模拟实验，他们真的在虚拟环境里测试了不同道德框架下的自动驾驶决策。

结果有意思了。如果设定为“拯救最多生命”，车会毫不犹豫撞向一边的1个人；但如果设定为“保护乘客优先”，那行人就惨了。更讽刺的是，当研究人员让调查对象在“自己坐的车”和“别人的车”之间选择，几乎所有人都选自己活命。人呐，说一套做一套。

现在自动驾驶已经上街了，虽然还没到L5级，但是事故已经出了不止一次。每一次事故，都在问我们一个问题：我们到底想要什么？是绝对的效率，还是绝对的公平？没有答案。

隐私？别装了，你早就不在乎了

你可能觉得“技术伦理”这个话题，离自己很远。但你是真不记得了吗？几天前你刚跟朋友聊起某样东西，手机上就出现了它的广告。你当时一激灵，然后呢？继续用。你能不用吗？你不能。

前几天看到一个调查，说超过六成的年轻人愿意为了一点点便利，放弃部分隐私。没办法，便利是即时的，后果是模糊的。你不觉得这事儿细思极恐吗？

更绝的是，现在技术伦理的讨论已经变成了一门生意。各大公司设立“伦理委员会”，看起来煞有介事。可你猜怎么着？那些委员会的意见，如果影响了商业利益，分分钟被推翻。伦理变成了公关手段。

我记得有一个案例。某平台收集用户语音数据，后来被曝光用于训练情感分析模型——用户完全不知情。舆论闹大之后，官方道歉说“已停止该行为”。但是，数据呢？删了？谁信？

我们能做点什么？说实话，我也不知道

技术伦理这事儿，没有标准答案。我看了很多论文，自己也琢磨不少，最后发现，它更像是一个持续的博弈过程。你需要自己去设定底线。

比如，你可以选择不用某些过于侵犯隐私的app。比如，你可以关注一些开源的、可审查的算法。再比如，多跟身边的人聊聊这些事，别觉得它跟你无关。

或许，我们这一代人注定要活在这场不清不楚的变革里。但至少，在技术替我们做决定之前，咱得知道有这回事。

好了，就聊到这儿吧。你如果有什么想法，欢迎自己琢磨琢磨。有些问题，不是靠一篇专栏就能想明白的。