AI时代，权力在向谁转移？
人工智能替代人类的未来还远吗？一些人已经开始担心自己被抢走饭碗，与此同时，在外卖、零售等行业中，算法的普遍应用已经改变了普通人的吃饭的方式。
然而新技术一定意味着进步的未来吗？它的背后是否有算法无法计算的代价？
一、人工智能夺走了谁的方向盘？
2024年7月，百度旗下的无人驾驶出租车“萝卜快跑”在武汉大面积投放，引发了激烈的社会讨论，甚至“恐慌”。
继电话客服之后，网约车司机似乎即将成为下一个因为AI而失业的群体。
专家们曾经列出一长串被AI替代的职业名单，包括：设计师、编辑、翻译、律师、财务……甚至是程序员自己——未来AI也可以替代程序员写代码。
但也有乐观主义者认为，产业升级之后的新需求会创造新岗位。技术进步终将造福整个社会。
对于无人驾驶，网约车的司机态度很是矛盾。他们一面骄傲地认为“无人驾驶根本不可能像人一样应对千变万化的复杂路况”，甚至嘲笑萝卜快跑是“苕萝卜”（武汉话“傻萝卜”），暗地里又担心自己真的会被取代。
讽刺的是，“萝卜快跑”的确出现了“与行人相撞”“绿灯停滞不前”“红灯时冲入路口中央”“转弯时卡顿不动”等一系列“苕萝卜”行为，这个时候平台又要求助于人类来给机器“擦屁股”。萝卜快跑虽然没有司机，但会招募网约车司机成为安全员。每上路三台无人驾驶车，就要远程配备一名安全员，随时准备在汽车遇到困境时，开着“赛车模拟器”接管车辆。
百度的云端驾驶控制室。据2023年11月交通运输部办公厅印发的《自动驾驶汽车运输安全服务指南(试行)》规定，从事出租汽车客运的完全自动驾驶汽车，在确保安全的前提下，经设区市人民政府同意，在指定的区域运营时可使用远程安全员，远程安全员人车比不得低于1∶3。图源：网络
那么，网约车司机是否会被完全取代？比起这个没有确定答案的问题，我们可以确定的是，权力正在向平台逐渐集中，网约车司机将会失去对“方向盘”掌控。“赛车模拟器”看似和驾驶真车相似，但大量的工作已经被无人驾驶系统完成，司机的决策权降低。
萝卜快跑并不是个插曲，人工智能在未来要夺走的可能是每一个普通人的“方向盘”。那么在其他行业，人类是否真的会被AI抢走饭碗呢？
二、便利蜂的“傻机器”
“苕萝卜”究竟能否能变得更聪明有待讨论，但类似的“傻机器”早已出现。
早在2018年，便利店企业便利蜂就开始一项激进尝试：将便利店运营决策权全部交给算法。
在这个系统中，权力是高度集中的。便利蜂店员不拥有任何自主权，只负责机械地执行扫地、擦拭、上货、配餐等一系列简单的机械任务，连某一个商品的具体摆放位置都要由算法决定。在此之前，企业这样做过这样极端的实验，连同样崇尚数字化的同行都认为便利蜂可能走的太远了。
便利蜂创始人庄辰超寄希望于算法系统能够精准计算出供给与需求的最佳匹配方案，从而提升效率。
但在我们之前的调查《把人变成机器的便利蜂，真的智能吗？》中，没有看到能够证明算法系统提高效率的证据。
相比于全家、711等传统便利店，便利蜂的确可以依靠算法系统在每家店减少1-2名店员，但系统本身的研发、运营、维护以及传感器、机器人、摄像头等硬件配置也需要投入巨额成本，这些成本并不会凭空消失。据悉，2021年便利蜂的技术团队规模为1500-2000人，减掉店员人力是否能够覆盖技术团队和基础设施的投入，还要打一个问号。
便利蜂似乎只能期望未来在门店的快速扩张之后，进一步稀释算法系统和供应链的成本，达到盈亏平衡点。但目前其门店已从2021年底的 3000多家骤减至1000多家，这一目标更加遥遥无期。
更糟糕的是，系统的决策能力不见得超过人脑，反倒削弱了便利蜂的盈利能力。失去了店长的一线经验，便利蜂在面包、饮料等畅销品的供货上出现了“低级失误”，系统无法精准地预测消费者的需求，有效提升库存周转率。便利蜂加盟商反映，僵化的算法系统反而导致门店热餐的过量供应，造成大量的食物浪费。以至于在外界看起来非常智能的系统，被便利店的员工戏称为“笨蛋”。
庄辰超承认算法系统也会犯错，但作为一个技术进步主义者，他认为解决方案并不是加强店长的决策能力，用人脑给系统纠错，而是继续开发系统算法，加强机器的大脑，让它自己通过学习进行自我纠正。
换言之，他认为“傻机器”之所以傻，是因为技术不到位。
三、人有人的用处
在便利蜂门店中，店员只需要承担上架、打扫、做饭等工作，人就像机器延伸出来的义肢，能行动，但毫无思考能力。
人依然有人的用处，有实践经验的便利蜂店长其实有很多关于店铺的经营思路。他们对如何根据季节、温度、天气、节日等因素的变化，调整进货种类和商品摆放位置，往往有着自己的想法。
但便利蜂的系统始终紧紧控制着决策权，甚至都不存在“屈尊”听取店长建议的渠道。
其实，从机器刚发明，系统几乎都会设置给机器“擦屁股”的工作。工业革命伊始，机器在动力和机械传动方面展现出了压倒性的优势，虽然工作效率很高，但远不如今天的机器“智能”。往往需要工人来辅助，灵活处理各种意外状况。
纺纱机发明之后，不需要人手纺线，但纺织女工要随时准备给意外断掉的棉线接断头。维多利亚时代的纺织工厂还会雇佣童工，爬到机器下面清理碎棉花。
今天的AI看似智能，但查缺补漏的救火工作仍然要交给人类。萝卜快跑仍然需要安全员处理突发状况，关键时刻还得靠人类出手救场。
四、算法可以兼顾劳动者吗？
算法系统最终可以进化得很完美，这或许是所有互联网科技企业的共同执念。
美团也宣称，他们为外卖服务开发的“实时智能调度系统”非常强大。
用数据展示它的算力：在订单高峰期，它每小时可以执行29亿次的路径规划，能够在几十毫秒内计算出订单、骑手、路径之间的最优匹配方案，同时还要考虑天气、路况、骑手数量、商家出餐速度多达几十个因素。
笔者送外卖更多的故事，请见之前的食日谈播客《电影vs.现实，真实的外卖骑手生活究竟是怎样的》。
据美团内部人士透露，“实时智能调度系统”除了根据骑手、消费者、商家位置以及天气等实时变量，还将根据以往配送过程中的历史数据调整配送时间。
当外卖员因为担心超时而在某一条路线上逆行或者闯红灯时，这些骑手冒着生命危险的代价节省下来的时间又会被算法吸收，并成为新的时间标准。如此循环，最终每一条路线的配送时间都被压缩到极致。
因此，效率的提高并非只是因为系统更“能算”，更因为它能监督和控制无数外卖骑手，把他们竭尽全力的“计算”吸收到系统中。
只不过，提高效率的代价是外卖员的生命安全。
根据2023年的一次调查，在送餐高峰期，北京市某路口半小时内通过53名骑手，其中逆行、斜穿马路、闯红灯的多达37人。上海市也曾公布一组数据：2017年上半年，平均每2.5天就有1名外卖小哥伤亡。2023年，上海美团外卖员的交通违法总数在某一周曾高达6500次。
笔者就曾经历过这样的时刻：一个雨夜，因为担心超时而重重地撞到了路中间的护栏上。电动车撞坏了，但订单不等人，我只能骑共享单车送完这一单。
事后我曾经想象过，退一万步讲，平台能够允许外卖员第一时间将交通事故的信息上传到系统中，给骑手宽限一段配送时间。至少我可以不至于如此狼狈，受伤的骑手至少可以有余裕善后。
平台已经投入大量资源优化系统，减少配送时间，为企业盈利，给出事故的骑手留一扇“后门”难道很困难吗？设计不出完美的系统到底是因为技术能力不够，还是设计者本身的权力观念在作祟？
针对骑手事故的公共讨论已经过去数年，但仍没有见到系统上明确的改善，外卖平台究竟是否愿意有所作为，答案不言自明。
我们无法真正了解，“技术原因”是否只是拒绝改变的托辞，毕竟开发算法规则的主动权在企业手中，劳动者始终无法参与到决策之中。
电影《又是充满希望的一天》剧照。影片中，一名外卖员为了赶配送时间被迫逆行超速，发生了交通事故，由平台统一投保的三元钱保险却难以得到理赔。这部电影也是近年来少有的，真实反映算法问题的现实主义影片。图源：电影官方海报
五、“技术进步主义”的盲目
“技术进步主义”者总抱有乐观情绪，他们相信：今天技术的“傻”和“笨”不过是因为它正处于婴儿阶段，但它终将造福社会。因此企业愿意花大量资本投入到技术中。
但有没有可能，从一开始，对婴儿的“抚养路线”就出错了？一种危险已经在浮现：只要举起“技术提升生产效率”的旗帜，就可以忽略劳动者所遭受的异化的劳动状况。
对进步的追求已经变成一种盲目的信仰。即使一项技术在应用中存在种种不合理之处，但是当它在新的领域被重新包装，人们又兴奋得好像看到了进步的未来，而遗忘它的负面影响。
在武汉，尽管“苕萝卜”做出了一系列“傻行为”，但人们依然倾向于认为这些只是无人驾驶系统的偶然失误，并且可以在技术层面加以解决。也有人认为，萝卜快跑的单车智能驾驶能力最终会被更加智能的“端到端”方案所替代。
再一次，技术进步主义的咒语开始被吟唱起来，我们被赐予了一个无限延期的承诺：只要信息技术不断迭代，在不知多远的未来，全自动化、智能化的社会终将实现。
但已经有人开始担心：我们凭什么相信自己将是数字技术的受益者，而不是成为被技术抛弃的人？就像被萝卜快跑淘汰的司机，和被外卖平台越“卷”越快的骑手一样。
人工智能的发展路线并非单一的，我们需要追问，设计者抱着什么技术观念，技术最终将使谁受益。抛却对进步的天真幻想，将技术置于权力结构之下认真审视，对当下人工智能技术路线进行全面的计算与评估，这一切都还为时未晚。
参考资料
1. “萝卜快跑”背后有人！一张网图揭示无人驾驶安全的最后一道防线m.thepaper.cn/newsDe...
2. 便利蜂“猜想”
3. 便利蜂卖“蜂巢”：一场价值21万的“勇敢者游戏”
4. 便利蜂的基因与野心
5. 让外卖员告别“生死时速”，平台算法的优化与调整势在必行
6. 上海每2.5天就有1名外卖小哥伤亡 这工作咋成了高危
7. 上海公布快递外卖行业交通事故、违法情况
编辑：王昊
食通社是一个可持续食物与农业的知识、信息和写作社区，由一群长期从事农业和食物实践及研究的伙伴们共同发起和管理。我们相信，让消费者了解食物的来源，为生态农业从业者创造一个公平公正的市场和社会环境，我们的食物体系才能做到健康、美味、可持续。
微博/豆瓣/知乎:食通社
微信公众号:foodthinkchina微信小号:foodthinkcn
官方网站:www.foodthink.cn
喜欢我的作品吗？别忘了给予支持与赞赏，让我知道在创作的路上有你陪伴，一起延续这份热忱！
- 来自作者
- 相关推荐