“无意的算法残酷”：困在系统里的外卖骑手如何“养系统”
“人工智障”骑手对于系统的感知多来自对App的使用以及自身的送单劳动。在日常工作中，骑手对于后台系统的称呼十分多样，包括“送单App”“技术”“后台”“手机”，也有骑手直接使用“平台”来称呼派单系统。对于大多数骑手来说，后台的技术系统“十分复杂”，“整不太明白”。而在日常的交流中，骑手对于系统的感知形态通常十分具体、充满了情境性。他们根据自己的劳动去理解、揣摩算法，并阐释了自己对于技术系统的理解。我和调研小组其他成员在访谈中听外卖员讲了很多大大小小的关于系统的例子。这些例子虽然无法让我们看到整个系统与劳动的互动全貌，但是却像一块块单片的拼图，让我们得以透过个案“以小见大”，窥见系统与劳动的动态互动。
在实际的送餐过程中，骑手对于派单路线和地图引导的抱怨十分普遍，几乎到了人人都要说两句的地步。其中对于地图的智能引导抱怨最多。我在2017、2018年的田野调查中发现，彼时很多外卖平台的订单配送距离设置都是计算直线距离而非实际路程距离。由于算法需要根据订单的配送距离预估配送时间，实际路程与直线距离的差异增加了外卖员的配送压力。对此，高喆师傅多次向我抱怨：
直线距离短，实际距离比这长多了！有一次，一个去豪景东方的单子，显示是3公里，结果你猜，我跑了多少？5.2公里！……系统这个地图不对。显示直线距离算什么？我们又不是直升飞机，起飞、降落就行。
对于计算距离，平台的地图系统后来做出了调整，以实际距离代替了直线距离来计算时间。但是，一些骑手仍然不满，他们表示，系统显示的距离经过了处理，被有意无意地缩短了，实际的送单距离往往要超过系统显示的距离。骑手大多不通晓计算和技术，但在他们看来，后台这些充满高科技、十分复杂的算法系统出现的问题有时“十分幼稚”，让他们啼笑皆非。他们在聊天的时候，将后台系统戏称为“人工智障”。
岩晖涛（下文对话中简称“岩”）是潘家园附近的一名“饿了么”骑手，他不高，有点胖，说话的时候笑眯眯。2017年开始，他在一家连锁餐厅驻店，专门负责该餐厅的订单派送。采访后，我们加了微信，有时会通过微信聊天。有一天，他主动找我，问我是否还在继续做外卖骑手的调研，并表示他愿意给我提供一些系统“搞笑的事情”。为了让我更好地理解，他先是给我发了很多张手机截图（参见图10），然后开始讲系统是怎样“无理取闹”，以至于让他无可奈何。
下面是我俩的微信对话：
岩：今天这些单派得，太不合理了。
我：哪里不合理？
岩：反向派单能合理吗？现在时间太紧张了。
我：就是逆行吗？
岩：嗯，系统的路线就是逆行路线。你看，从3到4，我得过一条河，还有一条高速。按照地图导航，我得绕一个大圈。按理说，以高速为界，两侧的单几乎没法送。我今天倒好，送了好几次！
我：你是怎么过去的？
岩：找天桥，逆行过去。
由于后台系统会根据骑手的流动数据来不断调整送餐路线，所以在很多情况下，流量多的数据便有了合法性。于是，很多情况下，骑手为了节省距离、缩短送餐时间而不得已选择的逆行路线也会被后台地图逐渐采纳，并发展成推荐路线。每次说起这个事情，岩晖涛都会哈哈大笑，然后抛给我一句：“鲁迅说得好，这世上本没有路，走的人多了也就成了路！”
也有骑手抱怨后台系统“不好使”、“不智能”。老高站点里的同事曾经抱怨过App的蓝牙识别不准确：
不点到店，没法出餐。（App后台有一个）蓝牙识别到店（功能），有的（时候，后台对）商家定位不准，你明明就在，但你就点不了到店。你到不到店，技术说了算。但是这个时候，如果客户取消，就是（我们的）物流责任，罚骑手五百，一天白干。
诸如定位不准、无法点击下一步、派单混乱等问题经常被骑手们提及。而每一个技术性的问题背后，其实都与骑手的配送“业绩”和劳动收入紧密关联。为了保证自己的送餐过程顺畅，骑手发展出了很强的能动性和灵活性，他们会实时跟进订单的剩余时间、到店取餐时间、路程的远近，以及楼层、有无电梯、是否需要通过门禁等。面对“人工智障”，骑手会在此过程中开辟一套特定的、与系统对话的逻辑，并在此基础上实现人与机器的共同进化。通过送单劳动，骑手不断地为平台算法所设计的逻辑“试错”。骑手所承担的劳动，更像“测试端”的工程师，他们一次次地送单，一次次地验证系统的准确性。唯一不同的是，测试工程师面对的是电脑屏幕，而骑手的测试则是在三维立体、充满各种复杂情况的大街上。“骑手抱怨—平台改进”的这个过程生动地展现了智能算法的成长历程。
“养系统”
2021年夏天的午后，我们和大强哥、王小笠、李飞龙、驴哥等骑手在房山美食一条街的一家餐馆聊天。闲聊时我提到外卖的派单系统，以此开启了话头，骑手们纷纷发表意见。在你来我往的激烈讨论中，我发现，虽然大家对于平台的派单系统充满了各式各样的不满，但是却在一点上达成了共识，那就是，作为骑手，需要养好自己的派单系统。坐在我旁边的大强哥扒了一口米饭，没好气地说：
系统就是爷爷，需要时时养着！你对它好，它才会对你好！
大强哥是房山良乡楸树街的众包骑手。他三十岁左右，身材魁梧，挺着个啤酒肚，骑一辆大摩托，为人直爽，说话声音大。按照我的理解，他算得上是房山美食一条街的“意见领袖”。他干的时间长，经验丰富，认识的骑手兄弟多，也喜欢跟大家交流。遇到拿不准的事情，骑手们会找他商量。2021年夏天，我和调研小组的同学们多次前往楸树街，大强哥热情地给我们介绍其他骑手，还给我们每人指定了一位骑手，让我们跟着去跑单。我曾经跟着大强哥跑了一个下午，他骑车快，走路速度也快，我不得不跟在后面一路小跑。
对我来说，“养系统”是一个非常有趣的田野议题。根据大强哥的反馈，系统是分层级的，只有把数据弄好了，系统才会派给自己更好的单子。对于如何“弄好自己的数据”，大强哥的回答是：“好好跑单。”他的解释如下：
首先，不能老拒单。拒一次两次行，一天拒很多次，后台就会知道——它都有自己的设置。到了一定数量，你不但接不到单，还可能被封号。对啊，因为你老拒单。……还有，要坚持跑。你看那些排名靠前、业绩好的，哪个不是全天在岗？（他们）很少请假。三天打鱼两天晒网不行。数据都是积累起来的，不常跑，没有好数据。
在跑单过程中，骑手们敏锐地发现了后台系统是靠数据积累对外卖骑手进行等级评定和派单的。这一点尤其适用于抢单的众包骑手。到了午高峰和晚高峰时段，众包骑手们出现在大街上，三五成群，或坐在小吃店门口，或倚靠在电动车旁，开始埋头“抢单”。我曾不止一次地听到骑手们抱怨，一个订单发出来，大家一起抢，但是最后，总是会落到他们知道的几个人手里。他们对此百思不得其解，有人说是因为不同品牌的手机抢单速度不同，也有人说是距离的问题，还有人说是抢到的人用了作弊软件。
但是大强哥不这么认为。按照他的说法，那几个固定的人总是可以抢到单，是因为他们的“数据好，跑单从来不挑”，所以系统才会倾向于把好单子派给他们。大强哥一直坚持说“好数据是靠努力得来的”。他并不看好整日蹲在街头“挑单子”、“拒单子”的骑手。相反，想要有一个好的数据，需要埋头苦干。
《又是充满希望的一天》剧照
在这里，“养系统”的埋头苦干和前文中所提及的闯关游戏不谋而合。系统在不断升级、进化的逻辑下，需要骑手生产源源不断的数据“投喂”自己。在游戏化的逻辑下，骑手劳动和后台系统形成了微妙的互动循环：送单多、时效快的骑手会得到更多的订单，而单量小、“挑单子”的骑手则不会得到系统的正反馈，并存在被边缘化的倾向。算法系统逐渐向着组织化和层级化的结构转变，其中，持续性、遵从性成为系统派单的主逻辑。
“闪送”平台的“派单”和“抢单”分类是“养系统”生动的体现。平台会根据骑手的送单数量和工作时长将闪送员划分为“派单”和“抢单”两个类别。前者指的是由平台主动派单给骑手，“派单”的级别高、单量多、订单价高；后者则需要骑手在平台分发出来的订单中自主抢单，“抢单”级别低、单量少、订单价低。骑手想要维持“派单”的级别，需要持续地、不间断地定额劳动。按照规定，一个骑手每周、每天都需要完成一定额度的送单量，如果因为某些原因没有完成规定订单量，则会被降级为“抢单”。
“算法想象”一直是算法研究中的重要领域，它旨在探究人们如何知晓、认识算法体系本身。拥有专业技能的人可能通过算法的内里机制向外延伸想象算法的应用，而更多的、无从知晓算法“黑箱”的人，则通过算法体系的外在表现关注算法的系统设置。在这一理论探索中，“算法想象”并不仅仅是一种“想象”而已。相反，它是一个实践过程，一个生成性过程。个体对于算法的想象会直接影响到其个人生活以及其与算法的交互。长期的实践经验养成了外卖骑手对于后台算法的独到想象。大强哥、王小笠、李飞龙、驴哥在一起的时候，时常讨论起后台的算法“黑箱”。虽然他们无法从专业的角度理解、阐释为什么在一些情况下算法会这样，在另一些情况下却变成另外的样子，但是他们的猜测、质疑、想法毫无疑问形成了“算法八卦”（algorithmic gossip），这些话语的表达组成了外卖骑手对于算法的想象，也深刻地影响着他们的跑单劳动。
例如，当知道系统需要不断通过个体劳动“被投喂”时，“养系统”所需要的持续性有时候让骑手们很为难。虽然平台以灵活自主的工作定位来招工，但在实际的劳动过程中对骑手有连续的工作时间要求。一些骑手因为探病、秋收或者其他紧急情况回老家的情形时常发生，而这些意外一旦打断了其工作的连续性，他们的后台数据就会变得“不好看”，骑手等级也会随之下调。一位“闪送”平台的骑手曾在“抖音”上闷闷不乐地描述自己的处境：
必须天天跑。你看，我这几天回老家一趟，有点事，这绩效就下来了。没法拿到大单，只能送一些周边的小单。
2014年，网页设计顾问兼作家埃里克·迈耶（Eric Meyer）创造了“无意的算法残酷”一词，用来描述计算机设计中的一个缺陷——缺乏共情的能力。的确，在送餐平台的算法设计中，通过持续性劳动来“养系统”的做法也同样充满争议。作为身处社会之网中的流动人群，骑手面临着生活和劳动中的诸多不确定。通过单一的算法监控来“定价”骑手的劳动而不允许其“出现意外”，其实是在将骑手当作一种可以持续生产价值的机器，而非具有个体化生活情境的人。
更加令人惊奇的是，在日积月累的劳动中，骑手们会对算法系统产生情感依赖。他们将App拟人化，并努力地与其进行对话。在这个过程中，“养系统”成为一种非常有趣的人机互动实践。“非常聪明”“鸡贼”“很会算计”等用来形容人的词汇被大量用来形容平台后台的派单系统。在等单之余，骑手们也会“钻研系统”。他们通过浏览App网页内的诸多细则、规定，从中得出自己的理解，并与其他骑手一起分享、讨论，甚至是在送单过程中不断实践、验证。关于骑手“逆算法”的劳动实践，将在第六章详细展开。这里我所要强调的，是骑手与系统形成的既依附又对抗、既合作又协商的互动过程。在这个过程中，甚至出现了有趣的情感依赖。在情感社会学的论述中，学者认为，情感的唤醒和联结是人类的重要特性。同时，情感受到社会和文化诸多结构性因素的影响。外卖骑手与技术系统的互动是催生其情感唤醒的重要因素，也极有可能是我们人类即将面对的人机对话的未来场景。
卡罗琳·马文在其著作《当旧技术尚新》一书中，阐释了对于技术进化的理解。她认为，技术的进化不仅仅有功用性、工具性的一面，更有其人文性和社会性的一面。这样的观点，放到今天算法和人工智能技术的演进中依旧适用。在技术形态发生深刻转变的今天，算法的进化绝对不是单纯的编码、程序、软件所讲述的单一逻辑。恰恰相反，它的进化深深地嵌入在平台劳动的过程中。算法的进化需要以数字劳动者的“行为化数据”作为基础，并在此之上形塑对劳动者越来越精细和严格的管理。这也正是我在本章开头所表述的“生成性管理”的内涵。
此种“反噬”的后果，值得我们深思。正如《外卖骑手，困在系统里》所阐释的，当算法系统越来越严苛，骑手的速度越来越快，整个外卖产业便陷入了难以逃脱的“负循环”。也正因此，外卖产业会被冠以“过渡劳动”的意涵，源源不断地有人加入，也源源不断地有人离开。如今的外卖系统更像是一个“技术奇点”，把所有参与其中的人带向一个未知的未来。
提上日程的算法伦理
《又是充满希望的一天》剧照
在智能技术如此“脱缰”的今天，我们确实有必要呼吁对于它的控制和反思。尤其是当技术与资本进一步绑定以来，它的强大动能及相伴而生的强大破坏力日益显现，技术的利维坦似乎正在成为现实。平台经济日益普及，技术的资本属性和公共属性发生了明显的冲突。“困在系统里”的骑手所展现的正是这样一种矛盾。骑手参与了算法的生产，却无法参与算法规则的制定。对于算法伦理问题的讨论，展现出了技术的公共性逻辑与私人化逻辑之间的矛盾。
我们不妨回到技术设定的最初期望。技术的初心和本质是什么？从有了技术发展的理念起，人类历史对于技术发展方向的设定应该是让社会和生活变得更美好。这种“美好”体现在技术的发展让越来越多的人享受到或便利或充裕的生活。技术可能会被滥用，但技术带有的共享、公益，始终是其最重要的社会属性。正如有学者指出，“与狭隘的私人性、集团性相对立的公共性、公益性，是技术社会化实践最重要的价值内核和评判标准”。
退一步讲，无论是从学理还是实践角度来说，基于人类智力劳作所产生的技术产品，其必然带有与生俱来的公共性特质。这种公共性特质表现为技术的出现会增益于人类的生存、生活与发展，能够帮助人类进一步解决整体性的生存困境，并不断增加人类生活的公共价值。例如，互联网技术的最初出现，便是基于全人类互联互通、信息自由流通的逻辑来进行的设计。无论是技术史还是社会史都表明，一项技术的生成绝对不是个体化、单一化的产物，恰恰相反，它具有集体性、互动性，是结合了多种行动者且具有多元特质的产物。说回到算法，它的生产和生成同样是遵循集体性生成的逻辑。因此，当这样一项集体合作的技术因为诸多组织化、结构化和科层制的干预而演变为单一方面的决策与独断时，便出现了技术有悖于公共性的问题。
“外卖骑手，困在系统里”的讨论在全社会范围内迅速引发了关于算法技术伦理的关注。这引起了政府的重视，也给平台公司带来了较大的舆情压力。在此之后，各方终于开始积极反思算法作为一种带有社会权力关系的技术系统应该如何被建构和管理，并开始采取行动。
在最为大家所诟病的骑手“送餐时间”的问题上，“美团”于2021年9月向社会公开了骑手配送时间的计算规则。对于骑手配送时间的预估，后台系统设置了“历史数据模型估算时间”“城市通行状态特性下估算时间”“出餐到店取餐等配送各场景累加估算时间”和“配送距离估算时间”四种算法，并承诺将使用四种算法中的最长时间作为骑手的“预估送达时间”。在此之外，为了减少取餐环节“人等餐”的情况，骑手可以通过App上报，获得一定的时间补充。在回应关于算法优化的目标问题上，平台确立了三个原则：一是坚持公正合理、以人为本；二是坚持公平协调，充分考虑消费者、商户、骑手等平台关联各方的利益诉求；三是坚持公开透明，及时向社会公开关系各方权益的算法规则。2021年11月，“美团”公布了“订单配送”算法，通过其给出的资料，“美团”指出订单分配的逻辑综合了骑手、商户与消费者三端，并调整了骑手的时间宽裕度、顺路程度两个指标来进行订单分配。
政府政策紧随其后。2021年9月17日，国家互联网信息办公室、中央宣传部、教育部、科学技术部、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局、国家广播电视总局等九部委印发了《关于加强互联网信息服务算法综合治理的指导意见》，明确了算法生态规范的原则：“算法应用公平公正、公开透明，算法发展安全可控、自主创新，有效防范算法滥用带来的风险隐患。”2022年1月4日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局等四部门联合发布《互联网信息服务算法推荐管理规定》，指出在提供算法相关服务时，“应当遵守法律规定、尊重社会公德和伦理，遵守商业道德和职业道德，遵循公平公正、公开透明、科学合理和诚实信用的原则”。
这是一种积极的反馈。算法的伦理问题被提上日程。通过《外卖骑手，困在系统里》一文，社会各方开始关注数据的生产、算法的规则制定以及由此衍生的平台劳动者权益问题。而在“生成性管理”逻辑下的平台经济中，算法伦理反思的核心议题应该是数据的从属和算法规则的公共参与。在智能与个体生活劳作联系如此紧密的今天，数据和算法的问题“已经从单纯的‘个体信息’和隐私保护的单一维度，扩展至‘个体权益、企业竞争和生产关系’三个维度”。因此，回到政治经济学的视角去反思这是谁生产的技术系统、应该为谁所有、能够产生什么样的公共价值，显得更为必要。
技术伦理学家安德鲁·芬伯格在《可选择的现代性》中这样说：“首先，我们正在进入一个以泛化的技术为特征的新时代，这些技术以非常难以意料的方式影响着我们；其次，它关系到我们如何对待技术，因为，这也许是历史上的第一次，公众的参与正在开始对技术变革的形式产生重要的影响。”后疫情时代，基于全球产业、信息技术的民族国家利益纷争和市场化消费，强化了智能技术发展的光环、优势和支配性心理。谁掌握了更多的技术、谁拥有更多的数据，谁便拥有了决定未来数字化方向的更多主动权。也是因此，数字技术的生产、规则的确定、数据的确权问题一直都存在。在此，我们尤其需要警惕基于资本的数字化意识形态正在不断销蚀技术的公共性特质这一趋势，毕竟，技术对于生活世界的彻底殖民，不是我们想要的未来。
（本文选摘自《过渡劳动：平台经济下的外卖骑手》一书，澎湃新闻经出版社授权刊发）
页:
[1]