人工智能不是万能的

封面图片由 Brett Jordan摄制，于 Unsplash发布。

自DeepMind的AlphaGo拿下了围棋这个以往认为人工智能远不可能拿下的领域后，人工智能开始进入了人们的视野。兴奋的资本家们在各个领域引入人工智能，在客户洞察、决策建议、智能调度上取得了不少好成绩。外卖、网约车、物流，都从智能调度得到了不少好处。他们让员工遵从智能调度系统的指挥工作，从而提高每位员工带来的效益。然而，《人物》杂志一篇《外卖骑手，困在系统里》[efn_note]赖祐萱. (2020). 外卖骑手，困在系统里. 人物. 检索来源: https://zhuanlan.zhihu.com/p/225120404[/efn_note]，深刻揭露了智能调度系统存在的许多问题：路线规划逆行穿墙、没有预计到上电梯的时间、应对不了爆单的场景等等。这不禁让人质疑，真的该让人工智能来指挥员工工作吗？

先夸夸这个调度系统，更应该说是调度系统支撑了美团们的发展。2019年5月美团配送品牌发布时，美团已经有3600万的商家、60万的骑手、4亿的用户每天产生2500万的订单。若是交给人来做规划那是很难行得通的。而美团智能调度系统应达到的规格是能在几秒钟内处理峰值1万多单和几万名骑手的匹配，所谓“万单对万人的秒级求解”。[efn_note]王圣尧. (2020年2月20日). 美团智能配送系统的运筹优化实战. 检索来源: 美团技术团队: https://tech.meituan.com/2020/02/20/meituan-delivery-operations-research.html[/efn_note]人工智能能做以往人力完成不了的工作，这为我们提供的便利是有目共睹的。所以我们必须要在使用人工智能的前提下继续我们的讨论。

那么问题就是，为什么智能调度系统会有以上的问题？有一种可能是模型忽略了某些重要因素。人工智能虽然可以“自学习”，但也是基于一定的模型，受到模型的限制。没有DeepMind设计的模型，AlphaGo是学不会下围棋的。所以，算法工程师们没有考虑到的问题，自然也不会被算法模型考虑到，从而体现到智能调度系统忽略这个问题。不过，鉴于我们已经有了许多收集分析影响因素的工具，这种情况变得很少很少，更有可能是模型还没能正确处理这些因素的关系。

然而，人工智能应用中最难解决不是模型问题，这些问题都能在数据变多，以及科学家们提出新的算法或模型后解决。而数据收集问题，往往才是制约人工智能的关键。人工智能是被大量数据训练出来的，而用来训练的数据集上G已经是基本要求，商用中的更多情况是动辄TB级的数据分析。

错误的数据会误导人工智能。为什么骑手们被逼的越来越快？因为每位骑手的实际配送时间会被调度系统记录，成为“平均速度”的一部分。我们假设有位骑手他想赚更多的钱，于是他超速、逆行跑完了比别人多的多的单。这时候影响还不大，因为系统能剔除“离谱”的个案。但是，若他在群里炫耀，朋友们纷纷来学习经验后，事情就坏了，一大批骑手的配送速度会变快。系统被吓到了，怎么一下骑手们能跑这么快。但是系统不会去纠结为什么，也不会被吓到，它只会记下来，然后下次估算ETA的时候，少给几分钟配送时间。别的不犯规的骑手看到这个时间才是真的被吓傻了，不犯规，怎么可能跑的到这个速度？但是在系统规定的时间送不到，是要被罚的，被淘汰的。于是他们也只能犯规配送。结果就是所有骑手都被迫以自己的生命安全为代价，提升了整体的配送速度。

数据收集不准确与无法收集到也是影响人工智能决策质量的因素。美团技术团队指出外卖配送调度中有商家出餐时间不确定，顾客交付时间不确定，骑手派送顺序不确定三个随机因素[efn_note]美团智能配送系统的运筹优化实战 https://tech.meituan.com/2020/02/20/meituan-delivery-operations-research.html#%E8%AE%A2%E5%8D%95%E6%99%BA%E8%83%BD%E8%B0%83%E5%BA%A6[/efn_note]。这三个因素中其实有不少是未能做到准确的数据收集而被判断为是“随机因素”的。比如出餐时间，餐品口感高度受温度影响的烧烤等品类的商家总喜欢押后出餐，可能等到骑手到了才开始做；有时则是商家出餐能力有限，造成骑手到了干等的局面。开学的时候我就见过可能哪几个社团的学长学姐点了几十杯奶茶，三四个骑手在一点点干等了一个多小时的情况。这个问题其实是可以一定程度避免的。按照食谱做菜的朋友们会知道，烹饪中加工时间其实是一个相对确定的时间。因此，根据单量与平均加工时间，可以算出每单的预计出餐时间。商家把这个时间与美团们分享，而美团给出骑手的预计到达时间，就能大大减少这种骑手干等的现象。而客户交付时间的问题，可以在把用户地址细化到在哪里交付，在哪一层交付，这栋楼有多少个电梯等能让软件直接理解的数据（而不是现在给人读的详细地址），从而精确估计电梯等待时间等等。

但是，为什么美团们不实践上面给出的这几个方案呢？因为它们的成本可能很高，甚至在当前还不切实际。比如许多使用美团的小商户，还没有数字化经营的意识与能力，难以提供我们要的数据。我们必须要承认，人工智能虽然已经能做到很多事情了，但是由于模型、数据的限制，它还有很多做不到的事情。而当确定的模式无法应对环境的随机变量时，我们会充分发挥主观能动性，也就是随机应变。让员工充分发挥主观能动性很有用，这让他们更容易爱上工作，并为自己的工作担负责任，并能更快地发现业务中的问题并解决他们。

悲哀的是，美团们发挥人的主观能动性的位置过于偏上了。他们没能听到数十万的骑手的声音，反而在远离配送业务的上层展开了不少思考，这就导致产生了很多骑手们无法理解，效果上不仅没有推动配送效率提高，甚至还倒退了的问题决策。比如跑着跑着就要求你停下来看的安全教育视频，甚至是随时随地要你停下来的形式主义“微笑行动”。短期体验了骑手生活的短视频博主曹导提出了一个建议：可以让外卖平台所有的产品经理和算法工程师都去当一个月骑手，这样。他们才会知道这个系统对人的压迫有多么严重。

人工智能还不是万能的。它以后或许会变得万能，但是既然现在它不是，那么管理层就应当注意规避它的缺点。比如考虑如何设计合理的模型，给人工智能“投喂”正确的数据，还要多从实际在做业务的人听取反馈。