分享

别让算法害死外卖小哥

 谭天论道 2020-12-16

在中国,抖音掀起了全民狂欢;在美国,TikTok几乎要了Facebook的命,这都因为它凭借强大的算法。但算法也常常被人们诟病,学者把被它祸害的人叫做“算法囚徒”。数据与算法的应用,扩张了人的能力,但也带来很多新问题与新风险。彭兰教授认为算法会在以下三个方面将人们围困:一是信息茧房的围困;二是算法中的偏见或歧视对人们社会资源与位置的限制;三是算法在幸福的名义下对人们的无形操纵。

近日看了一篇长文《外卖骑手,困在系统里》,简直触目惊心,我看到了外卖小哥(骑手)是如何被算法压迫、压榨和祸害的。骑手送餐是由快递公司的“实时智能配送系统”安排的,这个系统是AI智能算法深度学习能力的体现——在美团被称为“超脑”,饿了么则为它取名为“方舟”。它们都有一个共同目的,就是把骑手的送餐严格限定在算法算出来规定时间里,如果超时就会得差评,得了差评就会被扣钱,于是在利益的驱动下骑手只能疲于奔命。

通过优化算法自然会提高配送效率,让公司获得可见的利润。然而,人算不如天算,何况是机器。遇到刮风下雨怎么办?遇到电梯高峰送上去怎么办?为了月入过万的收入诱惑,不少骑手争分夺秒,不仅飞车狂奔,甚至逆行抢道,于是骑手们成了交通事故频出的高危人群。在算法的驱动下,骑手为生活所迫进入了至暗人生。

看了这篇文章我心里感到很难受,网友留言也表达了同样的感受并提出批评意见:

我们以为自己制造了算法,未曾想最后是算法统治了人。感谢人物,写出了这么一篇有血有肉有数据的文章,让人们看到他们的艰辛,讽刺的是,真正一线的骑手可能也没有时间去看完这篇文章。转出去,就算有一个人看了这篇文章以后能在收到外卖后,给骑手说一声谢谢,也是值得的。最后,愿天下骑手都能平安回家。

非常心酸。很多时候,技术的进步并没有带来人类的解放,反而是更深的枷锁。美团和饿了吗难道不知道这个现实吗?是把人当成工具的异化吗?他们知道。但在资本面前,即使异化,他们也无动于衷。因为他们只得到了利润这一A面。无数血肉机器人,承担了这一庞大送餐帝国黑暗的B面。

本来我对美团和饿了么给我们带来生活的便利是有好感的,对他们使用算法来提高配送效率和管理水平也能理解。技术是中立的,但技术的应用是有价值观的,算法并不是冷冰冰,它背后是企业的良知。如果企业利益熏心,一味考虑企业收益而不顾实际情况和员工安危,那就不是人性化管理,那就是无良企业!

有学者认为,算法之所以引发争议,不仅是算法的准确度的问题,更是因为它让人们感受到一种危险的倾向,即这些算法用于不当的目的时,会对某些人群或个体形成歧视与伤害。算法是建立对个人信息数据获取的基础上,骑手一旦接单他的个人隐私就暴露无遗,不仅公司可以监控他的工作状态,顾客也可以看到他的配送状态。一位骑手打算先送远的再回头送近的,但当顾客在系统中看到骑手经过他家门而不入时却不满了。骑手还有个人行动自由吗?

日前,我与字节跳动的一位朋友聊起,为什么美国人那么不喜欢TikTok?文化差异是其中一个因素,我们与西方发达国家对网络文化和隐私保护的观念不同,他们更注重保护个人信息安全。而我们在追求经济高速增大和个人消费便利的同时往往是放弃个人隐私为代价的。个人在这股强大的信息洪流中处于弱势地位的,同时也隐藏着极大的信息风险和个体伤害,这要引起政府和社会的高度重视了。

当今,人工智能已经逐渐全面渗透到人类活动和社会生活,它给人们带来的是福还是祸?取决于算法开发者对效率与公平的平衡,取决人们对技术伦理的重视和研究。数据社会学家尼克·西弗曾提出过"算法文化"的概念。在他看来,“算法不仅由理性的程序形成,还由制度、人类、交叉环境和在普通文化生活中获得的粗糙-现成的理解形成”。笔者认为,有必要研究和应用计算社会学。

美团市值突破2000亿美元的新闻发布后,有人再次提及王兴对速度的迷恋,还有他曾提起过的那本「对自己影响很大」的书——《有限和无限的游戏》,在这本书中,纽约大学宗教历史系教授詹姆斯·卡斯将世界上的游戏分为两种类型:「有限的游戏」和「无限的游戏」,前者的目的在于赢得胜利,而后者则旨在让游戏永远进行下去。系统仍在运转,游戏还在继续,但愿美团不要让算法玩死别人,同时也玩死自己。

主要参考文章:
外卖骑手,困在系统里
假象、算法囚徒与权利让渡——数据与算法时代的新风险(上)
假象、算法囚徒与权利让渡——数据与算法时代的新风险(下)



谭天的文旅世界

头条号东行漫记

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多