科技向善，莫让算法“算计”人

2022-03-07 16:27:29 来源：新华日报

□ 本报记者许海燕陈珺璐黄勇

3月1日起，国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》施行。我国首部专门针对算法推荐的法规，剑指“大数据杀熟”等算法治理痛点。如何让人们摆脱被算法推荐“绑架”？如何让购物平台不再铺天盖地推荐“你的最爱”？

多个平台闻令而行，

但仍有算法滥用

无论是打车、网购、叫外卖，还是玩游戏、看视频、浏览新闻……大数据时代，互联网算法已深入社会的方方面面。一套优秀的算法能够在几毫秒内响应成千上万的并发需求、做出最佳决策，让整个系统能够同时服务这些用户。

然而，南京白领黄佳觉得，网购电商的“精准推荐”让自己感觉没有隐私。她告诉记者，经常是自己刚和朋友聊天或搜索、网购某个产品后不久，电商平台就“铺天盖地”进行相应推荐，“有时浏览某个明星的八卦新闻，之后同类视频就会扑面而来。”

新近施行的这一管理规定明确，应当向用户提供便捷的关闭算法推荐服务的选项。3月3日，记者在微信、淘宝、京东、美团、抖音、饿了么等多个APP测试后发现，其均已提供“个性化内容服务”关闭选项。在微信APP“设置”中的“隐私”一栏，在“个人信息与权限”项下可关闭个性化广告推荐。淘宝APP在“设置—隐私”中的“广告管理”和“推荐管理”里，均出现了关闭个性化推荐的按钮。京东APP在“设置—隐私政策简要版”中的“用户个人信息权益保障”里，也有个性化广告和个性化推荐的关闭按钮。

不过，在众多平台闻令而行的同时，依旧存在不少算法滥用，让人“糟心”。3月1日至5日记者调查发现，在一些旅游、打车等网络平台上，“大数据杀熟”现象仍时有发生。

“使用不同手机搜同一家酒店信息，显示的价格还是会不一样。”这几天，在苏州工作的时洁正打算去无锡鼋头渚赏樱，安排行程时发现仍然有“坑”。去年前往敦煌旅游时，相同旅店、同一平台、同一种房型、同一天入住，她通过某软件预订旅馆的费用比不常使用该软件的同事多花了200余元，这让她自此留了个心眼。

家住南京市雨花台区的王晓雯，早上常常打车去河西上班，为此她买了滴滴平台推出的“打车周卡”。上班5.8公里的路程，快车价格打八折后为11.4元，拼车价格拼成后是8.04元，拼不成则是13.89元的“一口价”。“早高峰我从来没打到过快车。”3月3日王晓雯告诉记者，如果早高峰在打车页面只选择快车，往往等上半个小时都没人接单，但在选项中加上拼车后，等几分钟就会有司机前来。“更可气的是，要是能拼到同乘人就算了，确实能便宜点。但总是直到终点车上都只有我一个人，只能按‘未拼成’算价，这样就比打快车贵了两块多。”

北京市消费者协会近日发布的互联网消费大数据“杀熟”问题调查结果，也显示算法滥用现象依旧存在：86.91%的受访者认为自己有过被“杀熟”的经历；在对16个平台进行的32个模拟消费体验样本中，有14个样本新老账户同时购买相同商品(服务)的平台标价不同，涉嫌侵犯消费者合法权益。

完善算法，

维护众多从业者权益

网约车司机、外卖小哥们期盼的则是，无论算法多复杂，最好让他们能多赚些钱，别让他们流汗又流泪。

开了10年出租车的南京人刘永，于2018年“转行”成了一名滴滴司机，刚开始每个月怎么跑都能挣1万多元，可近两年来他发现，想要月收入过万越来越难。“奖励金越来越少，扣分事项却越来越多。”刘永告诉记者，按照公司规定，司机的信用分越高，被派单的可能性越大，成功接一单能拿到0.2信用分，但只要被投诉一次，直接5分起扣，“逼得你只能不停地跑”。

此外，所谓的“接单冲奖”也让滴滴司机们头疼。拿早高峰举例，司机们在完成基础订单数后，每完成3个订单便会得到金额不等的奖励金。但不少司机反映，在奖励金单数快完成时，平台往往会派一个耗时长的单，司机也只能硬着头皮接下来——拒接同样会扣信用分。“你在城东就给你到城西的单子，你在市区就给你到乡下的单子，反正让你拿不到奖励金。”滴滴司机周蕙跟记者“吐槽”道，感觉自己被“算计”了。

按照平台的规则，早高峰期间如果一单拼到了多人，司机可以按照拼单人数计算单数，这样一下子就能达到奖励金要求。“然而我们司机只能等平台派单，来什么都得接着。”周蕙说。

至于外卖平台，其算法大多一味追求“效率”，让送餐员处于“系统”的压力之下。午餐、晚餐时段多头催促，有时外卖小哥们赶到餐饮店，菜品却还没准备好；有时平台派单不科学，小哥去迟了，菜品变凉又影响消费者体验。

而新管理规定的施行，有望逐渐改变上述种种不合理现象。记者注意到，新规中特别提出，算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

“相较于互联网平台，网约车司机、外卖小哥们处于弱势地位，这些条款的提出，有助于提升他们的生存和工作环境。”北京市德贤(南京)律师事务所主任韩家佳告诉记者，比如在有明确奖励机制的前提下，互联网平台利用信息优势减少司机的派单量，在实际操作上其实是一种不诚信行为，但这种侵权和不公平是非常隐秘、难以发现的。

取证难、维权成本高，

难题待破解

算法滥用的本质，是商家利用算法以牟取自身最大经济利益为导向，进行所谓“大数据杀熟”、诱导消费等。然而，这方面维权取证难、维权成本高。

韩家佳介绍，我国此前出台了《电子商务法》《个人信息保护法》，《互联网信息服务算法推荐管理规定》的施行旨在从不同角度对“大数据杀熟”现象进行遏制。

“这一管理新规提出，算法背后的价值取向也要符合伦理规范。”韩家佳举例，假设某电子商务平台存在“大数据杀熟”，但其商品推荐算法是由第三方提供的，通过《电子商务法》无法对第三方平台做出限制，但新规明确，提供算法推荐服务的第三方主体也不可以提供违反公平原则和诚信伦理的算法推荐服务。这可谓从“源头”解决问题。

他讲述了一个典型案例：浙江绍兴的胡女士通过某商旅平台预订了一家酒店房间，结账时发现，通过平台支付的房费比该酒店实际房价高近两倍，而她是该商旅平台的高级会员，本可以享受8.5折优惠。胡女士怀疑这家商旅平台存在“大数据杀熟”行为，遂将其告上法庭。去年7月，法院一审对原告“退一赔三”的请求予以准许。这起案件被众多媒体称为“大数据杀熟”第一案。

在现实生活中，很少有人在遭遇“大数据杀熟”后会像胡女士一样拿起法律武器维权，因为取证难、时间成本高，而补偿并不高。对此，韩家佳呼吁，一方面相关行业协会、公益组织应向普通人伸出援助之手，以公益诉讼等方式制止违法、挽回损失；相关部门也要更加积极主动进行监管，落实面向全社会的便捷、友好的投诉、举报机制。

新施行的管理规定也提出，算法推荐服务提供者向消费者销售商品或者提供服务的，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。对违反相关规定的，由网信部门和电信、公安、市场监管等有关部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。对此，多位法律界人士认为，要让新管理规定“长出牙齿”，需要相关监管部门强化其落地执行，市场监管等部门需进一步出台配套政策、细化惩处措施。

多方携手，

用好算法提高服务水平

“算法技术本身并无好坏之分。”在南京大学计算机系一位资深教授看来，算法给人们生活带来了便利，比如网约车平台利用算法及时响应叫车需求，改变了偏僻地方难打车的困境，提升了行业服务水平；但另一面，如果未受到有力监管约束，平台也会利用算法追求高额利润，在周边明明有便宜车的情况下推荐高档车，这便是“算法作恶”。“应多方携手，用好技术‘向善’一面，提高行业服务水平，更好地造福人类。”

江苏省消保委工作人员徐悦介绍，中消协确定2022年消费维权年主题“共促消费公平”，其中一个重要内涵就是“科技向善”。新规出台后，如何用好算法技术创造更美好的生活？一些企业的做法值得借鉴。

“苏州本轮疫情发生后，我们通过优化算法，使得送货员配送效能提高了不少。” 叮咚买菜江苏事业部负责人颜现富介绍，首先在采购端加大供应，日配送能力从平时的100万件提升到150万件。尤其是疫情发生后前几天，米、面、油、蔬菜订单激增，叮咚买菜及时调配资源，优先保证苏州区域供应。其次，数据驱动，在送货端也发挥了不小的作用。“送货员的送单量有限，当出现运力实在不足的情况，线上下单便会被暂时锁定，等恢复运力时才能继续正常下单。”

“在数字化过程中，我们更多聚焦‘为用户提供更好的产品和服务’。”途牛旅游网研发中心总经理顾启宁介绍，比如，在建立产品画像并辅助产品生产的过程中，主要是通过产品全方位、细粒度画像数据，用人工和系统的方法建立产品标签，再通过产品标签数据来协助产品设计，让旅游产品更适应用户需求。

同程旅行相关负责人介绍，他们通过不断优化算法，打造更好的“慧行系统”，方便顾客便捷出行。比如，用户一旦遇到交通临时停运的情况，通过“慧行系统”输入从A地到B地的需求，就能获得“机+火”“机+汽”“火+汽”等出行解决方案。

算法不是造成行业乱象的根本原因，关键还是在于如何加强算法监管、平台如何履行好主体责任。“商家对消费者进行用户画像、提供个性化服务，这些用心之处都可能为消费者带来良好体验。”徐悦说，企业应正视消费者的知情权、选择权，对算法的使用要坚守底线，不能一味逐利。同时通过监管“让算法少些算计”，保障消费者合法权益。

标签：