监管部门主动作为，全社会共同发力，推进综合治理

有效规范算法应用 营造清朗网络空间(法治头条·法治护航网络文明建设③)

随着网络技术快速发展，算法应用日渐广泛。与此同时，有的互联网服务平台滥用算法，可能造成的“信息茧房”“大数据杀熟”“诱导沉迷”等问题也日益受到社会关注。

不久前，《互联网信息服务算法推荐管理规定》正式施行；4月8日起，中央网信办牵头开展“清朗·2022年算法综合治理”专项行动……过去一个时期，监管部门主动作为，全社会共同发力，算法乱象得到有效整治，算法应用日益朝着向上向善的轨道发展。

算法滥用，对公众产生不利影响

李明(化名)下载了一个以“知识分享”为主题的APP。打开后，一篇标记着“您可能感兴趣”的文章被推送至界面。

“这不恰好是我最关注的话题吗？”李明点进去一看，文章的观点“恰好”与自己的十分一致，让李明感觉“有理有据，令人信服”。李明看完一篇，系统又推荐了另一篇他感兴趣的文章。不知不觉，李明竟在该APP上一连“刷”了几个小时。

“这就是算法推荐的作用。”某公司软件工程师黄淑介绍，平台会抓取用户观看某话题总体评价的停留时间、留言时是正面还是负面倾向、“点赞”还是“反对”等信息来判定用户的内容偏好。此后，平台还会利用算法依据“内容相似度”和“用户相似度”，把你最可能感兴趣的内容推荐给你。

那么算法推荐的大规模使用，是否会对公众产生不利影响？

“算法推荐的个性化分发技术，较多地依赖总体热度、个体兴趣等数据。”复旦大学新闻学院副院长、教授周葆华介绍，目前对算法推荐的担忧主要在于：一方面平台追求更大传播热度，形成对内容价值观的忽视，如推荐低俗内容；另一方面基于对个性化兴趣和朋友关系的计算，信息推送与观点供给可能形成“回音室”效应，从而让用户深陷“信息茧房”中。

胡女士通过某APP向某酒店预订一个房间，支付价格近3000元。可入住后才发现，该房型的实际挂牌价仅1000多元。作为该平台“钻石贵宾客户”，胡女士非但没有享受到会员优惠，还支付了高于实际产品价格的费用。胡女士认为自己遭遇了“大数据杀熟”。她怀疑平台利用算法进行用户“画像”，根据自己对价格不敏感、不索要发票等消费习惯，抬高价格，欺诈销售，遂将该平台公司诉至法院。

据介绍，利用算法进行“大数据杀熟”的情形现实中不少见。例如购买同一班飞机票，自己花了上千元，别人同时购买却只花了几百元，这可能只是因为你已经是平台“熟客”，不再需要低价吸引等。

此外，算法推荐还存在诸多其他问题。一些外卖等服务平台采用调度决策类算法进行工作调度时，过度追求工作效率和强度，按照最短可能用时设置配送员的配送时限，让“外卖小哥”为了按时送达而不得不超速、逆行等；有些平台还存在偏见歧视问题，将违法和不良信息关键词记入用户兴趣点；某些应用程序设置算法未经允许抓取用户个人信息……

“有效治理算法乱象，是构建安全清朗的网络生态的必然要求。”中国政法大学副教授郑玉双表示，要健全算法的法律规制模式，破解算法的法律规制难题，实现算法善治。

建章立制，为算法立规矩树导向

不久前，胡女士“大数据杀熟”一案终审判决。两审法院均认为，平台公司未依法告知关系订单交易的真实信息，怠于对平台内经营者进行有效监管，构成欺诈，遂判定该平台公司退还胡女士订房差价并支付赔偿金。但是，法院并未对平台公司是否构成“大数据杀熟”予以认定。

“利用算法针对不同消费者设置不同价格的行为是否违法，有时难以判断。”中国法学会法治研究所研究员刘金瑞认为，出现这种现象，主要是因为此前法律法规对于算法乱象的规制比较零散，有的规定针对性不强。

社会有期待，立法机关及时作出回应。

个人信息是实现算法推荐的基础。2021年11月1日，个人信息保护法实施。其中“大数据杀熟”等问题一时成为人们关注的热点。个人信息保护法明确规定：个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。

“个人信息保护法等法律实现了对‘大数据杀熟’等算法滥用现象的限制，但目前各类算法乱象仍需一部专门、完整、系统的法规来进行全面规制。”中国传媒大学文化产业管理学院教授刘文杰说，从全过程完善算法推荐的有关规范，是从根本上加强算法规制的客观要求。

今年3月1日，由国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布的《互联网信息服务算法推荐管理规定》(以下简称《规定》)施行。这是第一部从全过程完整规范算法推荐的部门规章。其中明确了算法知情权、算法选择权等对算法推荐服务提供者的用户权益保护要求，对社会关注的“大数据杀熟”“引诱沉迷”“引导舆论”“特殊群体保护”等热点问题，都做出了针对性规范。

“《规定》是第一部系统、全面以算法为调整对象的规范性法律文件。从体系性、规制工具箱的丰富性、调整算法的多样性、对用户权益保护的周全性等多个层面来说，《规定》都具有开创性意义。”中国政法大学教授张凌寒表示。

“《规定》与个人信息保护法、电子商务法、数据安全法等法律相衔接，再配合近年来颁布的关于平台经济领域的反垄断指南、在线旅游经营服务管理暂行规定等规范性文件，规制算法乱象有了较为完备的制度体系。”中国信息通信研究院互联网法律研究中心高级研究员杨婕说。

多元共治，引导算法向上向善

算法广泛而深入地应用于互联网，因此，算法治理绝不是凭一家之力就能实现的，必须全社会携手，建立多元共治的局面。

监管部门及时有效的政策举措，是规制算法乱象的有力武器。2022年3月1日起，互联网信息服务算法备案系统正式上线运行。根据相关要求，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起10个工作日内填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告等信息。

4月8日起，中央网信办牵头开展“清朗·2022年算法综合治理”专项行动，深入排查整改互联网企业平台算法安全问题，重点检查具有较强舆论属性或社会动员能力的大型网站、平台及产品等。

在算法治理过程中，司法发挥着引导行为、明确底线、稳定预期的重要作用。

前不久，一影视公司发现某视频平台在无授权的情况下，播放其享有完整著作权的电影，认为该平台构成侵权，遂将其诉至法院。该视频平台公司辩称，电影是平台用户自行上传的，其推荐行为系平台自带的算法推荐所致，并没有侵权的意图。

法院经审理认为，该视频平台公司的上述算法推荐行为，实际上是向用户提供了信息流推荐服务，存在提高侵权传播效率、扩大侵权传播范围的风险，同时也为其自身获得了更多的流量等利益，其理应对用户的侵权行为负有更高的注意义务。

“近年来，数起涉及算法推荐的司法案件引起社会关注，相关判决起到了为算法应用立规矩、树导向的作用。”西南政法大学副教授易健雄说。

此外，平台企业的行业自律也必不可少。

2021年10月22日，深圳市APP个人信息共护大会举行。20余家重点APP运营企业签署《深圳市APP个人信息保护自律承诺书》，承诺将保护用户公平交易权，不利用大数据“杀熟”；未经用户单独同意，不利用敏感个人信息进行线上精准营销和线下推销等。此前，国内10家互联网平台企业也签署承诺书，承诺不非法收集、使用消费者个人信息，不利用数据优势“杀熟”。

此外，越来越多的网络平台也在积极主动地对算法“激浊扬清”。例如，某信息聚合平台日前介绍，其为了帮助用户避免越推越窄的“茧房效应”，不断优化推荐机制、提高内容推荐的多样性，扩大信息覆盖面；某外卖平台也优化派单算法，充分考虑配送员实际工作环境，避免其承受过重工作负担，维护劳动者合法权益。

建章立制，强化监管，鼓励自律……运用法治方法规范算法应用，引导算法向上向善，才能最大化促进社会公共利益，共同营造清朗安全的网络空间。