为算法推荐发展树立法治路标

利用AI算法推荐行程优化路线 #生活知识# #科技生活# #科技旅行#

2022年3月1日实施的《互联网信息服务算法推荐管理规定》（以下简称《规定》），作为第一个正式出台的规制算法推荐运用的部门规章，既是互联网信息服务算法推荐管理的法律依据，又为推荐算法发展树立了法治路标。

落实“以主流价值导向驾驭算法”的有力体现

二十一世纪第二个十年推荐算法越来越广泛深入介入移动传播，这也使传播进入智能传播时代。算法是基于数据，用系统方法描述、解决问题的策略机制，在经济、社会生活多领域广泛应用的同时，基于累积数据、不断迭代，成为影响信息分发、服务提供、机会分配、资源配置的基础性机制和力量。中国庞大用户群为算法发展提供了坚实基础，在海量增长用户数据支撑下，算法不断迭代，智能水平也在逐次提升。《规定》的正式实施，不仅有利于规范算法发展与使用、抑制算法滥用等现象、回应社会关切，更是落实“以主流价值导向驾驭算法”坚实有力的体现。

“以主流价值导向驾驭算法”成为《规定》核心规则的重要体现，是针对具有“舆论属性或者社会动员能力”的算法推荐服务明确了建立算法分级分类安全管理制度和针对性监管要求。《规定》第二十三条规定：“根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理”。作为分级分类管理制度的组成部分，《规定》第二十四条专门规定“具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。”并另行规定了“具有舆论属性或者社会动员能力的算法推荐服务提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的”，应当承担的法律责任。

《规定》第二十七条还规定：“具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估”，从而进一步织密了规则，从基础上保证有效监管。

创设新规则、构建新机制，维护良好内容生态

二十一世纪以来，算法技术发展迅速，自动化决策在经济生活、社会生活中日益获得更大影响力和主导权。在信息服务算法推荐运用领域实施有效监管，既能依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，也能依据《互联网信息服务算法推荐管理规定》创设的一系列新规则，它构建了有效监管的新机制，有利于在维护良好内容生态的前提下实现信息服务算法的发展和运用。

《规定》创设了一系列新规则，包括第一次在部门规章界定了“生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类”五类算法。相比单纯使用“自动化决策”更进一步。2021年11月1日起正式施行的《中华人民共和国个人信息保护法》首次在法律文本中定义了“自动化决策”一词的含义为“通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，并进行决策的活动”，但没有界定“自动化决策”所使用算法技术的不同类型。而在信息服务领域，不同类型算法技术的运用，所产生的内容形态、服务形态有很大不同，监管重点也有所不同。要实施有力监管，就必须清晰界定所应用不同类型算法技术。《规定》对这五类算法技术的界定，为实施有效监管奠定了基础。

《规定》创设的新规则，还包括进一步确立了用户所具有的算法服务选择权、拒绝权和对个人权益是否有重大影响的说明要求权。《中华人民共和国个人信息保护法》在规范法律文本中赋予个人对于算法推荐服务的三个重要权利：一是个人对算法推荐的选择权，即算法推荐服务提供者应当“同时提供不针对其个人特征的选项”；二是个人对算法推荐服务的拒绝权，即算法推荐服务提供者应当“向个人提供便捷的拒绝方式”；三是对个人权益是否有重大影响的说明要求权，即算法推荐服务提供者“通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明”，并明确规定个人“有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”。《规定》第十七条规定“算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。”该规定把《中华人民共和国个人信息保护法》的相关规定应用到信息算法领域，并使其更具有易实现性和可核验性。《规定》第十七条还明确：“用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。”“立即停止”的明确规定，既是社会所关切，也便于算法推荐服务提供者自我核查、管理到位。同时，《规定》第十七条还进一步规定：“算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”。这使得用户不仅可以行使算法服务选择权、拒绝权，还可以延伸到对于与个人隐私有关的“针对其个人特征的用户标签”等方面。这些规定是对信息服务算法推荐面前个人权利和尊严的法律保护，对于已深度使用算法推荐进行信息分发和传播的互联网平台，是清晰而明确的法律规制要求，是对个人所拥的法律赋予权利的保护。

更重要的是，《规定》构建了有效监管的新机制，有利于在维护良好内容生态的前提下实现信息服务算法的发展和运用。《规定》详细地规定了使用信息服务算法的互联网平台的备案、公示、告知等义务，以保护个人信息等权益和国家安全。

《规定》第二章“信息服务规范”共有十条，分别规定算法推荐算法服务者所应遵守的基本原则和所履行的义务。《规定》第六条规定了基本原则：“算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。”《规定》也明确了相应底线，第六条规定：“算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息。”这与我国相关法律法规的要求是一致的。

《规定》明确规定了算法推荐服务提供者的主体责任，包括第七条所规定的“算法推荐服务提供者应当落实算法安全主体责任”等，并在每一方面都规定了具体明确、可操作、可验证的要求。如在“落实算法安全主体责任”方面，《规定》第七条规定，算法推荐服务提供者应当“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施”；为此还需“制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑”。

作为对落实主体责任要求的具体化体现，《规定》第八条要求“算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”。第九条要求：“算法推荐服务提供者应当加强信息安全管理”，并通过“建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序”来落实加强信息安全管理。《规定》要求“发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输”，“发现违法信息的，应当立即停止传输，采取消除等处置措施”。

为保护个人信息、维护良好社会秩序，《规定》第十条还明确规定：“算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则”，以从基础上保证主体责任的履行。《规定》并明确要求：“不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息”。

为维护良好内容生态，《规定》明确要求：“算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。”“鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。”

《规定》新增内容中体现的价值取向与监管指向

《规定》共35条，与征求意见稿的30条对比，不仅通过分为六章更明确了各部分的功能，而且增加了一些重要条款，体现了重要价值取向、清晰立法意图和明确引导、监管指向。

一是明确互联网新闻信息服务底线要求。如《规定》第十三条要求“算法推荐服务提供者提供互联网新闻信息服务的”，不仅“应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务”，而且特别明确要求“不得生成合成虚假新闻信息”。

二是与现有管理规定的衔接。《规定》第十三条明确要求“不得传播非国家规定范围内的单位发布的新闻信息”。这与国家网信办现行管理规定紧密衔接，并通过《规定》进一步固化。

三是体现与其他法律法规的衔接。《法规》第十五条规定“算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为”。这既与反不当竞争相关法律法规紧密衔接，又弥补了相关法律法规在算法运用规则方面强化反不正当竞争规制的不足。

四是体现鲜明价值取向和引导要求。《规定》第十九条对算法推荐服务提供者“向老年人提供服务”专门明确了一系列规则，包括“应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。”这既体现了对社会关切的回应，也体现了明确的引导要求，即通过推荐算法提供智能化适老服务，为防范出现电信网络诈骗等问题提供支持。

五是强化了算法推荐服务者在解决用户投诉方面的主体责任。《规定》第二十二条明确规定：“算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。”这有助于解决用户向平台投诉难以得到及时有效解决等问题。

（作者：陆小华，天津大学新媒体与传播学院院长）

网址：为算法推荐发展树立法治路标 https://www.yuejiaxmz.com/news/view/564357

相关内容

推荐系统的魅力：个性化推荐算法的发展趋势
加强共治，规范算法应用发展（人民时评）
个性化推荐算法概述与展望
互联网信息服务算法推荐管理规定
算法如何实现个性化内容推荐
个性化推荐算法需要有“监督”
推荐系统：个性化推荐的算法与实践
智能时代的算法发展
BAT大牛亲授 个性化推荐算法实战
旅行服务平台个性化推荐算法研究

随便看看