算法治理背景下关于个性化推荐优化的研究

卢毅俊

（中国南方航空，广东 广州 510000）

《互联网信息服务算法推荐管理规定》（以下简称算法推荐管理规定或管理规定）2021 年11 月16 日经国家互联网信息办公室2021 年第20 次室务会议审议通过，并经工业和信息化部、公安部、国家市场监督管理总局同意联合发布，自2022 年3 月1 日起正式实施[1]。《算法推荐管理规定》的出台，可以进一步规范这些互联网信息服务推荐类的活动，切实维护人民的权利，保护人民的利益，也为促进国家社会安全利益提供了有利的基础，促进互联网的健康发展。

1 算法推荐管理规定主要关键点

本次《算法推荐管理规定》内容主要分为六章，其中第二章“信息服务规范”及第三章“用户权益保护”涉及了互联网算法推荐的相关具体规定。本次管理规定也对算法推荐给了一个较明确的范围，主要包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法，本文主要针对个性化推送这一类展开分析。对于个性化推荐，根据学者孙鲁平等（2016）的定义，个性化推荐是电商平台根据用户的特点如用户评分、浏览历史、购物行为、社交关系等信息，综合分析消费的需求偏好产品，并在用户访问平台时将对应的产品推送给他们[2]。个性化推荐系统主要由智能推荐系统执行，整个过程主要涉及了数据输入、推荐算法、推荐输出这几个步骤[3]，因此，算法推荐也是电商个性化推荐的关键核心之一，评估个性化推荐系统的好坏可以通过对其算法进行评估[4]，总体来看，个性化推荐算法可以分为协同过滤推荐、基于内容的推荐及混合型推荐三种模式[5]，其根本的逻辑都是基于用户的个人基础信息或行为数据进行计算，在此次规定中，包含对算法推荐、个人信息管理等相关治理方面，对于企业电商个性化推荐服务有着重要的影响。

1.1 关于算法推荐的正向积极性

《算法推荐管理规定》第二章第六、七、八条从推荐内容的规范性、价值性、合理性等作出了要求，明确要求推荐内容要符合国家安全利益，遵守法律法规，要注重信息安全，切实做好用户信息等网络安全保护，推荐的内容也要考虑好正向价值和积极能量的传播，不得对社会造成负面影响。可以看到，管理规定从一开始就明确了算法推荐服务的方向，强调推荐服务应该往正确的方向去进行，要符合国家人民利益，保证安全，倡导价值正向理念。

1.2 关于用户模型及信息标签的管理

《算法推荐管理规定》第二章第九、十条规定了算法服务的信息要符合信息安全、规范信息传播、对不良信息进行治理等要求。算法服务的提供者需要完善用户兴趣模型及用户标签的管理规则，避免将违法不良信息作为用户的兴趣或标签而进行推送。个性化推荐服务基于用户信息，企业很多情况下会将用户信息分成不同的标签进行管理，以往企业可能对于用户的标签信息好坏并不会作严格的区分，只要是涉及用户的属性特点，个性化推荐系统都会作为其中一个参考点，但管理规定要求个性化服务需要严格甄别这类不良信息，如果是涉及负面影响的违法不良隐私，个性化推荐算法一定要进行过滤，以杜绝不良信息的推送。

1.3 关于推荐信息的真实客观性

管理规定第二章第十三、十四、十五条主要规定了推荐服务需要保证信息的真实性，避免虚假内容，禁止不合理限制其他互联网服务的真实正当信息。算法推荐的原则应该遵循公平公正公开，个性化推荐服务不仅仅是按照企业的目标利益去执行，保证信息的真实性是开展推荐服务的前提，如果仅仅为了迎合用户的喜好或者为了展现自己产品的好处，就制造了一些不属实或过于夸张的信息去吸引研究，就会违背这个原则。过度推荐也是个性化服务让用户烦恼的一个现象，企业为了加大产品的销售，而无节制地给用户提送产品信息，给用户造成了不少的困扰，规定将会进一步限制这方面的行为，督促企业做好算法推荐的优化，真正做到为用户考虑。

1.4 关于提供推荐服务的说明

管理规定第三章第十六条规定算法推荐服务要用明显的方式告诉用户关于算法推荐的情况，包括算法的原理、目的、运行机制等。以往个性化推荐服务主要是以最终的一个输出结果给到用户，用户对于个性化推荐最明显的感知就是收到对应的产品或信息推送，但对于其中涉及的算法逻辑，推送目的等用户会一无所知或者很模糊，只能被动地接受服务。此条规定增加了推荐服务的透明性，用户作为接受服务的主题，有权知道算法的推荐逻辑和背景，只有知道了这些用户才能结合实际情况去决定是否要使用这个推荐服务，如此一来，电商个性化推荐不仅仅是企业主动产生的行为，企业在执行之前也要先尽到告知的义务。

1.5 关于用户对于个性化服务使用的决定权

管理规定第三章第十七条规定算法服务需要提供一个方便清晰的关闭算法服务的选项，关闭后不再对用户提供算法推荐服务。以往大多数情况是电商应用默认给用户提供个性化推荐服务，虽然在应用打开时有请求用户能否收集相关信息，但用户如果拒绝往往就不能使用应用的任何服务了，此规定明确了算法服务的独立性，必须是用户同意后才能提供，用户能自行选择是否需要推荐服务。关闭算法服务到底要做到什么程度，也需要后续相关规定进一步明确，所以关于个性化服务的关闭整治后续还有一段路要走。

1.6 关于对特殊用户群体的服务个性化

管理规定第三章第十八、十九条规定了算法服务向未成年人或老人群体提供服务时应当根据其群体特点做好对群体的保护，对于未成年人要加强其身心健康的引导，对于老年群体要关爱好他们的使用体验，在方便他们使用的同时也要保护他们免受网络诈骗。这里强调个性化推荐服务要更注重关怀性，不能只为了盈利而只去服务经常使用或懂得使用网络的群体，个性化推荐服务也不能用一套模式一劳永逸，需要考虑到不同群体的特点去制定不同的服务内容，保证各个群体都能受益，保护好他们的权益。

1.7 关于个性化服务的公平性

管理规定第三章第二十一条规定了算法服务要保护用户的交易公平性，不得利用消费者的偏好信息实施不合理的对待。此规定对于电商购物中如“大数据杀熟”这种现象给了一个明确的禁止规定。在零售市场中，价格歧视是企业根据不同的市场、地域、消费群体采取的价格区分定位的一种手段，在以前互联网电商还不是很发达的情况下，企业并不能利用很隐蔽的手段去实行，用户还能比较明显地看到这种价格差别，如果用户想要获得更低价，他只需要多付出一些努力就能享受到这种低价。但在大数据的时代，企业可以利用算法来随时给用户进行定价，在网站产品信息瞬息万变的情况下，可能一个算法调整就能让消费能力更强的人看到价格更贵的产品，价格敏感的人看到低价产品，而且是在大家都对低价产品有需求的情况下，消费能力强的人就因此失去了购买低价的机会，这就严重造成了不公平的现象，所以个性化服务不能仅根据用户的特点提供有差别的价格，更多应该是从产品的特性上去区分价格，然后推送给不同的用户，当然也不能剥夺高价值用户看到低价产品的权利。

1.8 关于个性化服务的用户反馈

管理规定第三章第二十二条规定了算法服务需要提供一个方便的渠道给用户反馈问题及投诉，企业应该能有效处理这些反馈。这条强调了个性化推荐服务的反馈重要性，再次说明了推荐服务不仅是企业的主动行为，用户不再只是主动接受服务，用户不仅有接受选择的主动权，也有提供意见的权利，个性化推荐服务应当要保证反馈的通畅性。

2 电商个性化推荐的改善建议

2.1 保护用户对于个性化推荐服务的决定权，加强用户互动性

电商个性化推荐服务的产生都是基于用户的信息进行输出，用户的个人隐私信息是个性化推荐服务的基础，从隐私的关注维度上看，Malhotra 等（2004）认为隐私关注可以分为隐私收集、隐私控制、隐私认知，其中控制包含了用户对个人信息的自主权，用户有权决定自己的信息如何被使用，同时也要掌握自己的个人信息利用[6]。因此，企业首先应该给用户提供一个显著的是否使用个性化服务的选项，如果用户关闭了服务，则不再主动地给用户提供信息，也不能再利用用户的个人信息进行算法计算。如果用户使用个性化推荐服务，则在服务开始前，应明确告知用户需要收集哪些信息，这些信息会用在那些服务场景，同时应当采用简洁明了的形式告知推荐算法的应用逻辑，大致的算法规则，能达到让用户理解自己会接收到怎么样的推荐产品的程度就行。另外建议增加推荐服务的反馈机制，给用户提供一个可以对推荐服务反馈意见的渠道，可以是一个简洁的反馈页面，对于用户提供的意见需要及时地反馈，让用户感觉到自己被重视。同时，企业应该主动给用户反馈推荐服务的情况，在推荐过程中也可以随时询问用户的感受，如用户在收到推荐信息时可以在底下反馈是否喜欢这个推荐等。

2.2 重视产品的公平性与真实性，保护用户的合法利益，加强算法的优化

“大数据杀熟”等现象让用户痛恨，企业不能为了一时的利益而流失掉用户，信任永远是企业的立足之本，企业在提供服务时应该随时考虑算法的公平性，相同的产品不应该以不同的价格提供给用户，应该着重在对产品质量的打磨，根据不同的用户特点提供不同特点，有差异的产品，这才是个性化精准营销的基础，首先需要有个性化的差异产品，而不单单是差异化的价格。同时推荐的产品应该是基于用户的真实需求，个性化推荐就是为了匹配用户的特点为其推送最合适的产品，应该是根据用户的实际情况去进行匹配，避免为了冲销量而给用户推荐不合适的产品。

2.3 注重推荐信息的合理性，倡导正向价值观

算法需要为用户带来符合需求的个性化服务，也需要倡导正向的内容，引领积极的方向。首先，算法推荐服务虽然是给用户推荐合适的产品，但并不是无节制地推荐，因为算法在根据用户兴趣爱好推荐的同时，也会不可避免地引起信息成瘾的问题，不断地迎合用户需求，不断地根据用户爱好推荐容易让用户形成单一的信息，如果不加制止，也会容易让用户陷入泛娱乐化的陷阱，使其沉浸在虚拟世界中[7]。如果用户本身有涉及不良的习惯，或者社会上传播的一些不良思想也自动加入算法中，会容易带偏社会的正向价值观。企业在做推荐服务的同时，也可以多加入一些社会主流正向价值观的内容，即符合用户产品需要，也能引导人们积极向上，构建健康的消费理念。算法本身没有判断好坏的属性，一切在于人为的控制与优化[8]，所以，任何企业在做个性化推荐服务的时候，都应该避免这种负向的信息，多考虑好算法所产生的意外结果，从而去及时进行规范。

2.4 建立一套完善的推荐算法管理机制

算法推荐需要国家层面出台法律规定进行治理，同理企业也应该遵循规定去给自己制定关于算法的内部管理机制。在大数据盛行、电商购物行为普遍的背景下，每天都会产生大量的数据，即涉及了用户的购物行为，也会涉及很多个人甚至国家层面的敏感数据，如何对这些数据进行管理，如何保护这些数据，需要企业完善信息技术，也需要企业内部形成严格的信息保护条款，做好数据脱敏，规范内部的数据使用规定。另外，在人工智能时代，推荐算法也逐渐趋向于智能化和自动化，算法能自动进行学习，不断地优化从而能做出更有效符合用户需求的推荐，但智能化的算法毕竟无法对所有情况进行判断，涉及一些伦理性或价值是否判断的内容智能算法可能没有办法很好地处理，企业不能任由算法去执行推荐服务，应该要定期检查算法推荐的内容是否符合相关规范，可以成立专门的算法推荐服务体验小组，定期进行个性化推荐服务体验，及时提出算法优化建议。利用技术手段及时规制算法出现的不确定情况，如果发现个性化推荐产生了不良的内容，要有相应的系统自动阻断机制。

3 结语

《互联网信息服务算法推荐管理规定》无疑是给电商个性化推荐提出了更多的要求，也进一步为规范算法推荐服务市场提供了有力的方向。算法推荐不再仅仅强调推荐效果的精准性和有效性，也应该给社会带来更多方面的价值。希望更多企业能遵循规定，致力于为用户提供更有效、更安全、更公平、更积极向上的推荐服务，共同打造一个健康的电商消费环境。