《推荐算法干预控制实施指南》.docx

TAF-WG4AS0001-V1.0.0

PAGEII

团体标准

T/TAFxxx—2024

推荐算法干预控制实施指南

Implementationguidelinesforrecommendedalgorithmicinterventionandcontrol

2024-xx-xx发布

2024-xx-xx实施

电信终端产业协会发布

ICS33.030

CCSM21

T/TAFxxx—2024

PAGE5

T/TAFxxx—2024

PAGE6

推荐算法干预控制实施指南

范围

本文件给出了推荐算法干预控制的原则与实施方式，包括具有可操作性的人工干预机制，以及用户自主选择机制和透明度，并结合行业应用场景给出可参考的示例。

本文件适用于算法推荐服务提供者参考建立完善人工干预和用户自主选择机制，也可为第三方测评机构对推荐算法干预控制过程的评估提供参考。

规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。

GB/T25069—2010信息安全技术术语

GB/T35273—2020信息安全技术个人信息安全规范

T/TAF138—2022APP推荐算法用户权益保护技术要求及测评规范

术语和定义

下列术语和定义适用于本文件。

推荐算法recommendationalgorithm

利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

干预控制interventioncontrol

推荐系统的服务提供者通过人工等方式介入推荐算法流程，调整相应规则和配置的过程，或直接调整推荐结果的过程。

内容召回recall

指按照相对简单的逻辑从推荐候选集中快速选择尽可能多的正确结果，并将结果返回给模型进行排序。

预估目标objective

推荐系统预期达到的效果指标，如点击率、有效播放率、播放时长、点赞率、关注率等。

内容消重deduplication

推荐系统根据用户的历史、特定规则去除候选内容中重复内容。

融合公式valuetree

推荐系统里面使用的一个技术，用来计算模型的融合分数。

助推规则boost

在预估服务中，通过调整预估评分的权重影响结果的排序。

打散shattering

对相同内容标签、功能模式、话题类型的内容进行打散，以避免推荐内容的单调性，防止同类内容过于密集。

强插forcedinsertion

在最终推荐混排流的指定位置展示特定内容。

混排Re-ranking

不同的推荐内容在最终向用户进行展示前进行整合、分配的策略。

基本原则

推荐算法干预控制需考虑以下基本原则：

主流价值导向：坚持算法推荐的主流价值导向，针对优质、正向内容和负面、消极内容适配不同的算法推荐干预措施，以实现积极传播正能量；

准确性与多样性：算法干预措施的选取宜有助于算法准确率和召回率的实现，并进一步拓展内容的丰富度；

公平性：算法干预措施宜有助于实现社会的公平、公正及对特殊群体的重点保护，在复杂的算法推荐生态系统中寻求各方利益和诉求的平衡；

个人权益保障：在算法系统设置干预措施之外，还可配备信息主体对于算法推荐结果的控制措施从而实现对于个人权益的保障。

具体措施与实施要求

算法干预控制机制

推荐系统一般由内容召回、过滤消重以及预估排序等多个相互联结的自动化环节构成，算法推荐服务提供者可在上述环节中通过人工或其他规则方式介入系统，影响最终的推荐结果。推荐系统的主要环节以及重要的干预控制措施见图1。

图1推荐系统的主要环节以及重要干预控制措施

内容召回

在内容召回阶段，推荐算法按照特定的规则和逻辑从全量的信息候选集中召回信息进入预估、排序阶段。召回阶段宜满足如下要求。

召回内容标签

召回内容标签的设置合法合规，不得将违法和不良信息作为内容标签，使用个人的偏好特征作为召回内容标签时，不得侵犯个人的权益。

召回策略

内容召回策略需考虑以下要点：

信息内容安全：不设置可能增加违法、不良信息召回概率的策略；

用户权益保障：不设置诱导用户沉迷、过度消费的召回策略，不设置可能侵害未成年人、老年人权益的召回策略，导致对个人在交易价格等交易条件上实行不合理的差别待遇；

市场竞争秩序：不利用召回策略操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为；

公平性：保障算法公平性，使同等质量的合法信息及内容得到公平的召回。

过滤消重

推荐候选集的内容经过召回后，推荐系统宜对内容进行过滤和消重，使违法违规、不良信息