今天，抖音举办“安全与信任中心开放日”活动，相关业务负责人介绍，抖音推荐系统采用“人工+机器”协同的方式进行风险治理，通过多目标体系算法主动打破“信息茧房”，为用户呈现更丰富多元、实用可靠的推荐内容。
推荐算法的出现，得益于人工智能技术的发展。抖音算法工程师刘畅介绍，抖音的推荐算法与国内外大部分内容推荐平台相似，包含召回、过滤、排序等环节，重点在于对用户行为的学习。算法能够在完全“不理解内容”的情况下，找到兴趣相似的用户，将其他人感兴趣的内容推荐给该用户。目前，抖音算法已基本不依赖对内容和用户打标签，而是通过神经网络计算，预估用户行为，计算用户观看这条内容获得的价值总和，把排名靠前的内容推给用户。
开放日现场。刘胤衡/摄
“用户长期价值，是抖音推荐算法的‘北极星指标’，也是我们最核心的业务目标。”刘畅表示，抖音更关注用户长期价值，而非追求平台短期数据。为此，抖音算法综合考量完播、评论、点赞、对作者长期消费、分享、跟拍等众多目标，力求计算出更契合用户长期价值的结果。
刘畅说，为引导算法打破“信息茧房”，抖音算法在多目标建模体系下设置专门的探索维度：一是针对用户已展现出的兴趣，通过多样性打散、多兴趣召回、扶持小众（长尾）兴趣等方法，控制相似内容出现频次，推荐更多样的内容；二是帮助用户探索更多新兴趣，采用随机推荐、基于社交关系拓展兴趣、搜索推荐联动、“不感兴趣”不再展现等多种方式，让用户主动行为影响推荐系统，使推荐更加个性化和多样化。
抖音生态运营经理陈丹丹坦言，算法虽能学习并预估用户行为，但因其无法理解内容语义，可能导致违法违规及不良内容被推荐传播。因此，在实际应用场景中，须通过平台治理体系对算法进行约束和规范。
陈丹丹介绍，抖音构建了“人工参与+机器学习”相结合的内容治理体系，并组建了专门的平台治理团队，为算法设置“护栏”。在内容审核方面，采用“人工+机器”协同模式，“机器”负责“宽度”评估所有投稿，“人工”负责“深度”，针对专业、敏感或疑难等问题进行精准研判。
用户参与反馈机制。抖音集团供图
陈丹丹表示，创作者将内容上传至抖音后，首先进入机器识别环节。如果内容被识别出含有高危特征，将被直接拦截；若未命中高危特征但模型判断存在问题，则会送至人工审核；若问题概率较低，则获得基础流量进入下一环节。视频被举报、评论区出现集中质疑、流量激增等情况，均可能触发“人工+机器”审核机制。
针对社会普遍关心的、对用户造成较多困扰的焦点问题，抖音成立多个专项治理团队，针对诈骗、网暴、虚假摆拍、未成年人保护、网络水军、AIGC技术滥用等重大专项风险进行治理。为遏制不实信息传播，抖音近日上线了辟谣卡。对于能让用户有收获、有惊喜、有共鸣的优质内容，抖音增加了专门的推荐子链路，标记为优质内容子品牌的内容，均有机会获得流量扶持。