人工智能在字节跳动广告系统中的用户行为预测应用.pdfVIP

数据赋能DataEmpowerment

人工智能在字节跳动

广告系统中的用户行为预测应用

文◆北京字跳网络技术有限公司 母亦翔

引言节跳动的技术实践，以期为业界同仁提供借鉴，共同推动人工智能技术

随着移动互联网的快速渗在互联网行业的创新发展。

透，今日头条、抖音等字节跳动

旗下的产品日活跃用户数已超过1用户行为预测面临的机遇与挑战

6亿，海量用户在字节跳动的产1.1数据样本量大，实时性强

品上每天产生PB级的行为数据，字节跳动拥有头条、抖音、火山等多款日活过亿的产品矩阵，积累了

用户的每一次浏览、点击、点赞、海量用户行为数据，以今日头条为例，其日活用户超2亿，日均阅读量近

收藏、分享等行为，都蕴含着其100亿次，如此庞大的样本量为训练强大的预测模型创造了条件。同时，

兴趣偏好、交互习惯等信息，通头条的信息流每秒要响应上百万次请求，需要在毫秒内实时预测用户的

过对海量用户行为数据的分析和下一步行为并优化推荐结果，这对行为预测系统的低时延、高并发提出

挖掘，可以构建用户画像，洞察苛刻要求。传统的批处理架构和机器学习pipeline难以应对，需要构建

用户需求，进而实现个性化推实时、增量的在线学习系统。分布式深度学习平台可支持大规模数据并

荐、智能广告投放等业务目标。行和模型并行，端到端优化模型训练和推理效率，配合高性能服务框架，

然而，准确预测用户的下一步行可大幅提升预测服务的实时性和稳定性，字节跳动通过飞桨、火山引擎

为绝非易事。用户行为模式复杂等自研深度学习平台，攻克了行为预测在工业级场景下的性能瓶颈[1]。

多变，不同用户、不同时间、不1.2用户行为模式复杂多变

同场景下的行为差异显著。用用户行为受诸多因素影响，如地理位置、时间周期、社交关系、使

户对个性化、实时性的需求日益用场景等，不同属性的人群在不同上下文环境下，展现出迥异的行为模

增长，对算法的性能提出更高要式和兴趣偏好。例如，同一用户周末休闲时倾向于观看娱乐视频，而工

求，传统的规则系统和机器学习作日通勤途中更关注时政新闻。传统的物品协同过滤和基于内容的推

模型难以有效应对如此巨量、高荐，难以建模如此复杂的行为模式，深度学习可通过Embedding、CNN、

维、稀疏的用户行为数据，随着RNN、Transformer等技术，高效表征用户行为的时空关联，挖掘行为

深度学习、强化学习、迁移学习演化的时序模式，KnowledgeGraph可融合场景、社交等多源异构信息，

等人工智能技术的兴起，为突破扩充行为的语义理解。多任务学习、迁移学习可增强不同场景下行为预

上述瓶颈，带来新的契机，本文测的一致性，图神经网络、记忆网络可建模行为的图结构关系和长期依

聚焦人工智能在字节跳动用户行赖，字节跳动通过这些先进的深度学习技术，构建了全面、动态、多模

为预测中的应用，分析其面临的态的用户行为表示，增强了预测的准确性和泛化能力[2]。

机遇和挑战，总结当前主流的行1.3个性化预测要求高

为预测模型和算法，重点剖析字移动时代，用户获取信息碎片化、个性化的需求日益凸显，同质化

【作者简介】母亦翔（1984—），男，天津人，研究生，研究方向：人工智能、算法技术的广告应用。

152|2025.03

中国信息界|InformationChina

的Feed已无法满足用户的需求，而个性化推荐成为主流趋势。个性化系统。近年来，DQN将