短视频不良内容智能检测技术的发展及挑战.pdfVIP

2024年2月计算机应用文摘第40卷第3期

短视频不良内容智能检测技术的发展及挑战

叶东,蔡璐,王雷²,韩朝阳3

（1.江苏警官学院刑事科学技术系，南京210031；

2.海南省公安厅刑警总队，海口570000；

3.盐城市公安局刑警支队，江苏盐城224000）

摘要：随着社交媒体和短视频平台的蓬勃发展，短视频已经成为人们生活中不可或缺的一部分。然

而，涌现的大量不良短视频内容不仅对用户造成了影响，也引发了许多社会问题。

关键词：短视频；人工智能；深度学习；隐私保护

中图分类号：TP309文献标识码：A

Developmentandchallengesofintelligentdetectiontechnologyfor

shortvideoundesirablecontent

YEDong,CAILul,WANGLei?,HANChaoyang3

(1.DepartmentofForensicScienceandTechnology,JiangsuPoliceInstitute,Nanjing210031,China;

2.CriminalPoliceCorps,HainanProvincialPublicSecurityBureau,Haikou570000,China;

3.CriminalPoliceDetachment,YanchengCityPublicSecurityBureau,Yancheng,Jiangsu224000,China)

Abstract:Withtheboomingdevelopmentofsocialmediaandshortvideoplatforms,shortvideoshave

becomeanindispensablepartofpeopleslives.However,theemergenceofalargenumberofnegative

shortvideocontenthasnotonlyaffectedusers,butalsocausedmanysocialproblems.

Keywords:shortvideo,artificialintelligence,deeplearning,privacyprotection

1引言2矢短视频不良内容智能检测技术的发

自2016年“抖音”问世以来，短视频已经发展成展历程

为一种斩新的网络文化传播模式。根据《中国网络视早在21世纪初,互联网上开始出现用户自主上

听发展研究报告2023》的数据显示，截至2022年，我传的视频内容。由于当时计算资源和算法技术的限

国泛网络视听产业的市场规模达到7274.4亿元，其制,实现视频内容的智能解析非常困难,因此规则检

中短视频领域市场规模占据了40.3%，达到2928.3测方法成为主要的检测手段。规则检测方法依赖于

亿元，成为产业增长的主要推动力。人工制定一系列规则和模板,通过手动审核和过滤的

对于短视频创作者而言，流量是至关重要的，是方式来识别、删除不良内容。平台的内容审核团队根

其变现的主要支撑。自2018年互联网巨头进军短视据特定类型的不良内容制定相应的规则，审核员基于

频领域以来，竞争变得更加激烈，争夺市场份额、抢占这些规则对用户上传的短视频进行筛选和过滤。然

用户流量、加大对短视频作者的补贴已经成为惯例。而,规则检测方法存在一些明显的局限性。（1)规则

为了争夺流量，部分短视频创作者发布了具有“爆点”制定效率低下：随着短视频平台和内容的快速增长，

的视频,然而这些视频内容中往往存在一些不良内