AI内容安全卫士产品操作手册-北京信工博特智能科技有限公司.doc

中国移动移动云saas产品操作手册

中国移动云市场

内容安全卫士

操作手册

SAAS平台项目组

TIME\@yyyy/M/d2024/10/31

目录

TOC\o1-3\h\z\u14510851241.修订目录 3

15633837362.范围 3

13280299073.应用介绍 3

14011036784.相关术语与缩略语解释 3

11913267915.产品的主要功能概述 4

16393353566.功能使用说明 4

6.1.登录 4

16173343826.2.稿件审核 5

18384381956.2.1.在线审核 5

6360303296.2.2.特色功能 7

17356283846.2.3.批量批注 8

14358726876.2.4.自定义词库 10

14385090706.2.5.大文件审核 11

6510415646.3.多模态内容审核 13

6263846836.3.1.图片审核 13

6825295876.3.2.视频审核 14

15646100826.3.3.音频审核 15

4643906597.应用常见问题 16

10582326157.1.内容安全卫士能在个人信息方面进行识别吗？ 16

2559958517.2.内容安全卫士为什么能够审核意识形态的错误？ 16

修订目录

日期

修订者

版本号

说明

2024.9.15

李赐麟

v1.0

范围

本文档是内容安全卫士产品在中国移动公众服务云SAAS平台操作手册。

应用介绍

内容安全卫士是一款稿件审核和内容管理以及AIGC生成内容安全审核的AI智能校审平台。该产品基于博特内容安全大模型和智能校审大模型，为客户提高审核效率，实时分析和处理大量文本、图片、音频和视频的多模态内容。确保内容的合规性，避免违规内容发布。

相关术语与缩略语解释

产品的主要功能概述

内容安全卫士软件主要功能：

稿件审核：长文本内容风险检测及文本审核纠错；提供色情、低俗、涉政人物、政治事件、反动分裂、恐怖主义、辱骂，违禁广告等敏感信息的检测，也包括从图片和视频中被识别出的文本检测（关键词+规则引擎）

多模态内容审核

图片审核：对图片内容，进行“涉政、色情、低俗、暴恐、军警、违禁、未成年、赌博、吸烟、夜场”等不良场景检测，支持jpg、png、bmp、gif、webp、tiff等多种格式。

视频审核：对待视频画面，进行“涉政、色情、低俗、暴恐、军警、违禁、未成年、赌博、吸烟、夜场”等不良场景检测，支持flv、mkv、mp4、rmvb、avi、wmv、mov等多种格式。

音频内容:进行“涉政、色情、低俗、广告、联系方式、诈骗、谩骂、娇喘”检测，支持wav、mp3、aac、amr、3gp、m4a、wma、ogg、ape等多种格式。

智能防伪审核:对AIGC生成的文本、或者深度合成的图片进行识别。

功能使用说明

登录

访问域名/

输入账号、密码、验证码进行登录。

稿件审核

在线审核

【选择审核方案】

审核方案分为基础质量、意识形态、安全合规、专业素养、自定义词、图片审核（支持OCR）六大审核维度，共包含172个专业检测项。

（选择审核方案页面）

点击审核方案按钮，便会弹出配置审核方案弹窗，您可在此勾选/除去审核规则。还可配置不同场景下的专用审核方案。

【在线审核】

可快速识别意识形态表述问题、敏感信息、不规范表述、错别字、个人信息、法律法规、科技名词等问题并给出高亮提示和纠错建议。

（在线审核编辑页面）

①当您确定好审核方案后，点击审核按钮，便可对稿件进行审核。

②审核完成会在内容编辑区域右侧显示勘误表（审核结果）。每一种审核规则都有自己的专属颜色，文章中出现错误的位置也会按审核规则类型的不同，显示专有的下划线颜色进行标注，方便用户查看和修改。

③审核结果分类展示，清晰直观，方便用户根据错误类型查看并修改。

④当点击稿件中或勘误表中错误内容时，稿件与勘误表会联动显示当前错误类型、替换建议、忽略操作、设为正词等修改操作。用户可在稿件中在线编辑修改错误信息，也可点击修改意见，实现一键替换当前要修改的错误信息。当点击忽略按钮时，此错误信息便不会标错显示。当点击设为正词按钮时，以后的稿件在审核过程中，再出现此词，便不会再标注为错误。

⑤此区域会显示您当前使用的审核方案名称。

⑥此区域会显示您当前导入/保存的文件名。

特色功能

智能改写，实现AI智能拆句、同义语句替换、词组替换、段落改写，让文章表达的更丰富。中英互译，无需切换到第三方翻译软件，在平