华为AI智能云HiLens介绍.pptx

华为云HiLens端云协同AI平台，助力企业快速智能化转型目录华为云EI布局云上AI服务落地挑战Hilens平台价值Hilens架构Hilens使用场景Demo演示华为云EI布局Advanced APIsGeneral APIsPre-integrated SolutionsImage NLPInternetTTSASRVCMVCTCityImageSearchCBSVehicleHomeVCRVCCModeration AISIDSVGSFaceOCRLogisticsHealthcareCampusManufacturingModelArtsHiLensExeMLGESDLS MLS Batch UPredict RLSBasic PlatformsMindSporeAscendGPU云上AI服务落地挑战延时成本 数据上云和分析成本居高不下要求毫秒级响应数据场景场景复杂、定制化需求多A量数据的获取和标注云上能力支持本地部署部署隐私部分场景用户数据不上云HiLens端云协同AI平台一站式"端-边-云" HiLens开发平台，助力企业专注业务创新HiLens平台架构HiLensSkills疲劳／危险驾驶车牌／车属性入侵检测人流热地图人脸比对客流统计人脸／人形检测云侧 HiLens Console设备管理 技能开发 数据管理端侧HiLens Device AgentSkill Framework数据流/图像/推理/云服务算法+轻量级Agent安卓Agent模型优化数据管理技能管理OpenCV/TFLit eIVE+NNIEDVPP/HiAIEngine技能开发35XX+linux liteosARM+AndroidAscend310+Lin uxLicense鉴 权数据接入模型适配计费/安全设备注册Skill MarketHiLens开发相 机智能小站安卓设备小海思芯片/DFX/运营关键能力1:1站式Skill开发服务，快速定制行业应用Hilens DeviceHilens ConsoleModels导入uModelArtsService/其他离线 模型模型管理（导入 删R F新）vwSkill ramework Runtimey技能管理（部署 发布 分享）x技能开发Skill ramework:技M开发框架1、技能基本312、逻辑代码编23、icense设置名称代码语B计费方式版本函数执行入口应用场景代码内容选择技能模板(在线编辑或OBS上传）选择模型封装组件模块化开发简单易用一键模型部署关键能力2:端侧算法开发框架Skill FrameworkSkills疲劳驾驶检人形检测人脸识别 异常声音检测手势识别测Skill Framework模型的初始化、 推断接入管理媒体数据处理华为云EI服务接 口管理日志系统管 理资源路径管理输出管理Media LibrariesMedia_mini O2en VD LibrariesModelManagerDVPPq提供易用+开发组件：Skill Framework封装了视e分析r法的基础组件，i图像处理、w理、日志、视eawa上云、 l云上E务对接等， 开A者只需k量代码即可开A自己的Skillq结合芯片+性能优化：针对Alr法中比较In的计r单元，结合H思芯 片S构进行优化，o计r性能得到极大提mqSkill可移植：在Hilens平s上开A的Skill可以运行到任何基千L为H思芯 片的l备上q提供Python和C++接口：开A者可F据场景o用不同语言的接口关键能力3:模型优化，自动模型转换及压缩q网络蒸熘：通过将0个大型深度学习网络的知识压缩到i个 相对较b的网络，达到精度不 损失情况下的模型压缩q通道剪枝：去除卷积神经网络 中不重要的卷积通道，使权重 数量减少q权重稀疏化：删除神经网络中 为0或接近0的权重，使网络轻 量化q量化：使用更b的bit数表示模型权重，以达到减b模型大b 的目的q模型转换：根据模型运行目标 芯片，自动转换模型以适配不 同芯片支持的模型格式Evaluation on test bedHyper-parameter OptimizersEdge-Cloud Model OptimizationModel ConvertorCandidate Tensorflow/ Mindspore Edge ModelModel CompressionNetwork DistillationCloudChannel PrunningSingle-exit DistillerCandidateOriginal ModelModelsCandidate Tensorflow/ Mindspore Cloud ModelWeight Sparsif