PowerBI技巧之「数据ETL」从数据民工到数据白领蜕变之旅（五）-使用dotNET脚本实现SSIS无限扩展....pdfVIP

在前面一文中，正式引出了SSIS专业数据ETL工具，笔者仅能作引路作用，未能使用文章的方式给 家写出更多的入门级的文章，希望读 者们可以自行根据分享的学习资源自行完成入门及进阶的学习。 同时也想给 家分享到SSIS的能力边界性，让 家可以先打开思路，见识到其能力的所在，日后在学习过程中，可以有更清晰的进步方 向。 dotNET遇遇上上SSIS 在笔者过往的文章里已经反复提到过，学习dotNET的性价比是比较高的，不止于可以做任何专业程序员做的领域，更是可以 让我们这些业余的人员 有作为，例如可以开发OFFICE插件，可以使用PowerShell来做运维 （会dotNET的很快上手，都是广 义的dotNET体系），同时在微软的产品系里开放了各产品的对象模型，使我们可以轻松地和各 产品作交互如Windows的 WMI模型，Sqlserver的SMO、A MO模型，当然还有我们熟悉的OFFICE对象模型等。 今天来到SSIS 中，我们可以有另外一层能力，让dotNET和SSIS集成，在SSIS 中，提供了VSTA 的开放接口 （Visual Studio Tools For Appli ation），相对于VSTO （Visual Studio Tools For Offi e ）来说，一个是对OFFICE产品，一个是对程序，这里 的程序就是SSIS 。 所以我们可以在SSIS环境下使用dotNET语言，这个极 地增强了我们的数据ETL能力， 凡dotNET能够做的部分，SSIS也可 以加上这些能力，并且起点是SSIS给我们做好了模板，自动化写了许多设计代码，就如Winform开发拖拉控件一样的体验，我 们在SSIS 中，VSTA 已经为我们做了非常棒的框架，可以让我们在数据流中轻松访问我们的数据对象。 实实际际演演示示 本篇只是导读类，并非要手把手教会 家，读者们仅需了解下SSIS 的功能扩展边界，评估此工具能够给自己的数据方案做到 何种程度，真正要学习时，建议仍然需要按步就班，从低到高地不断地进步。 在dotNET的自带的类库中，已经提供了非常强 的数据处理能力，特别是linq查询和我们很常用到的文件类操作，字符串处理 特别是正则处理等，这里不展开，此篇给 家一个开放的思路，怎样从外界寻获更多的资源来武装自己的数据处理方案，给 家带来在SSIS环境下调用百度A I接口，让非结构化的数据转换为可分析的结构化数据供下游Ex el、PowerBI等分析工具使 用。 在Ex el催化剂上同样实现了此功能，详见以下文章。 第15波-接入A I人工智能NLP 自然语言处理 准准备备工工作作 获取百度A I的SDK，可以在百度A I后台有跳转链接到github，下载整个项目再编译。 因SSIS需要签名的dll类库，在Nuget上的百度A I类库，没有进行签名操作，故不能直接在Nuget上下载。 同样地SSIS对外部dll引用的要求是需要注册到GAC容器中。所以需要对下载编译好的dll使用ga util工具注册到GAC 中，具体 自行查阅相关文档。 使使用用脚脚本本组组件件实实现现百百度度AI的的调调用用 在本篇的SSIS包任务中，加上了一个脚本组件，从源Ex el文件中抽取数据，经过脚本组件的转换，将内容发送到百度A I上， 让其帮忙返回结果，最终转换后的结果写入到目标表中。 脚本组件中，我们通过评论内容，经过百度A I的接口调用后，返回多列结构化定量的数据。 使用的百度A I接口如下： 经过简单几句代码的调用，即可完成了我们所需的功能，能够有这样的能力，是基于百度已经给我们做好了SDK，直接调用 即可，同时SSIS也根据我们需要的功能帮我们自动生成了强类型的类库供简单调用。 SSIS 中的VSTA框架已经帮我们做了 量的工作，根据我们界面的配置信息自动生成了代码Wrapper包装器。 最后我们回到数据库中可发现，已经从我们Ex el的两列数据，经过转换后，生成了其他四列的数据。此时我们已经完成了从 非结构化的文本评论数据，转变为可分析的情感倾向的分析。整个过程无需我们懂什么高深的人工智能、机器学习之类的算 法，只需懂自己想要什么，让BAT们帮我们做成即中。 看到上图中有许多默认的0和结果为空的记录行，相信已经开始有读者想表达下意见，SSIS生成的数据不靠谱，调用20条，只 有7条数据返回。 本次的测试恰恰让 家可以见识到企业级ETL的工具之威力，笔者完全不需懂多线程、并发性之类的高深知识，简单几句的业 务转换代码，SSIS 已经帮我们完成了并发性调用，并且调用的速度实在太快，连百度A I都不接受，直接返回错误告诉并发量