拓展提升 5.3.2 AI 时代的安全与伦理.docxVIP

PAGE

PAGE1

AI时代的安全与伦理

人工智能技术已广泛应用于学习、生活与职业场景，AI工具的智能化、自动化水平不断提升，在提升效率的同时，也带来了数据安全、隐私保护、技术伦理等新挑战。作为新时代技术技能人才，既要熟练运用AI工具，更要树立安全意识、规则意识与责任意识，确保AI技术安全、规范、合理使用。

一、正确认知AI工具的能力边界

以本地AI智能体OpenClaw（“小龙虾”）为例，该类工具可通过自然语言交互，自动完成文件管理、邮件处理、代码编写、系统指令执行等操作，支持本地部署，能有效减少数据云端传输。但为实现自动执行功能，OpenClaw默认具备较高系统权限，可读写本地文件、调用应用程序接口、安装扩展插件、执行系统命令。

由此可见，AI工具的操作权限与其功能强度正相关，功能越强大，权限越高，潜在风险越突出。与传统对话式AI不同，OpenClaw等执行类AI可直接操控终端设备，一旦出现漏洞、遭受攻击或发生误操作，将引发设备失控、数据损毁、信息泄露等严重后果。

二、AI应用的核心风险与规范要求

（一）隐私保护

AI技术依赖数据训练与运行，个人信息并非可随意滥用的资源。一是防范权限过度采集，审慎授予AI工具通讯录、位置、生物特征等非必要权限；二是杜绝数据滥用，避免将作业文稿、个人身份信息、隐私资料等用于非合规AI训