2025与人工智能同行报告.pdfVIP

与人工智能​

同行​

探讨人工智能对人类的影响。反思其在

伦理、社会和存在层面上的意义，包括对

我们的人际关系、健康以及环境的影响。​

Nextstartshere

对齐问题：被回形针灭绝​

对齐问题——需要确保比人类更智能的机器与人类拥有相同的目标。如果无法解决这个问题，就有可能引入一个新的物种，它

们比我们更聪明，竞争力更强，从而威胁我们的生存。​

牛津大学教授​Nick​Bostrom​提出的观点：被赋予制造回形针任务的人工智能“很快会意识到，如果没有人类会更好，​

因为人类可能会决定关闭它”。​​

来源：WIRED​

2

令人恐惧的理由​

抗议组织​Pause​AI​担忧人工智能将在多个方面对人类构成挑战：​

•​​假新闻、冒充行​

•​社会继承的偏见和歧视​

•​失业问题​

•​人与人之间的疏离（聊天机器人取代了人际关系）​

•​权力集中于少数公共和私人实体手中​

•​自主型网络武器和生物武器​

来源：pauseAI​

3

人工智能对政治现实的威胁​

96%

的深度伪造内容​

都是色情内容。​

[2022年3月16日]​据报道，一段乌克兰总统弗拉基米尔·泽连斯基的深度伪造视频

被上传至一个被黑的乌克兰新闻网站，视频中泽连斯基呼吁士兵们放下武器。​

来源：The​Guardian;​pauseAI​

4

人工智能对政治现实的威胁​

“有记录显示曾有针对黑人社区，

尤其是年轻黑人选民，传播虚假

信息的企图。”

-​Cliff​Albright​​

Black​Lives​Matter联合创始人

[2024年]​人工智能生成的图像显示唐纳德·特朗普与黑人选民在一起。​

来源：BBC​Panorama​

5

人工智能对现实世界的威胁并非新鲜事​

纵观历史，技术一直使我们能够操控影像与现实。​

[1924年]​斯大林的一张照片中显示他因天花留下的痘疤皮肤，在1939年[1934年]​在大清洗期间，秘密警察官员尼古拉·叶若夫从历史照片中被

他担任领导人时被修饰后发表。移除。​

来源：;​​