国内外算法风险研究：框架、特征及展望.pdfVIP

Informationstudies:TheoryApplication

SpecialSubject11

Vol.48No.1(Jan.2025)

“智能算法研究”专题导语

党的二十大报告强调提高防范化解重大风险能力,严密防范系统性安全风险,同时加快建设数字中国的

决策部署。现实场景中,随着数智时代的来临,算法在智慧决策、智能推荐等场景中的应用日益广泛,它

为管理、决策、服务提供便利的同时也是一把双刃剑。尤其是ChatGPT、Sora等技术的涌现,将算法风险问

题推向风口浪尖,对全球算法风险的形势进行深入研判,同时积极探索情报分析领域算法应用,对于应对

全球算法风险治理难题至关重要。鉴于此我们组织了“智能算法研究”专题,以实现对智能算法在情报分

析领域应用研究及算法风险治理进行探索研究,旨在为情报分析领域探索算法应用及风险治理提供参考和

借鉴。本专题的两篇文章均以人工智能算法为视角,探讨国内外算法风险问题和情报分析算法分类及应用

两方面内容。其中《国内外算法风险研究:框架、特征及展望》一文通过系统梳理国内外主要数据库有关

“算法风险”的915条核心文献,构建基于“学科领域—研究主题—治理工具—治理措施”的算法风险研究

框架,并分析算法风险具有学科的交叉性、复杂的交织性、突出的人为性、泛化的不确定性等特征。《数智

时代情报分析中算法分类、演进及应用研究》一文重点梳理近10年情报学领域5本核心期刊与情报分析算

法相关文献,尝试梳理数智时代应用于情报分析中的算法分类,并从算法演进、算法应用角度全方位展示

这些算法的特征。

马海群(黑龙江大学信息管理学院二级教授、博士、博士生导师)

●马海群,张涛12

(1.黑龙江大学信息资源管理研究中心,黑龙江哈尔滨150080;2.黑龙江大学信息管理学院,

黑龙江哈尔滨150080)

国内外算法风险研究:框架、特征及展望∗

摘要:[目的/意义]随着ChatGPT的横空出世,算法应用越来越多地支配着人类的生活,算法黑箱、算法操控、

算法共谋、算法偏见、算法歧视等风险也随之而来,这些风险严重影响社会稳定乃至国家安全。对全球算法风险的形势

进行研判能够有助于防范与识别算法风险,并为应对全球算法风险治理难题提供中国智慧与构想。[方法/过程]通过

系统梳理国内外主要数据库915条核心文献,构建基于“学科领域—研究主题—治理工具—治理措施”的算法风险研究

框架,并分析算法风险具有学科的交叉性、复杂的交织性、突出的人为性、泛化的不确定性等特征。[结果/结论]从加

强情报学学科对算法风险研究、加强对人工智能算法可解释性研究、加强算法应用向善和算法服务从善研究、加强对全

球算法风险治理中国智慧与构想研究4个方面对算法风险研究问题进行展望。

关键词:算法风险;算法治理;算法向善;特征分析

DOI:10.16353/ki.1000-7490.2025.01.001

引用格式:马海群,张涛.国内外算法风险研究:框架、特征及展望[J].情报理论与实践,2025,48(1):

1-10.

ResearchonAlgorithmRiskatHomeandAbroad:Framework,Features,andProspects