某信贷AI因用户焦虑表情提高利率但未告知的算法黑箱与剥削风险.docx

PAGE

PAGE1

某信贷AI因用户焦虑表情提高利率但未告知的算法黑箱与剥削风险

第一章研究背景与意义

1.1研究背景与问题提出

1.1.1现实背景分析

随着金融科技的迅猛发展，人工智能技术在信贷领域的应用已从单纯的数据处理向深度感知交互演进。当前，信贷机构广泛采用大数据风控模型，通过分析用户的消费记录、社交行为等多维数据来评估信用风险。然而，近年来一种更为隐蔽的技术趋势正在兴起，即通过情感计算技术捕捉用户的面部微表情、语音语调等生物特征，以此作为信贷决策的辅助依据。这种技术应用的边界日益模糊，部分机构开始在用户不知情的情况下，利用情感识别算法捕捉到的“焦虑”、“紧张”等情