AI 共情算法对用户社会互动的塑造与挑战.pdfVIP

RegionalGovernanceLivelihoodMarket民生与市场

AI共情算法对用户社会互动的塑造与挑战

○王万喜

摘要：AI共情算法是通过模拟和回应用户的喜怒哀惧，增加用户的互动体验和情感投入，扩展人类机器交互的边

界范围。这种高度人工智能的依赖，产生社交替代、情感耗损、认知失调等效应，在青少年群体中表现更突出。本文从

心理机制和社会学科出发，对共情算法的生成机制、依赖模式和社会消极作用进行讨论，有助于把握共情算法对人类社

会连接机制的影响。

关键词：AI共情算法；用户依赖；人机互动；社会结构；认知偏差

AI共情主要通过模拟人类情交焦虑者或独居者中更为突出。此响应规则，在交互中建立行动回路，

感反馈与互动，应用于社交媒体、外，小度助手不会主动打断人类的并调整其历史输入信息来调控自己

智能机器人等多种电子设备，从而对话，增加了用户的归属感和代的响应时间和响应强度以适应用

改变人们的社交模式和人机交互方入感。户，使其反复交互时养成惯性的习

式。AI共情技术凭借语言识别、语（二）拟人化设计触发社会临惯和动作。例如，2023年《现代情报》

义分析等技能，实现了情感回应的场感上的一项研究表明，有些AI语音

拟人化和互动反馈的亲密性，促使AI通过利用语音合成技术、角机器人的设计提供了多次启动、情

人们主观上产生情感共鸣和融入。色建模技术，增强自身“拟人化外感提醒、连动回路等模块，在很大

但随着时间的推移，其产生了过当在表现”能力，赋予它们人格特性，程度上增加了使用时间和不断激活

依赖、替代社交、思维定式等弊端，使对方更加容易相信这些回应是交互的场景。这种是采用“沉浸式

并在低龄和敏感人群中表现得特别“人类式的回应”，从而更愿意将反馈”技术的设计，以增加机器人

严重。本文以AI共情中的情感回它们视为一种虚拟人类化，并渴望回答问题的优先权。与工具功能属

应功能为切入点，探讨AI共情的与其建立某种关系，获得强烈的社性不同，AI系统是通过反馈系统控

影响效应，并从动机、模式、核心会互动体验。例如，在小冰框架赋制的行为，是一种无形影响，尤其

问题三大方面进行具体分析，旨在能的人工智能产品中，基于AI预在没有自己控制力的群体中产生强

揭示其影响人群的社会性活动及其设的场景情感语调、人格倾向和情大的行为黏附。

潜在危害性。感记忆功能，形成了一个“陪伴型”二、AI共情技术对用户社会互

一、AI共情算法推动用户情感角色。根据《清华大学学报(哲学动结构的塑造

依赖的内在机制社会科学版)》2023年第5期显示，（一）社交模式演变：即时回

（一）无评判交互环境激发社使用者中有38%的使用者觉得“小应削弱现实交往主动性

交投射欲望冰特别真实、很有感情、有陪伴性”，使用AI共情系统的关键在于

大多数AI共情机器人采用的会选择与它聊一些私密的不想其他依托语音识别、情绪识别和自然语

是回应模式，主要是为了营造安全人知道的事情。拟人化的造型设计言生成的