《管理世界》2023年第10期摘要：理解人类对算法服务的负面反应，是有效应对算法管理挑战的关键前提，是推动新一代人工智能健康发展和推进数字社会建设的重要议题。学术界对算法厌恶问题展开研究并取得丰富成果，但多数仅针对单一领域的单一问题。本文运用系统文献综述法，采用“概念辨析—形成机制—理论边界—研究展望”的框架，对人工智能时代算法厌恶的研究进展进行梳理与解析。首先，对管理领域算法厌恶的核心文献进行系统性梳理，在辨析算法、人工智能、机器人三者关系的基础上，界定算法的内涵和外延，明确提出人工智能时代算法厌恶的定义。其次，构建理论研究框架，从算法视角和人类视角双维度提炼出算法厌恶的6 种成因机制，并从个体、情境和算法3 个维度阐述算法厌恶的12种理论边界。最后，提出具有科学价值和实践意义的六大未来研究议题，为深化算法厌恶理论和实践研究提供理论指南。本文拓展了算法厌恶理论体系研究的认知边界，对促进中国企业有效应对算法管理挑战、推动中国人工智能健康发展和数字社会建设具有重要启示。关键词：人工智能 算法决策 算法厌恶 人机交互一、引言算法（Algorithms）是人工智能（Artificial Intelligence）发展的核心驱动因素，是企业实现数字化管理、国家实现智能社会建设目标的关键基础。随着机器学习、自然语言处理和计算机视觉等算法技术的迅速发展，人工智能由弱人工智能向强人工智能升级发展，人工智能新时代正在到来（郭凯明等，2023；阿明等，2021）①②③④⑤。目前，算法逐渐渗透到社会运作的方方面面，成为推动企业数字化转型和国家治理现代化的重要力量。越来越多的企业采用算法来代理组织管理、优化产品服务设计和提升用户体验，以期从激烈的商业竞争中脱颖而出。不仅如此，社会组织和政府部门也将算法视作智能社会建设和国家远景目标实现的重要基础，《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中多处提到要“迎接数字时代，激活数据要素潜能，推进网络强国建设，加快建设数字经济、数字社会、数字政府，以数字化转型整体驱动生产方式、生活方式和治理方式变革。”⑥算法的应用重塑了社会和经济系统的运作方式，推动了整个社会的数字化进程，人们和组织纷纷拥抱算法。例如，滴滴在发展中全面采用算法来优化乘客和司机的匹配过程，提升平台工作效率和用户体验（朱国玮等，2023）。 爱彼迎通过“智能定价”算法为房东推荐定价方案，以应对市场需求变动（程、佛利，2019）。 美团外卖的“超脑”系统，通过算法为骑手制定最优工作流程，极大提高了配送服务的效率和质量（陈龙，2020）。 算法的应用促进了企业“降本增效”目标的实现。麦肯锡数据显示，仅使用算法就能为企业削减约10%~20% 的成本、提升约10% 的收益⑦。在数字化发展形势一片大好的背景下，企业在利用算法推进数字化转型的过程中仍面临着巨大挑战。数* 本项研究得到国家自然科学基金“移动互联网时代的协同消费商业模式研究：理论模型与策略优化”（基金号：71871089）、国家社会科学基金重大招标项目“数据赋能激励制造企业创新驱动发展及其对策研究”（基金号：18ZDA 063）、国家自然科学基金“消费者对医疗人机融合智能服务的接受机制与引导策略研究”（基金号：72302051）、湖南省自然科学基金“数字化技术赋能背景下低碳消费模式研究：理论机制与实践路径”（基金号：2023JJ 30175）、湖南省哲学社会科学基金教育学专项重点课题“信息技术赋能视角下‘慕课’教师与学生协同发展研究”（基金号：18ZDJ 04）的资助。吴月燕为本文通讯作者。人工智能时代的算法厌恶：研究框架与未来展望*罗映宇 朱国玮 钱无忌 吴月燕 黄 静 杨 智- -205DOI:10.19744/j.cnki.11-1235/f.2023.0117据显示，2022年数字化转型成效显著的企业所占比例仅为17% ，中国企业数字化转型指数得分首次出现下降⑧。对企业来说，完成数字化转型不仅需要解决创新投入的资本和技术壁垒，更重要的是如何应对算法投入使用后的“用户壁垒”，即组织、员工和消费者对算法的拒绝和回避。学者们发现，企业管理者总是更愿意依赖自身直觉而不采纳算法建议（艾伦、乔杜里，2022）；零工工作者会抗拒平台算法提供的工作规划和绩效评估（默尔曼等，2021；陈龙，2020），甚至会从采用算法的平台离职（梁等，2022）；消费者对基于算法提供医疗诊断和康复建议的虚拟机器人表现出不信任（隆戈尼等，2019）等。算法应用带来的“用户壁垒”不仅与企业满足消费者“期望升级”的目标相冲突，也给企业数字化转型发展设置了阻碍。算法管理挑战主要源自算法风险引发的个体算法消极反应。人工智能时代的算法是基于大数据的、以机器学习为底层逻辑的算法，存在各种潜在风险，如算法结果存在不可预测性和不可解释性、算法服务过程中可能存在隐私泄漏、算法错误、数据偏差以及非道德决策等算法风险。鉴于算法风险会给社会稳定乃至国家安全带来严重后果，国家正在逐步完善算法治理相关政策、法规、制度。党的二十大报告提出要“推动战略性新兴产业融合集群发展，构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎”，同时要“提高防范化解重大风险能力，严密防范系统性安全风险。”⑨算法风险的防范与治理符合国家安全发展战略和需求。然而，算法治理制度上的完善并不能完全消解个体对算法的消极反应。个体对算法的消极反应不仅与客观的算法风险有关，还受人们对算法的主观心理感知影响。因此，明晰用户对算法的消极反应及其背后原因和后果，能够帮助企业更好地破除算法“用户壁垒”，充分发挥算法的积极正向作用。例如，人们为何会拒绝和回避算法？这会导致什么后果？在哪些情况下这种消极反应会被增强或削弱？对这些问题的揭示与回答，不仅能够帮助企业清晰认识算法在推进组织发展过程中如何受到阻碍，为企业的数字化转型提供指导和启发，符合企业数字化转型的需要，还能为国家和政府提供促进全社会数字化的新指南，进一步推动国家开展算法风险防范和治理工作。基于此，本文拟以“人们对算法的消极反应”（即“算法厌恶”）为核心主题并对其展开研究，以期服务于企业、国家和社会的数字化发展工作。在学术界，学者们将人们拒绝使用算法建议和服务的行为或行为倾向称之为算法厌恶（Algorithm Aver⁃sion ）（狄弗斯特等，2015）。 算法厌恶的现象引起了研究者的广泛关注，并成为近年来人机交互领域的热点研究话题。已有研究涉及了医疗服务、电子商务、组织决策、零工经济、自动驾驶、法律审判等领域；研究内容主要包括两类，一类是人们对不同类型算法服务的负面态度及行为反应，另一类是面对同一服务时，人们对算法和人类服务者的偏好反应差异等；研究也从不同的理论视角揭示了算法厌恶的发生机制及相应的边界条件等（李等，2019；威尔森等，2017；蓬托尼等，2021；隆戈尼等，2019；隆戈尼、齐安，2022；金姆、杜哈切克，2020；斯里尼瓦桑、沙利叶，2021；默尔曼等，2021；郁苏波夫等，2021）。学者们对算法厌恶展开了多方面讨论，也取得了丰富的研究成果。然而，已有研究大多围绕单一领域的单一问题展开，存在研究相对零散、概念界定不清晰、研究结论矛盾等问题。首先，学术界对算法厌恶概念中“算法”的定义尚未形成公认且清晰的界定，出现不少研究将“算法”、“人工智能”、“机器人”等概念等同的现象。其次，随着研究的不断深入，出现了矛盾的研究结果和解释机制，亟待研究者进行系统梳理。例如，有研究指出人们认为算法是不完美的，而有的研究发现相反结论（隆戈尼等，2019；格兰努罗等，2021；狄弗斯特等，2015）。 再次，与传统的研究背景相比，人工智能时代的算法基础更为复杂，算法表现形式更为多样，有必要展开新理论体系研究。例如，传统算法强调自动化，结果可预测且无法学习改进；而人工智能时代的算法则是以机器学习为基础，它可以学习和改进，结果也多不可预测。最后，国内对算法厌恶的研究有限，相关理论基础仍显薄弱。作为一个新兴研究领域，算法厌恶仍存在广阔的探索空间，综述性研究有助于为特定领域提供系统且深刻的理解，助推该领域理论研究与管理实践的共同发展，尤其是对于新兴研究领域。本文通过系统总结人工智能时代算法厌恶的概念内涵和外延，正式提出人工智能时代算法厌恶的概念，并基于此构建算法厌恶研究人工智能时代的算法厌恶：研究框架与未来展望理论述评- -206《管理世界》2023年第10期框架，揭示驱动机制，识别边界条件，同时提出具有科学价值的六大未来研究方向。本文对探索算法决策领域的理论创新、推进人机交互领域的理论研究，以及推动算法驱动的管理实践具有重要意义。二、研究方法和研究进展（一）研究主题界定算法包括传统的一般算法和驱动人工智能的机器学习算法。很早就有学者关注到一般算法背景下的算法厌恶现象（米尔，1954），由于一般算法更多是通过数据和规则产生可预测的稳定结果，人们更多是由于不信任统计模型的结果而产生算法厌恶。随着技术的发展，机器学习算法展现出经验学习、思维模拟、类人智能反应等能力。在此背景下，人们强烈感受到自己身为人类的身份受到算法（或人工智能）的威胁，如工作被替代、隐私被窥探等（隆戈尼等，2019；格兰努罗等，2021），从而产生算法厌恶。为了呼应人工智能时代这一现实背景，本文将研究主题聚焦于机器学习算法驱动下，人与算法互动中产生的算法厌恶。人与算法互动时，往往是与算法赋能的实体机器人（如护理机器人）或虚拟机器人（如在线智能客服）进行互动，或者是与嵌入式算法（如搜索引擎算法）进行互动（格里克森、沃利，2020）。 前者是与有形形式的互动，后者是与无形形式的互动，这两种互动可以统称为人与智能机器的互动，简称“人机交互”（详见第三部分“人工智能时代的算法厌恶定义”中关于算法的表现形式）。 由此，本文进一步将研究主题确定为“人工智能时代下人机交互中的算法厌恶”（后文简称“人工智能时代的算法厌恶”）。（二）研究现状与进展人机交互兴起于数字平台的管理创新实践，并于近些年成为战略管理、市场营销、人力资源等领域热议的话题。随着机器学习算法的发展，学者们将注意力从算法技术发展逐渐转向人机交互中用户的反应和行为 ，即对于提供相同或类似的服务，包括决策建议、推荐或辅助服务，相比于由人类提供，由算法提供更可能受到用户的青睐还是厌恶。近年来，Science、Journal of Marketing 、Information System Research 、Management Science、Psy⁃chological Science 、MISQ、《管理世界》等主流期刊围绕这一话题发表了一系列文章，揭示算法在不同情境中的应用。目前，全球学者围绕人机交互中的算法厌恶开展了卓有成效的研究，该主题是当前主流研究方向之一。为了系统全面地展示人工智能时代算法厌恶相关主题的研究概况，本研究借鉴特兰菲尔德等（2003）、刘善仕等（2022）的系统文献综述法（Systematic Literature Review ）以及刘洋等（2020）的文献研究方法对人工智能时代算法厌恶的研究成果进行总结和述评。第一，文献检索。本文以“Algorithm（ic ）Aversion”“ Artificial Intelligence ”“ Human-Computer Interaction”“ Al ⁃gorithm（ic ）Management”“ Algorithm（ic ）Decision”“ Human-like Bot ”“ Anthropomorphism ”等为关键词，在Web ofScience、Emerald、Springer、EBSCO、CNKI 等数据库中进行初步检索。鉴于狄弗斯特等（2015）发表的论文正式开启算法厌恶的研究，本文将检索时间确定为2015~ 2023年。在剔除社论、新闻、会议论文、工作论文、评论等类型文献后，初步获得1764篇文献。这些文献不仅包括算法厌恶，还包括算法决策领域的其他研究。为了初步了解学术界在算法决策领域投入的关注和取得的成果，本研究初步对1764篇文献所有作者单位的国别进行了分类统计，结果显示，算法决策领域研究中，美国、欧洲、中国学者发文量占据了全球发文量的90% 以上。第二，文献筛选。通过阅读初步检索获得的文献摘要和全文，发现这些文章的研究质量不一，且大量研究不属于本文聚焦的“算法厌恶”这一研究主题。为了严格控制文献质量且契合本文主题，进一步依据以下标准对文献进行筛选：（1）剔除与研究主题不符的文献，如剔除探讨算法技术、算法效能及其他方面的文献；（2）增加被遗漏的参考文献。最终，本文共获得符合条件的核心文献106 篇，外文期刊来源包括Nature 、Science、Man⁃agement Science 、Information System Research 、Journal of Marketing 等领域顶级期刊；中文期刊包括《管理世界》、《南开管理评论》等。统计结果显示，“人工智能时代的算法厌恶”主题下，美国、欧洲、中国学者的发文量仍占据全球发文量的90% 以上，与算法决策领域文献的统计趋势一致。第三，编码和分析。参考刘善仕等（2022）和刘洋等（2020）的文献计量分析方法，通过提取作者、年份、文- -207献来源、研究主题、研究方法、核心研究发现等关键内容，并对其进行初步梳理和编码（韦伯斯特、沃森，2002）。 为确保编码的科学、严谨和准确，本文进一步利用CiteSpace软件进行知识图谱计量分析。共词结果（《管理世界》网络发行版附录附图1）显示，人工智能、算法、算法厌恶、决策、判断、拟人化、信任、用户接受度等是目前全球学者关于“人工智能时代的算法厌恶”这一领域关注的焦点。共被引（《管理世界》网络发行版附录附图2）分析结果显示，洛格等（2019）、狄弗斯特等（2015，2018）、卡斯特洛等（2019）、隆戈尼等（2019）、罗等（2019）、门德等（2019）、约曼斯等（2019）、黄和拉特斯（2018）等是“人工智能时代的算法厌恶”研究的核心共被引文献。结合文献计量分析结果，本文对文献编码的初步结果进行调整，之后由两位管理学领域专家共同讨论、斟酌后得出最终的文献编码结果（见《管理世界》网络发行版附录附表1）。基于上述工作，本文发现：（1）人工智能算法厌恶研究领域中，不仅美国、欧洲学者关注多，中国学者也投入大量关注，并且有丰富的研究成果发表；（2）发表该研究主题的期刊数量多，管理学、心理学等领域的顶级主流期刊均有发表，发表数量呈逐年上升趋势；（3）尽管中国学者发表了大量成果，但多数发表于国际期刊。总体而言，国内外学术界、实践界均关注到“人工智能时代的算法厌恶”这一研究主题的理论价值和实践意义，是人工智能领域的主流研究方向之一。三、概念界定和研究框架（一）算法厌恶自米尔（1954）在临床预测中发现算法厌恶现象以来，研究者已在众多领域中观察到这一现象，并对算法厌恶提出了诸多定义。目前，狄弗斯特等（2015）提出的定义认可度最高，他们认为算法厌恶是在已知算法预测更为精确的前提下，人们依然倾向于依赖人类自身进行的决策的现象。但是，该定义存在一些局限。第一，该定义存在前提局限，狄弗斯特等（2015）是基于人们已知算法的表现优于人类的前提，一些研究表明人们在不清楚算法的优势时也会存在算法厌恶（隆戈尼等，2019）。 第二，多数研究关注算法与人类的比较，并指出人们在对算法表现出厌恶后会转而接受人类建议或依赖自身作出决策。然而，人们在不同情境中对算法决策的态度也属于算法厌恶研究范畴（默尔曼等，2021；孙等，2022；隆戈尼等，2019；川口，2021；比格曼、格雷，2018；吉鲁克斯等，2022；基尔，2020；葛等，2021）。 第三，狄弗斯特等（2015）提出的算法厌恶更多代指狭义上的算法（如嵌入式算法），而当前算法领域的研究有更为广义的内涵（如算法赋能的机器人或人工智能等），已有定义的内涵只能体现其中很小一部分研究。总体来说，已有关于算法厌恶的定义，无法囊括人工智能时代的算法厌恶研究。为解决上述问题，本研究将在讨论算法与人工智能、机器人之间的关系，梳理算法与人类交互逻辑的基础上，提出人工智能时代具有普适性的算法厌恶定义。（二）算法、人工智能和机器人为了理解算法、人工智能、机器人之间关系，本研究对人工智能时代算法的应用逻辑进行梳理。第一层：底层算法；第二层：应用方向；第三层：表现形式；第四层：应用场景（图1）。根据算法的应用逻辑图，机器学习是人工智能时代算法的内核，嵌入式算法和机器人是人工智能中的表现形式，不同表现形式下的算法厌恶和机制不尽相同。因此，本研究将重点围绕算法表现形式与应用场景适配下的算法厌恶展开讨论。在论述核心内容之前，先对算法、人工智能、机器人的关系进行阐述。1 . 算法与人工智能算法是驱动人工智能发展的关键因素，机器学习算法是现代人工智能的内核。依据“人工智能之父”约翰·麦卡锡的观点，人工智能是一种制造智能机器的科学和工程，它通过计算机来了解人们在同样任务中的生物和非生物反应，并利用机器模仿和学习人类思维来解决问题和制定决策（麦卡锡，2004）。 传统的人工智能主要依赖符号知识表示和程序推理机制，而现代人工智能则建立在机器学习之上（罗素、诺维格，2010），并以此为基础发展了人工智能的内核。机器学习是区别现代人工智能与传统人工智能（如自动化）的重要概念。传统人工智能的运作结果是确定的，整个流程不涉及任何学习过程（瑞吉、希曼斯，2019）。 但是现代人工智能人工智能时代的算法厌恶：研究框架与未来展望理论述评- -208《管理世界》2023年第10期在自动化的前提下，还会根据经验和反馈进行学习和调整，决策结果多数不可预测，这一过程被称为机器学习（格里克森、沃利，2020）。2 . 人工智能与机器人机器人是现代人工智能的表现形式之一。基于机器学习算法的现代人工智能主要有3 种表现形式：嵌入式算法、算法赋能的虚拟机器人和算法赋能的实体机器人（格里克森、沃利，2020）。 也就是说，机器人（实体和虚拟）与嵌入式算法相似，均是现代人工智能的表现形式，具体阐述如下。（1）嵌入式算法。嵌入式算法对用户来说是完全隐形的，它往往没有视觉呈现或身份，而是嵌入在不同类型的应用程序中（李等，2015），例如搜索引擎、决策系统等。嵌入式算法通过一系列运作对用户行为进行影响和控制，如推荐商品和服务、控制员工劳动过程等（伍德等，2019；甘迪尼，2019），但是用户很难感知到它的存在。（2）算法赋能的虚拟机器人。算法赋能的虚拟机器人是一种没有实体的人工智能形式，一般拥有独特的身份或者化身，例如聊天机器人、语音助手等。它可能存在于任何电子设备上，并具有面部、身体、声音、语言能力等人类特征。虚拟机器人可以与人类进行交互，向人类提供咨询服务和建议（格里克森、沃利，2020）。（3）算法赋能的实体机器人。算法赋能的实体机器人是一种以实体形式存在的机器人，具有多种功能以及不同的机械或类人表现形式，可以执行现场或远程任务，如办公楼和机场中的机器人（格里克森、沃利，2020）。（三）人工智能时代的算法厌恶定义算法厌恶源自人们与算法交互过程中产生的负面感知，发生在算法表现形式和应用场景的交互中。在狄弗斯特等（2015）的研究中，他们探究的是人们对统计模型预测结果的偏好，该研究中的算法是指嵌入式算法。嵌入式算法可以直接生成结果并对人类决策产生影响，如在投资决策、审计、组织管理等领域中，嵌入式算法直接给出决策建议（康默福特等，2022；默尔曼等，2021；刘等，2022）。嵌入式算法具有无形性，人们往往无法主动与其产生较多互动，限制其向个体应用场景推广。企业开始尝试将算法嵌入到一些载体中，以算法赋能的虚拟或实体机器人形式呈现，促进人们与算法产生更多互动，学者们通过研究也发现了人们对算法赋能的机器人产生的厌恶现象。例如，人们对机器人（vs.人类）提供的产品推荐、医疗和客户服务等总是会更加抵触（张等，2021；隆戈尼、齐安，2022；拉普等，2021；陈等，2022；帕克等，2022；昆、权，2022）。 这些研究指出，人们对机器人的厌恶是源自对机器人外表之下的嵌入式算法的负面感知，如无法学习、缺乏自动化意识等（金姆、杜哈切克，2020；海豪斯，2008）。 因此，这类研究也属人工智能时代算法厌恶研究范畴。与传统的算法厌恶相比，人工智能时代的算法具有以下两种新的特征：一是算法的基础。传统的算法强图1 人工智能时代算法的应用逻辑注：作者根据资料进行归纳和整理。底层算法指机器学习算法，包括有监督学习、无监督学习和强化学习。- -209调自动化流程、结果可预测且无法学习改进；而人工智能时代的算法是以机器学习为基础，它可以学习和改进，结果也多是不可预测。二是算法的形式。传统的算法仅强调嵌入式算法，而人工智能时代的算法不仅包括嵌入式算法，还包括嵌入式算法赋能的有形体。据此，本研究正式提出算法厌恶的定义：人工智能时代的算法厌恶是指人类对嵌入式算法以及算法赋能的虚拟和实体机器人提供的建议和服务展示出的负面情绪、消极态度和回避倾向。已有研究中，学者采用各种概念来指代算法，如人工智能、机器人、系统等。这主要与算法的表现形式有关，算法形式又与特定领域、行业和对象产生适配。在使用嵌入式算法的领域，研究者会使用算法、算法平台、控制系统等概念；而在使用算法赋能的机器人的领域，研究者会使用人工智能、机器人、推荐代理等概念（具体见《管理世界》网络发行版附录附表2）。 为了避免混乱，如无特殊说明，根据本文研究主题及人工智能时代算法厌恶的正式定义，本研究提到算法厌恶的对象时统一采用“算法”这一概念。（四）算法厌恶的研究框架基于对管理领域与研究主题相关的核心文献的梳理，研究发现人类与算法的交互过程中，驱动算法厌恶的机制主要有6 种，包括朴素信念、算法错误、隐私担忧、过度自信、错误归因和自我效能感。这六大成因可归纳为两类视角。第一类视角是人类如何认识算法，简称“算法视角”。算法视角往往与人类所处的社会环境有关（莫林，2004）。 例如，人们会根据媒体、电影提供的信息和生活中的经验，认为算法是刻板的、不能理解人类的情感（隆戈尼、齐安，2022）。 基于此，本研究将人类视角定义为：在算法厌恶中，人们的注意力和认知聚焦于对算法所产生的感知，主要包括朴素信念、算法错误和隐私担忧。第二类视角是人们如何认识人类自身，简称为“人类视角”。人类视角往往与人类对自身的