摘要：随着算法时代的来临，算法责任缺失与异化现象频繁出现，引发普遍的算法焦虑甚至算法危机，但目前对算法责任和算法责任治理的研究尚处于起步阶段，研究系统性和深度都存在不足。本文从理论证成算法责任命题的正当性与合理性出发，认为算法承载“代理者”角色是算法责任产生的认知基础，算法存在的社会嵌入、算法主体的价值迁移和算法结果的社会影响等算法的多元价值载荷是算法责任生成的根本缘起，算法权力崛起孪生出匹配性的算法责任、算法滥用催生出约束性的算法责任是算法责任出场的现实逻辑，而算法责任的综合性、代理性和隐蔽性特点则是其作为一个新命题出现的合理性所在。基于不同时期对算法本质与算法责任本质认知的演变，算法责任观经历了技术中立视域下的责任否定观、技术伦理视域下的道德算法观、人技信任视域下的“可信赖的算法”观、社会责任视域下的“负责任的算法”观的流变与迭代。作为构建“负责任的算法”的基础，算法责任的完整画像由责任缘起、责任性质、责任基础、责任主体、责任对象、责任内容、责任程度和责任机制等8 个构面构成，并在算法作为纯粹执行者、辅助决策者和独立决策者情形下呈现出差异化的画像“拼图”。 本文结合治理要素即对“人”的治理、对算法的治理、对社会的治理和责任机制即社会责任融入、负责任研究与创新、敏捷治理，构建了算法责任综合治理范式的九宫格模型，构造出算法责任治理的9种方式。在此基础上，构建了算法责任治理方式与不同算法场景的适配性矩阵，提出在算法责任治理中政府应当加快算法责任制度供给与创新算法监管方式，企业需要全面落实算法责任议题与构建可持续性算法商业模式。关键词：算法 算法责任 社会责任 数智经济一、引言算法、数据和算力是数智经济的3 个基本要素，而算法更是数智化决策的基础，是数智经济的生命力所在，成为数智经济时代的“基础语言”（张欣，2019a），由此数智经济在某种程度上被称作“算法经济”，与之相伴随的则是所谓“算法时代”的来临（Danaher et al. ，2017）、“ 算法社会”的出现（Balkin ，2018）和“算法生活”的涌现（Del Casino et al.，2020）。 无论是数智化技术对经济社会发展的积极增进功能，还是数智经济演化过程中引致的众多社会问题，其在底层逻辑上基本都依赖于算法予以实现。特别是，算法具有“颠覆性潜力”（凯伦·杨、马丁·洛奇，2020），一方面无处不在的智能算法深刻改变了人们的生产生活方式甚至社会形态，另一方面有意图的或非故意的算法不当以及所谓的“算法污染”（Schultze et al. ，2018）往往是数智经济负外部性的深层来源，负责任的算法对于构建可持续性数智经济和更加美好的社会至为重要。然而，现实中大量的算法失当现象经常在多个场景出现，算法歧视或算法偏见、算法共谋、算法垄断、算法黑箱、算法遮蔽、算法伦理缺失、算法短视、算法霸权、算法操纵、算法劫持、算法剥削等算法问题不断涌现。典型的如：算法歧视中的“大数据杀熟”，国内多个外卖平台、出行平台、购物平台、差旅平台、视频网站都被曝基于大数据对用户进行画像，依托算法实施“熟客卖高价”“ 千人千面”“ 千人千价”的“杀熟”行为。算法偏见中的“种族歧视”或“少数群体歧视”，前者的著名例子是Google 开发的自动图像标记软件曾经将黑人照片识别并标* 本项研究得到国家社会科学基金重大项目（20&ZD 073）和中国社会科学院登峰战略企业管理优势学科建设项目的资助。算法责任：理论证成、全景画像与治理范式*肖红军算法责任：理论证成、全景画像与治理范式理论述评- -200DOI:10.19744/j.cnki.11-1235/f.2022.0053《管理世界》2022年第4 期记成“大猩猩”，一些美国法院引入的犯罪风险智能评估系统COMPAS 在评估罪犯的再犯罪风险时存在明显的歧视黑人罪犯情况（刘友华，2019）；后者的代表性事例是亚马逊曾经开发“算法筛选系统”用于招聘中的简历筛选，但算法明显偏好于男性应聘者而歧视女性，另一个教科书式的示例是比利亚雷亚尔（Villarreal ）诉雷诺烟草公司（Reynolds Tobacco Co.）案（汪怀君、汝绪华，2020），反映出算法依据年龄筛选应聘申请人的年龄歧视。算法推荐引致的“信息茧房”困境与“回音室效应”，以今日头条、抖音为代表的APP 通过智能算法重复地向用户推送所谓“感兴趣”的内容，这种单纯基于兴趣导向的算法推荐限制了用户获取多样化的信息，使其被束缚在智能算法所构建的“信息茧房”和“回音室”里。算法操控导致的人被技术所“异化”，2020年9 月《人物》杂志微信公众号推出的《外卖骑手，困在系统里》一文，揭示了外卖平台算法对骑手的斯德哥尔摩效应式规训和“冰冷”控制，将外卖骑手变成马尔库塞言下的“单向度的人”。 这些多样化的算法失当现象引发社会普遍的算法焦虑甚至一系列算法危机，由此算法甚至被认为是“怪物”（Schultze et al. ，2018）。算法失当及其引发的算法焦虑问题越来越多地受到学术界的关注，狭义与广义的算法责任逐渐进入法学、伦理学、经济学、管理学、社会学、技术哲学、新闻学的研究视域，直接聚焦或间接探析算法责任治理的研究开始成为热点，并集中于两个方面：一是综合性算法责任及其治理研究，重点是算法责任机制、算法伦理。对于前者，算法在社会领域决策中的应用不断增加，催生对负责任算法的需求日益强烈（Binns，2018），因此应提高算法决策的公平度、问责性和透明度（Lepri et al. ，2018）。 算法被认为承载着价值观而非中性，企业不仅对算法负有责任，而且对设计算法中的“谁做什么”负有责任（Martin，2019）。 浮婷（2020）综合透明度视角、利益相关方视角、负责任研究与创新视角，构建了算法责任机制的概念模型，阐释了算法责任不同要件的逻辑关系。张凌寒（2021a）从问责制的视角研究了平台算法责任如何生成，以及针对“责任鸿沟”问题如何构建算法问责制。对于后者，算法所引发的伦理问题变得越来越突出，包括算法的自主性所引发的伦理问题、算法在应用性场景下的伦理问题和算法的归责性困境问题（孙保学，2019），因此算法决策需要考虑伦理因素（Gerlickand Liozu，2020）。 算法伦理研究主要涉及算法伦理的困境生成、理论前提、价值基础、基本准则和实现进路（Hauer，2018；刘培、池忠军，2019；郭林生、李小燕，2020；匡文波，2021）。 二是特定性责任失当问题及其治理研究，包括算法黑箱（Zerilli et al. ，2019；浮婷，2020；吴椒军、郭婉儿，2021）、算法歧视（Žliobaitė ，2017；崔靖梓，2019；张恩典，2020；李丹，2021）、算法共谋（Ezrachi and Stucke，2017；Gal，2019；时建中，2020；Beneke andMackenrodt ，2021）和算法操纵（大卫·萨普特，2020）等各种算法责任的缺失与异化现象。一方面，大量研究关注于各种特定性算法责任失当现象的概念、分类、危害和成因，另一方面，许多学者针对各种算法责任缺失与异化问题提出治理方式与治理策略。比如，在算法治理与算法规制研究中，许多都是针对特定性算法责任失当现象的治理（Saurwein et al.，2015；Yeung，2017；D ’Agostino and Durante，2018；Ulbricht，2018；Cristianini andScantamburlo ，2020；阳镇、陈劲，2021）。通过深入分析可以发现，目前国内外关于算法责任的研究尚处于起步阶段，已有的探索性研究成果对治理算法失当和算法责任缺失或异化问题具有重要的价值贡献，但它们至少存在3 个方面的不足：一是缺乏真正意义与完整意义的社会责任视角研究。目前关于算法责任问题的研究主要聚焦于法律与伦理两种视角，法律视角关注于算法失当发生后的责任认定和责任分配问题，伦理视角强调算法和算法结果与普适的社会道德伦理符合性（Martin，2019）。 显然，法律视角的“责任”不是真实意义的社会责任，而伦理符合性只是社会责任的部分构成。即便个别学者关注到社会责任视角对算法责任治理的研究，但其要么几乎聚焦于算法透明问题（浮婷，2020），要么仅仅将算法治理作为企业社会责任治理的对象和内容（阳镇、陈劲，2021），没有从真正意义和完整意义社会责任视角对算法责任和算法责任治理进行系统研究。二是缺乏对算法责任的完整画像进行清晰刻画。科学界定算法责任的内涵、范畴边界、内容构成既是判断算法是否失当的基本依据，更是有效开展算法责任治理的重要前提。然而，现有的绝大多数研究聚焦于算法责任的特定议题，部分涉及综合性算法责任领域的研究也仅仅关注于算法的消极社会影响等单一维度，即便个别学者提出了负责任的算法概念（Binns，2018；Lepri et al. ，2018；丁晓东，2020），也未做出明确的、完整的界定。现有研究对算法责任的内涵、- -201范畴边界和内容构成并未做出有意义的全景刻画，算法责任的完整画像及其形成的逻辑链条尚不清晰。三是缺乏对算法责任治理范式的系统建构。现有研究绝大多数聚焦于对特定算法失当现象的治理，对整体性的算法责任治理研究相对较少。无论是前者还是后者，已有研究主要关注于相对抽象或概念化的治理原则和相对具体或针对性的治理策略，从更加系统的范式层面研究算法责任治理较为缺乏。鉴于此，本文尝试对这些不足进行突破，从真正意义与完整意义社会责任视角对算法责任开展研究，试图对算法责任的理论逻辑、完整画像和治理范式进行探索性建构。本文余下部分的结构安排如下：第二部分基于逻辑起点检验和证成算法责任命题的正当性与合理性，第三部分系统梳理和分析算法责任观的纵向流变与动态迭代，第四部分刻画算法责任的完整构面和建构算法责任的全景画像，第五部分分析算法责任治理的逻辑理路和构建算法责任综合治理范式，最后归纳总结本文研究结论、理论贡献，提出政策启示和实践建议。二、算法责任命题的逻辑起点与理论证成作为一个新概念或新领域，“ 算法责任”是真命题还是伪命题一直存在争议，但这关乎算法责任治理存在的价值与必要性。考究算法责任命题的逻辑起点是对算法、算法与人、算法与社会关系的认知，物性或工具化的算法角色认知、原子式或割裂式的算法中立观必然导致“算法责任”伪命题的结论，反之则可推演出“算法责任”为真命题。在现实中，随着弱人工智能不断获得重大突破，加上大数据的深度应用、机器学习尤其是深度学习的迅猛发展，算法的社会嵌入日益深入，高度自动化的算法决策推动算法的社会功能显著增强，“ 算法责任”越来越呈现为一个具有正当性与合理性的真命题，并俨然成为公共议程重点关注的对象。（一）算法的代理者角色：算法责任产生的认知基础理解算法责任命题的基础是对算法的角色属性进行科学定位，而这相当程度上依赖于对算法概念的界定。算法概念最早出现于数学领域，指的是解决数学问题的运算法则，以算术或算式形式呈现。计算机诞生后，算法概念被引入计算机领域并成为计算机科学的基础与核心，其涵义也区别于数学领域的算法概念，指的是将输入转化为输出的序列计算指令（Cormen et al. ，2009），或者说是依托特定计算模式将输入数据转换成预期输出的编码程式（Gillespie ，2014），是一种有限的、确定性的、有效的、适合计算机程序执行的问题解决方法（Sedgewick and Wayne，2011）。 随着数智经济时代算法的广泛渗透和悄然介入人类事务，算法概念逐步超越计算机领域的专业术语，延拓到更广泛的社会领域，被宽泛地认为是问题解决方案的完整描述（孙萍，2019），涵盖所有的决策程序和步骤，是理性建构社会秩序的一种特殊方式（Beer ，2009）。 从算法概念的流变来看，算法可以从技术、系统、社会3 个层面予以理解。技术层面的算法是一种技术性解决方案（Gillespie ，2014），多指在计算机领域结合逻辑条件与控制结构来表达计算解决方案，属于基础层次的算法概念。系统层面的算法是从人与机器互动系统的角度，将算法看作“人类和机器交互的决策，即人类通过代码设置、数据运算与机器自动化判断进行决策的一套机制”（丁晓东，2020），属于中间层次的算法概念。社会层面的算法泛指为解决某一问题或达成某一目的而采取的一系列步骤（Diakopoulos ，2015；Kroll et al.，2017），其集合将形成对社会秩序的理性建构，属于高阶层次的算法概念。基于目前的技术发展水平和着眼于更重要的现实意义，本文聚焦于人机互动系统视角的算法，即中间层次的算法概念。需要指出的是，人工智能算法是数智经济时代最具代表性的算法，但鉴于当前的数智化技术仍处于弱人工智能阶段，强人工智能尚未真正产生，且由弱人工智能向强人工智能演化的“奇点”是否出现并不明确，因此本文的人工智能算法主要是弱人工智能语境下的算法。按照系统层面的算法概念，算法在人与机器的交互中可以发挥不同程度的辅助决策功能，进而增强人在某些领域开展决策的能力。而且，在某些方面人也可以依靠机器的自动化判断进行自动化决策，由此算法就会代替人做出决策。然而，算法的本质可以看作一种“技术人造物”，算法模型往往嵌入了设计者和使用者的目的与意图，算法功能映射出设计者和使用者的价值认知与期望用途（Kalpokas ，2019）。 这意味着无论是前置行动（Prior-to Actions ）还是目的行动（In-order-to Actions）（Introna ，2016），算法运行所控制的行动实质上是执算法责任：理论证成、全景画像与治理范式理论述评- -202《管理世界》2022年第4 期行性的（Performative）。 即