网络首发 | 数智时代的算法素养:内涵、范畴及未来展望(夏苏迪 邓胜利 付少雄 赵海平)

网络首发时间

2023-02-06

网络首发地址

https://kns.cnki.net/kcms/detail//42.1085.G2.20230206.1053.001.html

夏苏迪  邓胜利

武汉大学信息管理学院，武汉，430072

付少雄

南京农业大学信息管理学院，南京，210033

赵海平

中国石油大学（华东）经济管理学院，青岛，266555

算法，是一种基于预定计算步骤将输入数据转换为预期输出的计算程序。在数智时代，算法被广泛地嵌入到大数据、人工智能、云计算、物联网、移动互联网和区块链等技术中。新一代数智环境下，大数据、物联网和移动互联网催生的海量数据和信息为算法决策提供了丰厚的养料，而人工智能、区块链和云计算等技术则为算法提供了广阔技术空间和应用场景，推动了算法与社会的深度融合。然而，算法在创造便利与机遇时，也带来诸多风险与挑战。北京阳光消费大数据研究院调查显示，82.37%的受访者认为大数据“杀熟”问题普遍存在，86.91%的受访者表示有被算法“杀熟”的经历。同时，现实中的社会身份被算法赋予标签，导致算法模型延续原有偏见与歧视。加州大学伯克利分校的研究人员发现，在Quicken Loans平台上针对线下借贷机构受歧视群体的偏见依旧会在线上借贷平台延续，而这由算法歧视导致。此外，算法对人的监控也会侵犯私人空间。2021年以来我国受理的个人信息保护投诉举报超过2万条，其中超范围收集个人信息、强制或频繁索要权限等问题占总量的40%左右。

尽管算法衍生的风险会影响每位公民的利益与福祉，然而在与算法交互中，许多用户尚未意识到算法存在，对其概念及扮演的角色也模棱两可。Eslami等人在调查中发现半数以上美国中西部地区受访者未意识到Facebook中内容分发算法的存在，其中大量学生受访者不了解个性化推荐算法的原理机制。这种认知缺失普遍存在于各年龄段人群，许多人对社交媒体内容分发、协同过滤和个性化推荐毫不知情。这一现象同样也出现在中国。2022年的一项算法使用分析报告显示，超过半数受访者不清楚企业是否使用算法，有六成受访者不了解企业使用算法的内容和目的。虽然超过八成受访者接受个性化算法推荐，但对超过一定程度的精准推荐表现出担忧和顾虑。即使算法差异化定价侵犯了自身合法权益，但是超过半数用户都未诉诸法律维权。

可见，如何约束算法权力空间、对抗算法衍生风险，成为理论与实践的重要议题。本质上，算法是人类意志的产物，复刻并植入了算法生产者的刻板印象，本身不具有自由意志。而算法侵害行为也是人在运用算法过程中产生的。算法的个体应用不会对其他群体产生影响，然而应用于高度互联社会网络中的算法则加剧了歧视、偏见、霸权等侵害的扩散。因此，针对算法的治理就是针对人类设计、开发和使用算法等行为的治理。我国《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》，初步定义了不同算法利益相关者的责任、权利与义务，为算法有序发展提供了可靠保障。然而，算法治理不仅要依赖法律规章，还需从素养角度对相关主体在算法实践中应当具备的知识、技能和态度等提出要求，使个体在与算法交互中动态调整自身认知和行为，做出合理的价值判断与决策，实现人与算法的和谐共生。当前对算法素养的内涵、要素构成及关系尚存在较大探讨空间。本文依据“以人为中心AI”思想（Human-Centered Artificial Intelligence，HCAI）和核心素养框架（Key Competencies,KC），针对不同算法利益相关者界定算法素养的内涵及要素，为算法素养的研究、培育和算法治理提供参考。

个体在终身发展中需具备多元素养应对各类挑战。信息时代要求人们具备信息素养，明确信息需求满足自身需要；在大数据与智能社会，数据与数字素养要求人们对数据保持敏感性，借助数智技术赋能个人与社会发展；而算法素养则为个体适应算法社会提供了支持。在算法社会，因高重复性的常规工作被智能算法取代，人们将更多精力投入复杂任务和关系中。不同算法主体因需求与权利差异产生不同利益诉求，在利益交织中引发矛盾冲突。因此，鉴于算法社会现实需求，亟待提升个体对算法社会的适应能力。

已有研究初步探讨了算法素养的概念及要素。Leyla Dogruel等认为，算法素养是指个体能够意识到网络平台和服务使用了算法，并且知悉算法的运作方式。这一概念阐明了算法素养的基本维度：算法意识和知识。许多研究也秉持这一观点，从意识和知识层面建构算法素养的内涵（见表1）。同时，也有研究指出除理解算法功能外，个体在与算法交互中也要用批判性思维调整行动。此外，还有研究将伦理和公民意识纳入算法素养内涵。如Shin指出，个体感知算法公平和责任是增强算法技术信赖感的重要保障。Kampa和Balzer则强调在算法素养中考虑可能涉及的风险和伦理问题。

在界定算法素养概念时，现有研究聚焦个人与算法的交互，侧重知识层面的算法知识、技能等，较少关注思维能力的培育和价值观、公民意识的养成。限于认知能力局限，个体的算法知识很难与技术更迭保持一致，这要求个体应注重思维能力的提升，在知识、技能和经验积累中把握底层逻辑规律和趋势。同时，算法在设计和使用中也会引发潜在危害，作为社会成员应将对算法的价值判断建立在社会公约上。此外，现有研究多从算法使用者视角切入，而素养不应局限于特定背景人群，素养要求的能力与价值应面向广泛人群。因此，算法素养的目标对象还需包含算法生产者、监管者等多元主体，凸显算法素养的普适性。鉴于现有概念局限，算法素养内涵及要素有待进一步剖析。

以“技术为中心”理念长期主导人工智能（Artificial Intelligence, AI）领域的研发，但这一理念带来的弊端也随技术发展而逐渐显露。算法特别是AI算法的黑箱机制，使其运行过程不透明，继而降低了算法输出结果的可信度和可解释性，增添了较大认知负担。同时，以技术为中心理念关注算法设计的优化与效率，而忽略了算法使用者――人的需求满足与体验，致使算法有用性大打折扣，导致各类社会和安全问题频发。因此，算法开发者开始意识到“以人为中心”理念的重要性，在算法开发与设计中愈发关注人的需求，强调人的能力提升与权益保障。

3.1  “以人为中心AI”思想内涵

美国斯坦福大学于2019年率先启动“以人为中心的AI项目（Human-Centered AI Initiative，HAI）”，致力于推进以人为中心的AI技术创新与应用。麻省理工大学也设立了人本人工智能研究项目集群（Human-Centered AI Collection），旨在通过计算机科学、心理学、人文、经济学等多学科交叉融合，在AI与人的协同中实现人机共生。而HCAI理念即为指导人—AI交互的新理念，涵盖了人、技术和伦理三个方面，如图1所示。

HCAI理念将以人为中心贯穿于AI设计开发的各阶段，强调技术、人与伦理的相互依承。在技术层面，HCAI理念强调三类智能的有机结合：机器智能、人类智能与人机混合增强智能。它将人的作用融入人机系统，通过人类智能与机器智能的互补，实现人机混合增强智能，提高AI的可持续性和可控性，以求提升人的能力而非取代人。在人的层面，HCAI理念强调AI研发应聚焦人的需求，落实有效应用场景，以求开发有用的、可用的（易学易用）且人类拥有最终决策权的AI。在伦理层面，HCAI理念强调AI开发设计应保护人的权益，遵循社会公平和伦理道德，追求AI的伦理化与责任化。

3.2  核心素养框架及特点

算法催生的智能化浪潮不断重塑职业形态、组织结构和利益关系，使人们将更多精力投向复杂任务和关系中，借助专家智能探索全新问题解决路径。算法活动也涉及多方主体和情境。不同主体因不同需求与权利产生差异化诉求，在利益交织中引发矛盾冲突。这就要求个体具备适应不同群体的复杂交往能力，以解决冲突、协调利益关系。核心素养提出的专家思维与复杂交往能力两个基本理念，有助于个体应对算法社会的挑战，为探寻个体在算法社会中的素养目标提供了依据。

2005年，OECD组织正式发布了《核心素养的界定与遴选：行动纲要》（The Definition and Selection of Key Competencies: Executive Summary），以实用性导向诠释核心素养内涵，构建了包含三类素养的核心素养框架（见图2）：（1）交互使用工具的能力，例如对语言、符号、文字的掌握；驾驭知识和利用信息；使用工具和各类技术。（2）与异质性群体有效互动的能力，与他人建立良好关系；合作能力；管理并化解冲突能力。（3）自主行动能力，包括适应宽泛情境；维护个人权利、兴趣和需求；制定、执行个人项目和规划。OECD定义的核心素养超越了知识和技能层面，将个体价值观和态度也纳入核心素养范畴。同时，该定义也认为反思性对培养核心素养至关重要。

OECD核心素养框架集中体现了个体与工具、个体与社会和个体与自我的关系，随后诞生的诸多核心素养框架也基本围绕这三个维度确定核心素养要素（见表2）。例如，欧盟认为核心素养包括个人在社会中所需要的知识、技能和态度；日本则从知识与技能、思考力与判断力、学习态度和人格涵养三个方面定义核心素养。这些框架围绕个人与工具、自我和社会三个维度展开，三个维度相互联系、有机整合，在不同情境下发展彼此关系。

纵观各类核心素养框架，可归纳出三个特点：

（1）双重价值性。核心素养不仅限于满足个人生活与发展，也促使个体顺应社会变革，使个体行为有助于社会良好运转。这体现了核心素养对个人与社会的双重价值。

（2）可迁移性。核心素养不限于某个特定学科领域，关注个人在多元情境中应对不同任务时应具备的关键能力，即批判性思维、问题解决能力和沟通能力，从而帮助个体在不同情境下掌握特定知识和技能。

（3）普适性。核心素养关注广泛的社会群体，致力于培养适用于所有人和情境的普遍素养，不仅适用于领域专家，也有助于普通个人的发展进步，是一种致力于提升所有人核心能力的共同素养。

3.3  算法素养的主体与内涵

3.3.1  算法素养的相关主体

围绕算法活动各阶段包含了众多参与对象，如政府、企业、平台、专业机构、平台用户等，同一对象在与算法交互时因任务、场景和目标改变致使交互角色产生重叠与分化。例如，作为算法应用和软件使用方的政府，同时也作为算法监管方参与算法治理规制；企业在设计、开发和部署算法的同时，也是其它算法程序的使用者。然而，根据不同交互目标和对象的特点，可以从众多参与对象中抽离出三种基本交互主体：算法生产者、算法使用者和算法监管者。算法生产者指设计、开发、控制和部署算法的主体；算法使用者是利用算法满足特定需求和目标的主体；算法监管者是具有对算法拥有备案、评估、监督和检查等权力的主体。这三类主体构成了算法活动的主要参与方，在算法实践中彼此相互关联。

3.3.2  算法素养的内涵

在探讨算法素养前，首先需要明确素养的定义。Deborah Brandt和Katie Clinton认为，素养（competency）是人们按照社会规范和模式化方式行事，并为行为方式赋予文化意义。素养的形成源于个体在工作生活中对知识技能的运用，强调反思性思考的重要性。欧洲理事会认为，素养是适用于特定情境的知识、技能和态度的综合，并凸显情感、态度和价值观的重要性。可以看出，素养包含了思维、态度和知识等基本维度。而算法素养作为素养的延伸形态，在理论与逻辑上应顺承素养的维度特征。

尽管算法生产者、使用者和监管者在分工、需求和认知上的区别决定了其算法素养内涵存在差异，但三类群体的算法素养目标也在思维、态度和知识三个层面产生了交汇。在思维层面，以HCAI思想为核心的素养目标要求算法生产者和监管者贯彻“以人为本”和公平理念，在思维层面指导实践主体与算法交互；而算法使用者应拓展KC提倡的批判性思维，明确自身兴趣、需求和目标，提升不同算法场景下的问题解决能力。在态度层面，个体与算法的交互态度蕴含着个体主观评价及由此产生的行为倾向，其价值观因素会影响个体在算法实践如何看待自身与工具、他人和社会间的关系。HCAI理念要求算法生产者的研发遵循“人为目的”的伦理观念，要求算法监管者确保算法活动遵循现代社会伦理原则。而KC则要求算法使用者秉持符合社会共同利益的个体价值观与算法进行交互，体现了算法素养对个人与社会的双重价值性。在知识层面，HCAI思想要求算法生产者掌握提升人类能力的算法知识、技能和工具，而算法使用者和监管者应根据自身诉求、任务和场景，用特定领域的算法知识、技能和工具解决特定问题，这是对KC在知识维度边界的拓展。

综上所述，本文以HCAI思想和KC框架为指导，立足算法实践中的多元主体，从个体与算法交互的思维、态度和知识层面对算法素养内涵做出界定：在特定需求和环境下，不同算法利益相关主体依据特定的思维、态度和知识运用算法认识世界和改造世界。以下将对算法素养内涵的要素构成及关系进行讨论。

4.1  个人与算法交互的思维层面

4.1.1  算法生产者――树立“以人为中心”理念

HCAI理念强调，AI算法开发需紧密贴合人的需求，满足人在应用场景的实际需要。因此，在算法设计时，算法生产者需充分调研并明确算法使用者的任务、目标、现实需要和应用场景，提升算法有用性和使用价值。在算法开发中，无论是功能布局、模块分布、运作流程还是测试环节，算法生产者要贯彻“以人为中心”理念，让以算法为依托的终端产品和服务操作易学易用，使其输出结果在呈现形式和认知方式上便于算法使用者理解和接受，贴近算法使用者的思维模式和使用习惯，帮助提升个人问题解决与决策能力，并确保使用者对算法拥有最终控制权和决策权，从而将以人为本的算法研发理念落到实处。

4.1.2  算法使用者――培养批判性思维

批判性思维要求理性反省个体内在认知及外在行为。个人与算法交互的过程中，不仅限于对算法决策的被动接受，还需对算法活动的各个阶段做出合理评价。算法是其开发者的思维映射，依赖于开发者的知识和观念，具有一定的局限。算法输入数据质量、应用情境的变更以及算法内置逻辑结构等均会影响算法输出。这意味着算法使用者不能迷信算法处理与决策输出，而要运用理性对算法输入、运行及输出进行批判性思考。面对算法处理与决策结果，算法使用者要合理看待算法活动的各个阶段，具备质疑、评估和选择能力，以批判性眼光科学审视算法活动流程。在输入阶段，明确自身的需求表达是否被算法准确捕获和理解；在算法选择时，判断算法功能类型是否匹配实际任务场景和目标；在运行决策阶段，判定算法输出结果是否满足自身需要，是否有助于问题解决。

4.1.3  算法监管者――秉持公平理念

社会公平是算法监管者追求的重要目标。在实际算法活动中，由于数据本身存在的偏差以及算法程序中植入的偏见和偏颇价值取向，加之不同主体对算法应用的趋利导向，算法不可避免地会在运行中做出不公平决策。这种不公平决策不仅会造成多元算法利益相关主体的歧视与权益侵犯，也会导致行业内的不正当竞争。因此，算法监管者要确保算法活动的公平性，将公平理念融入监管的全过程，不仅通过监管在算法设计、部署、应用和决策中确保过程的公平，也要关注算法决策和输出结果的公平；不仅要关注行业内不同利益方参与竞争的公平，还要保障个体平等参与算法活动各环节的公平。

4.2  个人与算法交互的态度层面

4.2.1  算法生产者――负责任的算法开发

负责任的算法开发应为算法生产者的职业守则。算法虽经由编译语言转译，但本质上是其开发者思维的映射，嵌入了算法生产者的个人偏见和价值观[7,47]，并非完全价值中立。同时，算法输入数据可能蕴含的偏见和错误，以及算法决策过程的黑箱，均会影响算法决策与输出的合理性。这些在算法设计与利用中的潜在问题，不仅侵犯了人的基本权利，还会加剧社会不公平问题，甚至引发严重社会危机。因此，算法生产者在算法设计、开发、部署和应用中应抱以负责任的态度，使算法活动建立在社会共同利益基础上。算法生产者要树立“向善意识”，在算法研发中嵌入积极向上的价值观和负责任的科技伦理观，肩负起算法开发中的社会责任。同时，算法生产者应保持较高的价值敏感性对算法进行审视，通过伦理化设计保障算法使用者的知情权和决策权，实现可用的、有责任的算法研发目标。

4.2.2  算法使用者――培养权利意识与高尚情操

在与算法的交互中，算法使用者要增强权利意识，提高自身道德情操。在使用算法产品和服务时，算法使用者要主动获悉、了解产品服务的知情条例、用户协议和相关规定，明确个人在算法产品和服务中享有的权利和义务。同时，算法使用者也要强化权利意识，当遇到算法歧视、算法霸权、算法偏见、算法剥削、算法垄断、算法遮蔽、算法劫持等算法侵害问题时，应学会通过有效和合理途径向算法监管方举报并获得救济，运用正当手段维护个体权利。此外，在算法利用中，算法使用者要提高道德水准，培育高尚情操，自觉抵制向算法投喂猎奇、恶俗、低级趣味的信息，让算法服务于自身发展与进步，承担起肩负的社会责任，体现算法素养的社会价值。

4.2.3  算法监管者――“以人为本”的算法监管

算法监管者在涉及算法的主观评价中应坚持人的主体地位，将作为社会个体人的幸福和权利摆在首位。以AI为代表的各类算法在技术层面将个人数据化、标签化，让个体成为计算和预测的对象，个人不再成为世界的主体，而被算法控制和驾驭，这将消解人的主体地位。同时，算法秉持效率优先的群组正义观，将个体类别化和工具化，而效率优先的原则和评判标准则无视了个人的基本权利，忽视了个体间的差异，在价值层面凸显效率优先而非“人为目的”。此外，算法标签化效应会依据个人在现实社会中的身份与行为将其标记为具有某种特征和倾向的群体，进而限制其获得的机会与权力，这种标签化带来的劣势累积会污名化少数群体，一定程度上否定了个体的向善性。因此，算法监管者应坚持以人为本的态度，在算法监管中坚持以人为中心的立场，推动算法活动向维护人的主体地位和权利、实现人的幸福等目标上迈进。

4.3  个人与算法交互的知识层面

4.3.1  算法生产者――提升人类能力的算法开发

基于HCAI思想，算法生产者除具备各类算法设计、开发、测试、运行和维护等基本知识，还应掌握心理学、认知神经科学和计算机科学领域中有关人类智能增强、人机混合增强智能领域的技术和方法，提高面向智能增强和人机混合智能增强的算法开发与设计能力，让算法服务于人类智能强化和能力提升。同时，算法的可解释性和透明度是影响算法使用者理解算法输出、运行过程和决策原理的重要因素，这对算法生产者的人机交互知识提出了要求。在算法数据收集、模型训练、参数调整和测试中融入“人在环路”的设计理念，提高算法使用者的直接参与度，并运用可视化、基于自然语言的推理技术呈现算法的运作流程，有利于提高算法的透明度，让算法使用者基于充足信息和数据做出有意识的、知情的理性决策，使算法模型充分反映人的智慧，最终实现人类智能增强与能力提升。

4.3.2  算法使用者――娴熟操作与需求建构

算法使用者涵盖不同社会背景的多元化群体，而面向算法使用者的算法素养致力于培养适用于广泛人群的普遍性素养。算法使用者的交互对象是依托算法封装得到的各类工具、产品和服务，通过操作图形化界面、输入指令等方式处理特定场景问题。因此，算法使用者应当熟悉算法工具和服务的使用方法和操作技能。算法使用者应借助培训、操作文档等熟练掌握算法工具的基本特征、类型、操作步骤、运行流程等，提高对算法工具的驾驭能力。同时，算法以满足人的需求、解决人的实际问题为初衷，这就要求算法使用者具备需求建构和表达能力，使算法明确使用对象的任务需求。算法使用者要增强发掘自身实际需求的能力，利用检索词和用户个性化标签等方式强化需求表达和需求转换的准确性、完整性，让算法能够精准捕获、理解算法使用者的任务需求，从而更好地服务于使用者的问题解决，提高算法决策的有用性和现实价值。

4.3.3  算法监管者――风险评估与责任认定

对算法活动的监管涉及事前风险预防与事后责任划定，因此算法监管者应当掌握特定的技术、法律、实操等业务知识，实施算法活动的全过程监管。在算法风险评估、备案管理、伦理审查阶段，算法监管者应具备专业化的理论知识与实操经验，包括科技伦理审查、算法风险评估、样本数据检测、安全标准设定、使用范围划分、个体权利配置等，确保算法输入数据的准确性、正当性和合法性，合理划定不同算法的应用范围与限制条件，理清算法知识产权、商业秘密与用户知情权之间的边界，平衡各算法相关利益方的权利与义务。当算法风险发生后，算法监管者应当具备专业的业务知识与经验，明确算法责任的主体和问责点，依法、合理明晰责任类型与边界，并依据特定法律规范启动责任认定和追责程序，严格落实被追责主体的法律责任，做出公正合理的判断。

4.4  算法素养要素关系及结构

算法素养的内涵要素彼此关联、相互依存，共同构成相互联系的有机整体。其中，算法知识是个体算法素养的作用对象，是个体认识和改造世界的重要工具与手段；思维层面集中体现了个人与算法交互的主观能动性；态度则蕴含了个体对算法的评价和行为倾向，涵盖了个体动机和价值观因素。算法素养各要素关系及结构如图3所示。

思维层面在算法素养内涵中居于核心地位，同时联结了算法素养的主体、作用对象和外部环境，将实践主体、客观对象和外部环境三者统一于个体与算法交互中。一方面，不同算法相关主体秉持特定思维和理念运用算法知识、工具进行改造世界的活动，而这种思维及理念也会影响实践主体对算法及其输出的主观价值判断和行为意向。另一方面，知识和态度也将反作用于思维活动。算法知识、技能的习得以及经验的逐步累积，将促成个体对算法认知的质变，塑造个体与算法交互的特定思维方式；而态度的社会性决定了其会受到外部环境的影响发生改变，所包含的认知成分的变化一定程度上将制约个体的思维活动，进而约束个体运用算法认识和改造世界的活动。

算法素养作为数智时代的基本素养，还有许多内容亟待学界进一步探索。本文从素养评价、素养提升与算法治理三个层面提出若干参考方向。

5.1  面向多元主体的算法素养评价

算法素养的衡量需借助行之有效的量表。在测量维度上，现有关于算法素养的测度研究侧重个体与算法交互的知识层面，忽略了个体与算法交互的思维层面和态度层面，诸如思维能力、价值观念、责任与公民意识等要素较少纳入算法素养的测量。在素养评价中，现有研究的评估手段集中于问卷调查和访谈自述，凸显评估方法的局限性。

5.1.1  面向多元主体的算法素养量表设计

未来可以根据算法生产者、使用者和监管者等不同群体的背景差异，开发适用于不同算法活动主体的算法素养测量量表，以期实现算法素养测度的针对性。因不同量表的目标群体和评价侧重点迥异，如何确定量表中不同维度的权重也是未来研究的重要议题。不同维度和指标权重的大小将显著影响测量结果的可靠性。未来可尝试利用德尔菲法、熵权法和神经网络等主客观评价方法赋予量表权重，并结合多种方法优化量表权重，增强量表的科学性。

5.1.2  面向多元主体的算法素养评价

未来研究可对算法生产者、算法使用者和算法监管者等不同算法实践主体的算法素养进行评价。同时，同一算法实践主体也涵盖了不同职业、年龄、学历、地域和文化背景的多元群体，例如算法使用者包含了大量不同社会背景的平台用户，这些群体在算法素养的思维、态度与知识上存在较大差异。未来研究可对多元化群体的算法素养进行测量分析，横向比较不同群体算法素养的差异，探讨背后原因及机理。同时，算法素养的水平高低可能影响个体与算法的交互表现。研究者可以探究个体算法素养水平与目标交互对象的接受程度、信任度、风险感知能力等之间的关系。此外，在面临算法歧视、算法霸权、算法短视等算法侵害问题时，算法素养如何影响个体的风险应对效果也将成为有待探讨的重要方向。

5.2  多元主体的算法素养培育

智能社会下个体对自我和外部环境的认知与评价愈发依赖算法辅助决策。无论是否愿意接受算法统治，个体都应具备算法素养，将算法素养的内容加入数字素养的培育范围，顺应算法带来的机遇与挑战。同时，算法技术也是一把“双刃剑”，对人类社会固有秩序、关系和结构造成巨大冲击，在伦理与法律层面衍生出系统性风险。算法治理不仅依赖以公共权力为依托的自上而下的治理模式，更需要充分调动算法活动中的多元化利益主体广泛参与算法社会的治理，在协同共治中平衡各方利益。因此，提升公众算法素养是构建算法社会协同治理体系的必然要求。

5.2.1  面向算法生产者的算法素养培育

如何从跨学科视角强化算法生产者“以人为中心”的算法研发能力有待进一步探索。人类智能增强和人机混合智能增强技术作为一个跨学科领域，融合了多学科的理论、方法和技术，例如数学、人机交互、神经科学、心理学、工程设计、行为科学、计算机科学等，这对通常仅具有单向知识背景的算法生产者是一个巨大挑战。因此，未来研究需要探索如何建构跨学科背景下的算法生产者知识体系，尝试从专业教育、培训模式、跨学科合作机制等方面制定可行的解决方案。同时，相关领域还需探究将伦理化算法设计融入算法生产者职业培训的具体方案和实施路径，以提升算法生产者的职业素养和社会责任感，为治理算法社会乱象、营造清朗的算法环境贡献专业力量。

5.2.2  面向算法使用者的算法素养培育

拟定面向一般算法使用者的算法素养提升计划，从算法供给、技能培训、风险预防和公民意识等方面推动算法素养的全民普及，离不开理论界与业界的长期思考。算法使用者也应立足自身实际需要，学习基础性、通用性的算法知识、操作技能和工具使用，为增强自身在算法社会中的可持续发展能力奠定必要知识基础。在思维能力提升上，算法使用者也要不断学习辩证唯物主义和历史唯物主义等马哲基本原理，辩证地分析、看待算法决策的依据与结果。此外，算法使用者也要培养公民意识和权利意识，培养自身高尚情操，在算法使用中遵循社会规范，并在遭受侵权时诉诸法律手段维权。

5.2.3  面向算法监管者的算法素养培育

未来应重点关注算法监管者理论水平与实操能力的培养，通过理论联系实际全方位提高算法监管者的业务能力。在理论层面，算法监管者要不断学习有关科技伦理审查、算法风险评估、算法备案管理、标准设定、个体权利配置、责任划定、责任落实等事前监管与事后监管方面的伦理、技术、法律知识，持续筑牢算法监管的理论功底。同时，还应针对不同算法类型、应用场景和使用范围开展专题培训班，借鉴国内外典型算法监管案例的经验教训，并通过模拟比赛和实训等方式，不断丰富算法监管者的实操经验与技能，以应对复杂多变的场景类型和风险挑战。

5.3  基于多元主体算法素养的算法治理

区别于个体赋权治理范式和外部问责治理范式，我国发布的《互联网信息服务算法推荐管理规定》通过设定算法设计者、控制者的权力范围，明确算法相对人权利和义务等方式构建了多元主体协同参与、相互制约的复合型算法治理路径，以期形成上下结合、多方参与、协同共建的算法治理生态。提升算法生产者、算法使用者和算法监管者的算法素养有助于构建多元主体协同共治的治理路径，依托多元利益主体的算法素养推动算法风险的源头治理，编织公众参与的监管法网，提高算法监管的靶向性与精准性。

5.3.1  基于算法生产者素养提升的算法治理

如何依托算法生产者算法素养推动算法源头治理有待进一步探索。算法活动引发的风险与危害，根源于算法模型的输入和决策弊端。稳健、可靠的算法输入、模型和输出能在源头上铲除算法风险的滋生土壤，而这离不开算法生产者对算法的博识多通。因此，未来需探索聚焦源头的算法治理路径，增强算法设计者、控制者的风险防范意识，寻求立足风险预防的算法研发方案。依托“以人为中心”的设计理念与知识，通过“人在回路”的人机交互式算法设计、可解释性算法开发、算法输出可视化等方式，增强算法模型的透明度和可理解性，减少因算法模型“黑箱效应”而导致的运行和决策的不确定性和潜在风险，提高人对算法的控制力度。同时，在算法研发中融入故障与错误追溯机制，实现算法风险行为和运行故障的可追溯性。此外，尝试制定算法相关的伦理守则与行业规范，加强算法生产者的道德感与社会责任感，在源头上减少算法侵害现象，挤压算法霸权的生存空间。

5.3.2  基于算法使用者素养提升的算法治理

算法使用者在算法治理中的参与方式和作用也有待深入思考。算法功能与服务的运转依赖于算法使用者的需求投喂，算法输入的质量和性质也决定了算法决策与输出的好坏。因此，拟定算法使用的公约和倡议有助于在道德层面约束算法使用者的个体行为，规范需求表达的言语和符号使用，在源头上预防因使用者向算法投喂低级、恶俗和消极趣味信息而产生的不文明、不健康的网络环境。同时，依托算法使用者的公民意识和维权意识，开辟针对算法侵害的举报途径和方式，鼓励用户在遭遇算法偏见、算法歧视、算法霸权等算法次生风险时及时向特定机构举报反馈，并制定相应救济措施维护算法使用者的正当权益，给予算法使用者积极反馈，建立大众参与式监管的算法治理良性循环。

5.3.3  基于算法监管者素养提升的算法治理

未来需关注如何提高监管者的审查、风险评估和权责划分能力，进而有效协调企业、平台、个体等不同算法利益相关主体间的复杂关系，营造稳定有序的算法生态环境。持续拓展理论知识、丰富实操技能，有助于增强算法审查者的风险敏感性，在源头上发现数据和算法中潜在的伦理风险、安全隐患和技术漏洞，进而规避和预防潜在风险，实现算法事前监管。同时，算法监管者还应依据自身掌握的知识和经验，在实际问题中灵活划分不同主体的权利和责任，例如理清算法公开透明与商业秘密、知识产权之间的边界，针对不同算法类型和场景明晰风险类型和责任主体等，确保各方合法权益均能得到公平保障，平衡算法多元主体的利益关系，实现人与算法的和谐共生。

界定和解析算法素养的内涵和要素，是促进算法素养研究、提升全民算法素养和完善算法治理体系的重要基础。本文立足算法社会现状与当前研究局限，结合HCAI思想和核心素养理论框架，立足算法生产者、算法使用者和算法监管者的多元主体视角，从个人与算法交互的思维层面、知识层面和态度层面系统剖析了算法素养的内涵及要素关系。最后，从算法素养的测量与评价、算法素养的培育与提升和依托算法素养的算法治理三个方向展望了未来算法素养研究的发展方向。本文奠定了算法素养研究的概念基础和理论框架，指明了算法素养提升和算法治理的新路径，为加快培育具备算法素养的时代新人、顺应数智时代的发展目标提供参考。

END

版式设计

陆澜

制版编辑

卢慧质