专家解读丨从算法负面清单到科技伦理审查制度
2026/5/21 16:23:14
2026年初,中央网信委印发《生活服务类平台算法负面清单(试行)》,以负面清单形式明确了订单分配歧视、抽成不透明、配送时间过度压缩等七类禁止行为。同年四月,工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》(下称《办法》),建立了覆盖人工智能全生命周期的科技伦理审查制度。
两份文件相继出台,意味着算法治理正在从“事后纠偏”走向“前置规范、过程控制与持续跟踪”。负面清单划定了不可逾越的边界,科技伦理审查制度则从源头上对算法伦理风险进行识别与管控。二者相互配合,构成目前生活服务类平台算法治理的制度基础。
一、负面清单与科技伦理审查制度的互补关系
负面清单实施以来,部分平台已作出具体调整:美团在合理预估配送时间基础上向后预留不少于15分钟,滴滴将抽成上限由29%下调至27%,多平台引入骑手/司机强制下线休息机制。但同时,个别平台仍存在“选择性整改”的现象。
负面清单解决了“禁止什么”的问题,即对已经识别出的算法风险进行外部约束和事后纠偏。但从治理效率看,仅靠负面清单是不够的——大多数算法风险在负面清单制定时尚未完全暴露,且负面清单的更新速度难以匹配算法的迭代节奏。因此,需要一种前置的、持续运行的制度,在算法设计、训练、部署和运行的各个阶段主动识别并管控伦理风险。《办法》所建立的科技伦理审查制度正是承担这一功能的制度工具。负面清单划定底线,科技伦理审查守住底线,二者缺一不可。
二、《办法》规定的工作程序
《办法》建立了分级分类的审查工作程序,其核心逻辑是:风险越高,审查越严格;审查覆盖全生命周期。具体程序包括:
一般程序:适用于中等及以上风险活动。环节包括申请受理、初步审查、会议审查(委员独立投票)、书面决定及理由说明。
简易程序:适用于低风险或已有成熟模板的活动,由1至2名委员快速审查。
专家复核程序:适用于高风险活动(如涉及大规模敏感个人信息、可能造成人身伤害等)。一般程序通过后,另行送外部专家库复核。
应急程序:用于突发公共事件等紧急情况,可简化流程,但事后须补充完整记录。
此外,《办法》明确要求进行跟踪审查,包括年度报告、严重不良事件报告、方案偏离报告等。这意味着审查不是“一次性盖章”,而是贯穿AI系统从设计到退出的全周期持续管理。
三、科技伦理审查的重点内容
结合负面清单列明的问题,科技伦理审查在生活服务类平台算法中应重点关注以下方面:
|
审查重点 |
具体内容 |
|
公平性 |
订单分配、派单逻辑是否存在基于性别、地域等的不合理差别对待 |
|
透明度与可解释性 |
抽成规则、价格形成机制是否向用户和劳动者充分说明 |
|
劳动者权益 |
配送时间、工作时长、罚款规则是否对劳动者身心健康构成不合理风险 |
|
数据合规 |
所用个人信息是否超出必要范围,是否符合最小必要原则 |
|
安全与容错 |
异常输入下是否会输出危险结果,是否有回退机制和人工干预接口 |
这些审查重点直接对应负面清单所列明的禁止行为,确保审查有明确的着力方向。
四、科技伦理审查制度需要解决的四个现实问题
制度的有效性,取决于它能否解决实践中面临的真实问题。《办法》的设计对以下四个问题作出了针对性回应。
问题一:审查容易流于形式
部分单位的伦理审查存在“重程序、轻实质”的现象,审查意见缺少具体风险分析,对项目方的约束力有限。
制度回应:《办法》要求会议审查、独立投票、书面说明理由,增加了审查的实质约束力;跟踪审查和年度报告制度使审查成为持续过程,而非一次性行为;审查委员会有权暂停或终止项目,赋予伦理审查“硬约束”效力。
问题二:审查需要多维知识,但委员背景往往单一
有效的审查同时需要算法技术、法律法规、伦理哲学、行业业务等多方面知识。实践中,部分审查委员来自单一学科背景,难以覆盖全部维度。例如,技术专家能理解模型结构但容易忽视社会影响,伦理学者能识别价值冲突但可能不了解算法的技术限制。
制度回应:《办法》要求审查委员会由多学科人员组成,包括人工智能、法律、伦理学等专家,以及非本机构的社会成员;高风险项目需经外部专家库复核,引入更广泛的专业知识。
问题三:审查标准过于通用,缺乏行业操作性
通用伦理框架缺乏针对外卖、网约车、医疗等具体行业的可操作细则。例如,“合理的配送时间下限”因行业场景不同差异很大,缺少可依据的具体标准。
制度回应:《办法》授权国务院相关部门及省级主管部门,结合行业特点制定具体审查指南和负面行为清单。2026年初的《生活服务类平台算法负面清单》可视为此类细化工作的第一步。
问题四:审查多集中在立项阶段,动态监测不足
算法上线后持续学习并变化,风险可能逐渐显现。一些机构的审查集中在项目启动前,事中和事后跟踪缺失。
制度回应:《办法》明确要求跟踪审查(年度报告、严重不良事件报告、方案偏离报告);高风险项目还需提交中期报告。审查覆盖“全生命周期”,而非仅限于准入环节。
五、伦理审查中心建设的现实需求
上述制度要真正落地,需要有专业化的执行主体和配套服务体系。2026年5月,工信部印发《关于实施人工智能科技伦理审查与服务先导计划的通知》,在北京、上海、广东、山东、天津、四川、江苏、湖北、湖南、浙江等10个省市启动先导计划。《通知》明确提出,指导各类创新主体建设人工智能科技伦理委员会,探索建设人工智能科技伦理审查与服务中心,开展审查实践,将实践经验转化为技术标准,健全审查情况通报机制。
建立伦理审查中心的必要性体现在多个层面。其一,解决审查能力不均衡的问题。多数企业和中小机构缺乏设立专职伦理委员会的条件,需要依托第三方审查中心提供专业服务。其二,推动跨机构审查标准的统一。各机构自行建立的伦理委员会标准不一,审查中心可以承担标准验证和经验推广的功能。其三,支撑审查实践的成果沉淀。《通知》明确提出,通过先导计划建设一批专业机构和人才队伍,验证并制定5项以上相关标准,基本建成人工智能科技伦理风险案例库,研发一批技术工具和方法。这些任务的完成,需要伦理审查中心作为实体化的执行载体。
作为依托中国电子技术标准化研究院的第三方认证评价服务机构,赛西认证已参与人工智能伦理审查试点工作,在AI认证和审查服务方面积累了前期经验。赛西认证愿意与相关政府部门、行业机构、技术企业和社会组织一道,共同参与人工智能科技伦理审查与服务中心的建设,为构建可信、负责任的人工智能生态环境提供专业化的服务和支撑。
六、结语
《生活服务类平台算法负面清单(试行)》划定了算法不可逾越的边界,《人工智能科技伦理审查与服务办法(试行)》建立的科技伦理审查制度提供了守住这条边界的系统化手段。二者配合使用,使算法治理从“事后纠偏”走向“事前预防、事中控制与事后跟踪”。
科技伦理审查制度的建立,核心目标是:在算法设计阶段识别并避免歧视、不透明等问题;在算法运行阶段持续监测、及时发现偏差;当风险发生时,有明确的暂停、修正和追责路径。制度的完善只是起点,真正的工作在于审查委员会能否独立履职,跟踪审查能否落到实处,行业细则能否尽快出台。而伦理审查中心作为专业化的服务载体,将在其中承担关键角色。
