ResGov | 国家10部门发布AI伦理新规：从事相关AI活动企业须通过科技伦理审查

随着生成式AI、自动驾驶、深度合成等技术的狂飙突进，人工智能的伦理与合规不再是停留在学术界的讨论，而是正式成为了企业不可逾越的监管红线。

近日，由工业和信息化部会同科技部等10部门参与起草和解释的《人工智能科技伦理审查与服务办法（试行）》正式印发。这份新规对国内从事AI研发与应用的企业释放了“先发展后治理”的野蛮生长时代结束的信号，科技伦理审查正式成为高风险AI企业开展业务的“强制前置程序”。

然而，面对这份重磅文件，业界出现了一些“企业必须全部设立AI伦理委员会”的恐慌性误读。ResGov拆解《办法》核心逻辑，为AI企业提供一份合规操作指南。

一、 监管的底线是“必须审查”，而非“必须建委员会”

在《办法》发布后，不少中小微AI初创企业感到焦虑——组建一个包含技术、伦理、法律等多领域专家的5人以上委员会，成本极高，初创团队根本无力承担。

事实上，这是一个因“断章取义”而产生的误读。监管部门在设计制度时，充分考虑了企业规模与风险等级的差异，给出了“双轨制”的合规路径。

大中型/高风险AI企业——必须自建委员会。

根据新规，如果你是从事“可能带来科技伦理风险挑战”的敏感领域研发企业（如头部大模型厂商、自动驾驶企业、AI医疗研发企业），你必须（应）设立独立的内部人工智能科技伦理委员会，作为审查的第一责任主体。

中小微/初创团队——可委托第三方“服务中心”。

《办法》明确提出，对于未设立委员会或委员会无法胜任的中小微企业，必须向政府或主管部门依托设立的“第三方服务中心”申请代为审查。

结论很清晰——国家强制要求的是“必须通过伦理审查这道关卡”，而不是僵化地要求所有企业都去搭建复杂的组织架构。政府设立“审查与服务中心”，正是为了帮中小企业减负，提供低成本甚至免费的合规辅导。

二、 哪些AI活动会被重点盯上？

并不是所有的AI应用都需要兴师动众地进行AI伦理审查。如果你的企业只是利用AI做简单的内部财务报表分析，通常不在此列。但如果你的业务触碰了以下“六大红线”，审查将极其严格。

1.公平与无歧视。算法是否存在对特定人群，如外卖骑手、特定性别或地域的偏见与歧视。

2.透明可解释。系统是否向用户明确披露了“这是由AI生成的”，算法黑箱能否被合理解释。

3.可控可信。在极端情况下，系统是否具备抗干扰能力，人类是否能随时接管系统控制权。

4.隐私保护。训练数据的收集与加工，是否侵犯了个人隐私与商业机密。

6.责任可追溯。系统是否建立了完善的日志管理，一旦出事能否精准溯源追责。

6.人类福祉。技术的应用是否真正增进社会价值，还是徒增风险。

三、 绝对要重视“专家复核”清单

《办法》特别附带了一份《需要开展科技伦理专家复核的人工智能科技活动清单》。如果企业的研发项目落在这三类清单中，不仅需要内部或服务中心的初步审查，还必须“提级上报”，由省级或国务院主管部门组织专家进行复核。

1.人机融合系统。对人类心理情绪、主观行为及生命健康有较强影响的系统，如脑机接口、精神类AI辅助设备。

2.具有舆论动员能力的系统。包括大语言模型、深度合成、算法推荐等能够引导社会意识的应用。

3.高危场景自动化决策系统。如L4级别以上自动驾驶、关键基础设施智能调度等关乎人身与公共安全的系统。

4.注意，如果企业项目此前已通过网信办的“生成式人工智能备案”等严格行政审批，可酌情豁免重复复核。

四、 AI企业的合规行动建议

新规的落地，意味着AI伦理已经从“道德呼吁”变成了“法律义务”。面对合规大考，AI企业应立即采取以下行动：

第一步——对号入座，自查风险。 企业法务和产品负责人应立即对照《高风险清单》，盘点正在研发或即将上线的AI产品。若在清单内，请立即暂停“裸奔”上线，启动审查准备工作。

第二步——将伦理嵌入代码（Ethics by Design）。 审查不能等到产品成型后才做。企业必须在产品的立项阶段（PRD文档）和数据清洗阶段，就把上述的“六大红线”作为产品需求写进代码设计里。

第三步——明确合作方的合规边界。 在算力租赁、数据采买、模型微调等合作环节，新规允许“审查结果互认”。企业在签订商业合同时，务必加入“科技伦理合规与审查责任”的免责或分担条款。

第四步——拥抱“服务中心”。 中小微企业不要把伦理审查视为“绊脚石”。主动对接各地主管部门设立的“人工智能科技伦理审查与服务中心”，获取官方的合规辅导和标准模板，这将成为企业产品未来走向市场甚至出海最强有力的安全背书。

《人工智能科技伦理审查与服务办法（试行）》的精髓，在于标题中的“审查”与“服务”并重。它不是为了扼杀创新，而是为高速行驶的中国AI列车安装上可靠的“刹车系统”。只有跨过科技伦理的合规门槛，中国AI企业才能在激烈的全球竞争中走得更稳、走得更远。（文/ResGov人工智能治理研究中心)

ResGov人工智能治理研究中心致力于以”责任为导向，伦理为底线，安全为基石“构建中国AI治理新范式。ResGov以‘R-E-S’为核心准则，提供负责任（Responsible）的价值引导、合伦理（Ethical）的合规框架以及强安全（Secure）的风险管控，三位一体的治理模型（Governance），帮助企业与机构在飞速发展的AI时代，拥抱技术创新，守住合规底线，共同践行具有中国特色的AI善治之道。