ResGov | 国家10部门在10个城市开展 AI 科技伦理审查

一、审查与服务重点领域，包括必选项，即AI基础底座领域，数据、算法、模型等，自选项制造、教育、医疗、金融等垂直领域。企业、高校、科研机构等主体参与，每个领域选取约5家，每市总数不少于20家。

二、重点任务一，要建立符合地方实际的人工智能伦理治理工作机制，细化出台省级审查配套制度与细则，并健全市级多部门协同共治体系以明确协作流程。

重点任务二，要强化审查与服务实体机构建设，指导各类创新主体规范设立独立运行的人工智能科技伦理委员会，探索依托高校及第三方专业机构建设科技伦理审查与服务中心以提供专项支撑。

重点任务三，要全面验证科技伦理审查程序与技术标准，开展各类科技活动的伦理审查实践及高风险事项的专家复核，将成熟的风险评估与审查实践经验转化为标准规范和认证体系。

重点任务四，要加快构建部省市三级联动的敏捷治理网络，通过健全审查情况常态化通报、突发风险线索直报共享，以及基于全国人工智能科技伦理风险监测服务网络的预警研判与定向推送机制，全面织密风险防范网，形成上下贯通、高效协同的人工智能治理合力。

三、解释“1”个必选领域，AI基础底座领域（数据、算法、模型等）。人工智能最上游，政策要求所有试点城市必须审核，基础底座的伦理缺陷会沿着产业链向下游所有应用场景传导。

重点审查内容包括数据伦理，审查训练数据的来源是否合法合规，是否侵犯个人隐私、商业秘密或知识产权；数据集中是否存在明显的群体偏见以及“有毒”信息。

审算法伦理，重点关注算法的透明度与可解释性。特别是针对深度学习等“黑盒”算法，审查其决策逻辑是否能被追踪和解释，防范算法被恶意操控或产生不可控的结果。

审模型伦理，主要针对大模型等基础模型，审查其输出的内容是否符合人类共同价值观，是否存在深度伪造风险，以及是否具备防止生成暴恐、色情、虚假信息的“护栏”机制。

四、解释“3”个自选领域，垂直应用领域（制造、教育、医疗、金融等）。人工智能的应用端，由于不同行业的痛点和风险等级完全不同，政策允许各城市结合本地产业优势，至少选择3个领域进行针对性审查。

比如医疗领域涉及生命与健康伦理， 关乎人的生命权和健康权，审查重点涉及医疗AI的准确性与安全性；患者敏感医疗数据的严格保密；当AI诊断与医生判断发生冲突时的责任归属机制；必须确保人类医生拥有最终决定权。

比如金融领域，涉及公平与安全伦理，关乎财产安全和社会公平。要审查AI在信贷审批、风险评估、智能投顾等环节中，是否会因为历史数据导致对特定群体的算法歧视与金融排斥；同时防范自动化高频交易可能引发的系统性金融风险。

比如教育领域，涉及青少年保护与认知伦理，关乎心智发展与教育公平。要审查AI教育工具是否会导致学生产生技术依赖；是否会根据学生的学习数据构建“信息茧房”，限制其认知视野；以及重点防范未成年人面部、行为等生物识别数据的滥用。

比如制造领域，涉及理安全与人机协作伦理，关乎人身伤害和劳动者权益要 在工业机器人、自动驾驶等物理交互场景中，系统在极端故障下的物理安全性；以及人机协同作业时，如何保障人类员工的尊严与心理健康。

ResGov认为“1+3模式”确保输入的数据和底层的算法模型本身是干净、中立、可控的；通过自选项“治标”，确保AI在不同特定场景下应用时，不伤人、不歧视、不越界。这种分类分级的审查机制，是拒绝“一刀切式”监管、追求精准治理。（文/ResGov人工智能治理研究中心）

ResGov人工智能治理研究中心致力于以”责任为导向，伦理为底线，安全为基石“构建中国AI治理新范式。ResGov以‘R-E-S’为核心准则，提供负责任（Responsible）的价值引导、合伦理（Ethical）的合规框架以及强安全（Secure）的风险管控，三位一体的治理模型（Governance），帮助企业与机构在飞速发展的AI时代，拥抱技术创新，守住合规底线，共同践行具有中国特色的AI善治之道。