2024年12月24日上午,由中国信息通信研究院知识产权创新与发展中心(简称“中国信通院”)主办的“2025中国信通院ICT深度观察报告会“科技伦理与合规发展”分论坛在北京召开。中国信通院院长余晓晖、工业和信息化部科技司副司长杜广达出席会议并致辞,论坛由中国信通院知识产权与创新发展中心主任、科技伦理研究中心主任李文宇主持。本次论坛以“伦理先行 合规致远”为主题,汇聚“产学用研”顶尖智慧,对颠覆性技术带来的伦理治理挑战及治理对策展开深入探讨。
科技伦理与合规发展分论坛在京召开
杜广达表示,工业和信息化部坚持高质量发展和高水平安全统筹,以大力推进新型工业化为契机,在推动人工智能等前沿技术产业创新发展的同时,不断加强政策引导、完善组织机制、探索构建敏捷治理模式和积极参与全球治理合作。此外,针对前沿颠覆技术带来的伦理治理挑战,对下一步工作提出三点建议。一是开展先行先试,加快前沿技术科技伦理治理创新探索。二是完善治理生态,打造多方参与的科技伦理治理体系。三是坚持开放合作,积极为全球人工智能治理贡献中国智慧。
中国信通院知识产权与创新发展中心主任 李文宇
中国信通院知识产权与创新发展中心副主任 毕春丽
余晓晖表示,中国信通院作为工业和信息化领域的科技伦理专家委员会秘书处单位,高度重视科技创新引发的新型科技伦理风险,不断加强科技伦理研究工作。中国信通院正加速推进科技伦理治理体系建设,起草人工智能伦理管理办法,并推动相关标准的制定。积极开展科技伦理敏捷治理,确保技术发展与管理协同。深化行业平台作用,探索AI治理技术和工具箱建设。下一步,中国信通院将在工业和信息化部的领导下,全力推进科技伦理相关工作。一是持续强化科技伦理支撑工作,涵盖政策、标准研究与国际交流等。二是联合各方推动科技伦理标准制定,构建多元敏捷互动治理机制。三是积极开展国际交流合作,致力于形成共同主张的全球治理体系,共同应对人工智能等科技伦理发展带来的挑战,推动科技伦理治理工作迈向新高度。
中国信通院高级项目经理张蕾蕾正式发布《人工智能科技伦理治理实践研究报告(2024)》
中国信通院工程师郎逸飞发布《工信领域科技伦理敏捷治理典型案例》
成果发布环节,中国信通院高级项目经理张蕾蕾正式发布《人工智能科技伦理治理实践研究报告(2024)》,全面梳理了国内外人工智能科技伦理的政策法律趋势,深入分析了自动驾驶、教育、机器人等典型应用场景中的伦理风险,并展示了产业内的治理实践情况,为行业发展提供了全景式的洞察。其次,中国信通院工程师郎逸飞发布了《工信领域科技伦理敏捷治理典型案例》。阿里巴巴、百度、东方财富、蚂蚁集团、商汤科技等企业在大语言模型安全评测、内容合规治理、风险主动感知等多个领域内科技伦理敏捷治理方面的优秀实践,为行业提供了可借鉴的范例。此外,会议对人工智能产业发展联盟科技伦理工作组年度优秀成员进行表彰并颁发证书。
人工智能产业发展联盟科技伦理工作组年度优秀成员表彰
仪式启动环节,中国信通院高级经济师付娜正式启动了企业科技伦理管理推进计划。该计划以提升企业科技伦理管理能力为核心,致力于建立常态化工作机制,协助企业设立审查委员会并开展伦理审查工作,助力企业切实履行科技伦理管理主体责任,推动企业在科技创新中坚守伦理底线。同时,会议启动并介绍了人工智能系统科技伦理风险指南标准撰写工作,旨在加快形成科技伦理管理和审查相关标准。
中国信通院高级经济师付娜正式启动企业科技伦理管理推进计划
科技伦理主题演讲环节由中国信通院知识产权与创新发展中心、科技伦理研究中心副主任毕春丽主持,各界专家学者就人工智能伦理治理问题进行了深入探讨。中国科学技术大学教授陈小平强调应加快伦理审查进程,将重大公共安全和民生安全隐患纳入清单管理,呼吁教育改革应适应人工智能时代需求。清华大学人工智能国际治理研究院副院长梁正从发展视角出发,通过对比中美人工智能发展与治理模式,提出中国应充分发挥体制优势,积极探索适合国情的治理体系。中国科学院科技战略咨询研究院研究员李真真聚焦人工智能风险与负责任创新,呼吁企业应积极践行负责任创新理念。上海交通大学凯原法学院教授李学尧针对人工智能伦理审查制度的立法思路,提出应构建具有人工智能特色的伦理审查制度,有效指导行业实践。商汤科技人工智能伦理与治理研究主任胡正坤从信任、共识等多层面提出了推进人工智能伦理治理实践的建议。
中国信通院将继续加强科技伦理治理的前瞻性研究,携手各界合作伙伴,共同助力产业发展。