《人工智能安全治理框架 2.0》PDF下载

⼈⼯智能是⼈类发展新领域，深刻改变⼈类⽣产⽣活⽅式，给世界带来前所未有发展机遇，也带来前所未遇⻛险挑战。

落实《全球⼈⼯智能治理倡议》，遵循“以⼈为本、智能向善”的发展⽅向，为推动各国政府、⾏业企业、机构组织、社会公众等各⽅以及国际社会，就⼈⼯智能安全治理达成共识、协调⼀致，有效防范应对⼈⼯智能安全⻛险，我们于 2024 年 9 ⽉制定发布了《⼈⼯智能安全治理框架》1.0 版。

1.0 版发布以来，⼈⼯智能技术和应⽤持续快速发展，个别领域取得超预期突破。例如，⾼性能推理模型涌现，极⼤提⾼了对数学、物理、代码等复杂问题的求解能⼒；⾼效能轻量级模型的开源，显著降低了部署应⽤的⻔槛，⼈⼯智能应⽤迅速向各⾏业领域渗透普及；⼤模型应⽤形态从机器问答向嵌⼊业务流程的智能体演进，加速与业务系统融合；具⾝智能、脑机接⼝技术⽇新⽉异，正在打通连接数字智能和物理世界的“最后⼀公⾥”，⼈机融合的智能时代已不再遥不可及。与此同时，⼈⼯智能安全⻛险的表现形式、影响程度、认识感知亦同步快速演进变化。

为应对⼈⼯智能快速发展的新⻛险新挑战，安全有效地释放应⽤需求，促进⼈⼯智能技术和产业发展，在国家互联⽹信息办公室的指导下，全国⽹络安全标准化技术委员会组织国家计算机⽹络应急技术处理协调中⼼等专业机构、科研院所、⾏业企业，持续跟踪⻛险变化，梳理调整⻛险分类，研究探索⻛险分级⽅法，动态调整更新防范治理措施，制定《⼈⼯智能安全治理框架》2.0 版，推动增进⼈⼯智能安全治理共识，促进协同共治、普惠共享。