大模型安全实践白皮书.pdf

大模型安全实践白皮书。《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试 行）》等政策相继发布，提出要坚持发展与安全并重原则，强化科技 伦理风险防控，并从技术发展与治理、服务规范、监督检查与法律责 任等层面对大模型安全发展提出了要求。 大模型作为 AI 领域的一个重要分支，日益成为推动社会进步和 创新的关键力量。依托于庞大的参数规模、海量的训练数据、强大的 算力资源，大模型在多个领域的能力已超越人类。而纵观历史，每一 轮新技术革命都会带来社会的变革与不确定性，随着大模型能力的不 断增强，大模型的安全性、可靠性、可控性正面临前所未有的挑战。 伴随大模型的深度应用，产学研用各方也加强了大模型安全威胁 和防御技术体系研究，在原有可信人工智能治理体系框架基础上，提 升大模型的鲁棒性、可解释性、公平性、真实性、价值对齐、隐私保 护等方向的能力成为行业研究热点。安全评测技术和安全防御技术不 断成熟也有效护航了大模型发展。

模型正在成为推动各垂类领域产业升级的关键核心力量。金融、 医疗、教育、政务、制造等众多领域都在积极探索大模型安全应用范 式，以应对大模型安全风险。大模型安全实践案例从系统化的角度为 大模型数据、训练、部署、应用等环节提供安全应用经验，展示了如 何有效地识别和防控大模型风险，促进了业内最佳实践的交流和分享， 助力了大模型安全生态发展。 本报告在分析了大模型发展趋势挑战的基础上，提出了大模型安 全实践总体框架，并从安全性、可靠性、可控性以及评测四个角度对 大模型安全技术进行了深度剖析。最后，在大模型安全未来发展趋势 基础上，提出了大模型安全“五维一体”治理框架，对于大模型安全 生态形成、大模型可持续发展具有非常重要和积极的意义。