基于大语言模型（LLM）的系统安全：关键授权实践.pdf

基于大语言模型（LLM）的系统安全：关键授权实践。自 2022 年 ChatGPT 等生成式 AI 应用推出以来，越来越多的组织开始利用大 语言模型（LLM）解决各种业务问题。尽管发展迅速，但安全设计这类系统的的正式 指导和最佳实践依然匮乏，特别是在涉及 LLM 外部数据源或 LLM 参与决策过程的 场景中。

LLM 的非确定性，及缺乏明确的控制和数据平面的特点，为系统架构师和工程 师带来了独特的挑战。这些挑战影响了集成 LLM 的系统的安全性和授权机制。 本报告旨在为工程师、架构师以及隐私和安全专业人士提供指导，帮助他们深 入理解在设计使用 LLM 的系统时所面临的特定风险与挑战。本报告探讨了授权和安 全相关的潜在风险，并说明了需要特别注意的事项。

本报告概述了将 LLM 集成到更广泛系统中的设计模式和最佳实践，涵盖了扩展 LLM 功能的高级模式，如添加上下文或实现与其他组件和服务的交互。每种模式都 有相应的推荐实践、注意事项和常见误区，帮助系统架构师更有效地权衡设计决策。

关键原则强调了避免让 LLM 参与授权决策和策略执行的重要性，同时持续验证 身份和权限，并通过系统设计来减少潜在问题的影响。默认拒绝访问并简化系统复 杂性可以减少与授权相关的错误。此外，验证所有输入和输出对于防范恶意内容至 关重要。

本报告还介绍了 LLM 支持系统所需的关键组件。向量数据库因其在管理高维数 据方面的优势，成为 AI 系统中检索和处理数据的重要组成部分。编排器负责协调 LLM 的输入和输出，管理与其他服务的交互，并降低如提示注入的安全风险。LLM 缓 存加快了响应速度，但需要进行控制检查以防止未经授权的访问。尽管主要的安全 保障应来自确定性授权，验证器依然为抵御攻击增加了防御层。