大模型行业未来展望与发展建议分析

想了解更多相关内容，可以下载报告《大模型合规白皮书2023》查看，以下内容都是根据该报告总结的，仅供参考。

一、未来展望：大模型合规的前沿

1. 大模型技术创新发展与合规风险并存

随着深度学习和其他人工智能技术的快速发展，大模型的结构和性能都得 到显著优化。尤其在大模型的规模、复杂性和应用范围上，技术进步为其提供 了强大支持。然而，快速的技术进步也带来了新的合规挑战，尤其体现在数据 隐私、模型透明度和伦理道德等方面。 模型结构的优化是为了满足更为复杂的任务需求。例如，Transformer 架 构使得模型可以更好地处理长序列数据，显著提升在自然语言处理和其他序列 任务上的性能，且神经网络的不断深化使得模型可以学习到更为复杂的特征和 规律。但是这种优化也为模型的可解释性和透明度带来挑战，大模型的内部结 构和操作成为了一个“黑盒”，使得外部观察者很难理解其具体的工作原理。 与此同时，技术进步也带来了数据处理和计算的新能力，即模型可以训练 和处理前所未有的大规模数据集，为模型训练提供丰富数据，但这也引发了对 于数据隐私和合规的关注。在欧洲、北美和其他地区，政府和监管机构对数据 隐私和合规提出严格要求，对企业和研究机构在处理用户数据时遵循明确的指 导原则提出要求。

2. 大模型合规框架走向标准化与国际化

(1) 全球合规标准的趋同与差异 随着全球化的加速和技术的普及，大模型的合规问题不再是单一国家或地 区的关注点，而是各国共同面临的挑战。在这一背景下，合规标准在全球范围 内呈现出趋同的趋势，但各国之间因文化、法律和经济发展水平的差异，仍存 在区别。技术普及、国际经贸往来和大型企业的全球化策略都在推动各国合规 标准统一。例如，对数据隐私的关注、对模型透明度的要求以及对技术应用的伦理道德边界设定，使得各国在这些共同议题上逐渐形成共识。然而由于文化 背景、历史传统和经济发展阶段的不同，各国处理大模型合规问题所采取的方 法和策略也略有不同。例如，欧盟的 GDPR 更强调个人隐私权益保护，美国更 强调企业权益与用户权益之间的平衡。

(2) 国际合作与共建合规框架 在全球经济一体化的背景下，单一国家难以独立解决大模型合规的问题。 因此，国际合作与共建成为趋势，旨在构建一个公平、透明、有效的大模型合 规框架。随着技术跨境应用和数据跨境流动，各国意识到只有通过合作，才能 真正解决跨国合规问题。同时，大型技术企业和研究机构的跨国活动也需要统 一的合规标准指导。联合国、G20、世界经济论坛等国际组织和论坛，将成为 各国讨论和推进共建合规框架的平台，各国能够借此分享经验、协调差异，并 共同制定合规指导原则和标准。随着全球经济技术进一步融合，国际合作与共 建的趋势将日益凸显，各国之间交流合作将更加深入，共同构建稳定、公正的 大模型合规环境。

3. 社会文化和伦理逐渐与合规体系相融

(1) 社会公正是大模型合规的前提 大模型的发展与应用涉及到社会、文化和伦理等多重维度，正确理解和处 理这些维度是确保大模型健康、合规发展的关键。社会公正是大模型发展的前 提，大模型的开发与应用过程应符合公平正义，算法决策应避免偏见和歧视， 促进公平。同时，大模型应尊重文化多样性。不同文化背景下，对于同一问题 的看法和解决方法可能存在巨大差异，需要充分考虑大模型合规中的文化差异， 确保大模型的决策不违反当地文化习俗和价值观。 (2) 大模型伦理问题需多角度对待 随着技术应用全球化，大模型的伦理问题需要从多元文化的视角审视，以确保模型在不同文化背景下都能得到合理应用。虽然公平、透明和可解释性等 伦理原则具有普适性，但不同文化背景下，其具体实施方式可能存在特殊性。 因此，需要在普适性和特殊性之间找到平衡，确保伦理原则应用全球化的同时， 考虑地方文化的特殊性。同时，为确保大模型在全球范围内合规应用，需要加 强跨文化伦理研究，探讨不同文化背景下的伦理问题和挑战，并为大模型开发 提供指导，为大模型应用全球化提供坚实的伦理基础。

4. 行业应用面临不同合规挑战与监管

随着大模型在各个行业广泛应用，不同行业和领域对大模型的合规需求也 呈现出明显差异性。 (1) 不同行业合规需求存在差异 • 金融：在金融领域中，大模型的决策可能直接影响资金流动和市场稳定 性。因此，金融行业对大模型的准确性、稳定性和透明性要求极高，且 需考虑数据隐私和安全性问题。 • 医疗健康：在医疗健康领域中，大模型决策涉及患者的生命健康，大模 型的误判可能导致严重后果。因此，医疗行业对大模型的准确性和可解 释性要求严格，且需满足医疗数据的保密性和合规性要求。 • 公共管理：在公共管理领域中，大模型可能用于资源分配、公共决策、 政务服务等核心环节。因此，大模型合规要求不仅涉及技术层面，还需 保证决策的公平、公正和透明，以及服务的准确可信。 • 新闻媒体：在新闻媒体领域中，需考虑内容的真实性、多样性和公平 性，确保提供的内容不会误导公众或加剧社会分化。因此，新闻行业对 大模型的可理解性和可靠性要求严格，且须满足新闻数据的准确性和真 实性要求。

(2) 大模型行业应用评估与监管趋于完善 随着未来大模型在各行业的应用广泛度提升，针对大模型相关的评估与合 规监管的重要性也日益凸显，相关评估和监管机制需不断完善。 • 大模型的独立评估：可由第三方机构对大模型进行独立的评估，确保模 型的决策公正、准确，并符合行业的特定要求，以提高大模型在公众中 的信任度，确保其合规应用。 • 持续监管与审计：对于已经部署的大模型，持续监管和审计也需进一步 加强，以及时发现并纠正潜在问题，确保大模型在实际应用中仍满足合 规要求。 • 建立反馈机制：大模型在实际应用中可能出现未知问题，完善反馈机制 可进一步畅通大模型开发者和使用者的沟通渠道，以便用户和利益相关 者可以及时提出意见和建议，帮助大模型持续改进。 • 合规性指导与教育：需将合规性指导和教育提上日程，以确保大模型开 发者和使用者都能够明确合规要求，帮助其更好理解和遵循相关规定。

5. 治理路径分阶段、有弹性地构建

在面对大模型合规问题时，固化规则和僵硬管理往往难以适应技术快速演 进和应用场景多样性。因此，弹性治理理念应运而生，主张构建灵活、适应性 强的治理路径。弹性治理并非放任自流，而是在明确的指导原则下，给予大模 型开发者和应用者一定自主权，使其能够针对特定场景适当调整。弹性治理具 有以下特性：适应性，即弹性治理对于新技术和应用场景的出现能够快速反应， 不会因为固化规则而制约创新。多元性，即弹性治理考虑到不同文化、社会和 行业的特点，可在明确框架内进行多样化实践。持续性，即弹性治理强调持续 监督和反馈，而非一次性审核，确保大模型始终保持在合规的轨道上。

二、发展建议：构筑大模型合规生态

1. 政府推动构建行业新秩序

政府应通过为企业提供政策指导，为行业构建有利于创新与合规的新秩序， 推动行业有序发展和健康成长。 (1) 制定与完善相关法律法规，构建不同阶段合规制度 (a) 横纵向监管结合，兼顾治理的统一协调与规则的垂直细分 大模型的出现标志着社会生产方式的划时代革新，其覆盖的产业版图极为 全面，包含从芯片、高性能计算集群、图形处理器等硬件部署，到数据及各类 语言的学习与处理、算法与模型搭建、内容生成、全场景泛语言多任务的处理 应用的软件研发运营；其涉及的法律领域相当广泛，包括网络安全与数据治理、 个人隐私保护、知识产权、反不正当竞争、产品市场监督等各类合规要素。针 对这一复杂多变的“庞然大物”，境外各主要地区的立法思路不约而同地遵循 了“横向监管”与“纵向监管”两条主要路径。

所谓横向监管，指以大模型这一整体概念为核心，建立一套统一的、普遍 适用于各类大模型的、跨越多个行业不同主管部门的监管规则，目的是为大模 型监管提供统一的标准以规制并引导行业发展，所体现的立法理念是“概念先 行”。其表现形式通常为一部综合性法律法规 (“横向法规”)，配套一系列横 向的统一监管工具 (“横向监管工具”)，例如登记、备案及评估系统等。横向 监管的优点主要体现在以下几个方面：(1) 一致性。横向监管将大模型所涉及的 普遍风险进行了统一规定，使得各类大模型间的监管标准一致，可以减少监管 规则的冲突、混淆与重复，降低企业及机构的合规成本；(2) 开放性。横向监管 可以对大模型采取较为广泛和开放的定义，并阐述大模型所适用的普遍原则 ( 例 如欧洲、美国、英国等地均在各类法规政策中反复强调的合法、安全、透明、 稳健、反歧视、人工监督、符合伦理、保护个人隐私、增进社会福利等原则 )， 使其可以涵盖大模型未来的各种创新形式，一定程度上避免因为旧概念无法适用于新发展而带来的立法滞后、监管缺失以及重复立法、资源浪费，也避免因 为某一大模型可能同时落入多个纵向法规的规制范围而产生法规的适用冲突； (3) 全面性。横向监管可以将各类合规要素均纳入综合性立法的考量之中，避免 遗漏一些不在特定纵向监管范围内的问题；(4) 可预测性。单一且固定的横向监 管工具为企业提供了监管的可预测性。

所谓纵向监管，指将大模型根据不同功能进行拆解细分，并针对每一种功 能类型的大模型单独规定其合规要点，以便更精确地解决某一领域存在的特定 问题，所体现的立法理念是“实践先行”。其表现形式通常为多部针对性法律 法规并行 (“纵向法规”)。纵向监管的优点主要体现在以下几个方面：(1) 针对 性。纵向监管可以更有效地解决某一特定类型的大模型所存在的特定问题，提 高法律法规的可适用性与治理效率，做到对症下药、量身定制，避免过于宽泛 的合规要求所导致的高昂合规成本以及部分条款适用性存疑所导致的合规焦虑； (2) 灵活性。纵向监管允许监管机构在短时间内针对新的技术或行业发展及时推 出新的监管规则并调整监管策略，但因避免由于法律体系过于庞大，需要考虑 条款间协调性与新旧条款融合衔接。

参考各国治理策略，我国对于大模型的监管可以考虑兼采横向、纵向监 管之所长，针对不同的生产环节，分别适用不同的监管策略。一方面，大模 型和人工智能二者在运行逻辑上紧密相连，因此，可以考虑采用以单部横向 法规作为主体，并配合统一的横向监管工具。另一方面，针对大模型中的重 点类型、主要功能，可以设置多部针对性法律法规予以规制；同时，考虑到 不同类型的大模型所需要遵守的标准以及监管重点不同，在横向监管工具的 具体适用中 ( 例如评估准则、备案信息清单等 )，可以嵌入纵向监管标准 ( 例 如针对特定行业的垂直大模型委托第三方机构制定行业标准 )。在大模型产品、 大模型服务的发布前环节 ( 包括设计、开发、部署 )，可以考虑采取“纵向监 管优先 + 横向监管兜底”的方式，即倘若企业所研发的大模型相关技术 ( 例 如深度合成 ) 落入某一特定纵向法规的管理范畴，则该纵向法规的要求应当 优先适用，但是倘若针对该等技术并无任何可适用的现存纵向法规，则可以 由横向法规作为兜底性条款起到规范作用，避免监管缺口。针对产品和 / 或服务的审核环节以及使用环节，可采用固定的横向监管工具进行统一监管， 降低合规成本。同时，在具体的法律条款中，亦需要针对不同的环节设定不 同等级的合规要求。

(b) 明确责任主体，确定责任分配 目前，总体而言，我国现行的大模型监管体系主要采取的是纵向法规与横 向监管工具并行的策略，现行的主要法律法规和相关规定针对的主要是特定的 深度合成等技术本身，同时采用了包括算法备案在内的、未来可能能够扩展适 用于其他类型的监管工具。 然而，各项规定之间的概念难以实现统一已经成为了目前较为凸显的问题 之一。例如，《深度合成管理规定》区分了“深度合成服务提供者”和“深度 合成服务技术支持者”；《AIGC 暂行办法》主要明确了“生成式人工智能服务 提供者”的合规义务；《算法推荐管理规定》则主要针对“算法推荐服务提供者” 提出了合规的系列要求。但事实上，大模型产业链中从研发到投放市场、交付 使用，所涉及的主体众多，所涉及的法律关系亦较为复杂，包括自行及委托研发、 人工智能集成、商业运营、分销、跨境许可等，概念的划分模糊可能导致责任 承担不明晰，监管问责也将付之阙如。

欧盟的《人工智能法案》提案可能可以为我国的法律规范体系提供部分思路。 《人工智能法案》将责任主体划分为提供方、部署方、进口方、分销商四种角色。 由于提供方对于系统的控制力度最强，因此，提供方在《人工智能法案》项下 需要承担的合规义务相对最重，但当部署方、进口方和分销商对系统进行了署 名或者进行了实质性的修改，从而被认为在相当程度上控制了系统时，将被视 为提供方，亦需要承担较重的合规义务。

(2) 为合规大模型的研发与应用提供资金支持和税收优惠 • 资金支持：为鼓励企业和研究机构研发符合合规要求的大模型，政府可 以设立特定的资金池，专门用于支持该方面的研究和项目。此类资金支持不仅能够缓解企业和研究机构在研发阶段的资金压力，更能够引导整 个行业向合规方向发展。 • 税收优惠：除了直接资金支持，政府可以通过税收优惠的方式，为大模 型的研发与应用提供更多激励。例如，对于在大模型研发和应用方面做 出显著贡献的企业以及获奖企业等，可以给予一定比例的税收减免或退 税，从而鼓励更多企业参与大模型的研发与应用。

(3) 与行业进行深度合作，共建合规监管体系 在构建大模型合规生态的过程中，政府与行业之间的合作尤为关键。政府 可以通过各种渠道，如研讨会、论坛等，与行业进行深度互动，了解行业的实 际需求和问题，打造出既能满足技术发展需求，又能确保社会公众利益的合规 框架。 • 建立沟通机制：政府应当建立如定期政策研讨会、行业论坛、工作小组 等与行业之间的常态化沟通机制，在确保行业声音被真正听到的同时， 也让政府的政策制定更加接地气、具有针对性。 • 共同制定标准：技术与合规的标准并非一成不变，随着技术发展，这些 标准也需要随之调整。政府应该与行业专家、高校学者、企业代表共同 制定和完善相关技术与合规标准，确保其兼顾科学性与实用性。 • 鼓励行业自律：除了外部监管，政府应当鼓励行业自我监管。例如，支 持行业组织制定专门的行为准则或伦理守则，为行业内的企业和个人提 供行为指导。 • 组织培训与教育：对于大模型合规的要求和标准，不仅行业内部需要了 解，公众也需要有所认识。政府可以通过组织培训和教育活动，帮助行 业和公众更好地理解和应对合规性问题，协助用好大模型这一生产力工 具。

2. 企业创新与责任担当

(1) 注重大模型的自我治理与社会责任 在数字化时代，企业的责任不仅仅局限于提供高质量的产品和服务，还需 要确保其行为和创新对社会产生正面影响。对于从事大模型研发和应用的企业 而言，自我治理和担当社会责任至关重要。 • 建立完善的自我监管机制：企业应建立一套内部审核与评估机制，确保 大模型的研发与应用过程中能够满足法律、伦理和社会的要求，其包括 但不限于对模型的输入输出内容进行审查、对模型的决策逻辑进行透明 化，以及定期进行模型的合规性检查。 • 强化企业社会责任文化：企业应当将社会责任意识融入公司文化中，积 极参与公益活动，加强与社区和非政府组织的合作，以弘扬企业的正面 形象和增强公众信任。

与社会持续沟通交流：企业需定期与社会各方进行沟通与交流，通过公 开座谈会、听证会或社交媒体平台等方式，听取外部对其大模型应用的 意见和建议。 • 公开透明的责任报告：企业应考虑定期发布关于大模型的责任报告，内 容包括模型的研发、应用、影响评估以及面临的挑战和解决方案，向公 众展示其在合规、伦理和社会责任方面所做的努力。 • 促进多方利益平衡：在追求利润的同时，企业还需确保技术创新带来的 社会效益，这意味着在决策过程中要充分考虑消费者、员工、股东和社 会的利益，并努力实现其中的利益平衡。

(2) 重视技术研发与模型优化 技术的不断进步与创新是推动大模型走向合规的核心动力。企业若想在竞争激烈的市场环境中长期稳定发展，必须将研发和模型优化置于首位。 • 持续增加研发投入：企业应持续增加对技术研发的资金投入，鼓励团队 深入研究和探索更先进、更高效的模型算法。这不仅能提高模型的性 能，还能为企业在合规性方面带来先发优势。 • 与学术界紧密合作：与全球顶尖的学术机构和研究者建立合作关系，可 以帮助企业紧跟最新的技术发展趋势，确保技术研发的方向与国际前沿 水平保持一致。 • 关注用户反馈与需求：用户是大模型应用的最终受益者，企业应定期收 集并分析用户反馈，根据反馈对模型进行优化，确保其更好地满足用户 实际需求。 • 跨领域技术融合：大模型的发展不仅仅依赖于单一技术，还需要与其他 技术领域(如隐私计算、边缘计算等)进行融合，从而带来更加高效、安 全和合规的应用解决方案。

(3) 加强与其他参与方的沟通与合作 大模型的研发、应用和管理是一个涉及多方的复杂过程。为确保大模型的 合规性和有效性，企业不能单打独斗，必须加强与各相关参与方的沟通和合作。 这不仅有助于企业更好理解和应对合规性挑战，还能为整个行业带来更加完善 和统一的合规框架。只有在各方共同努力下，大模型才能真正为社会带来持久 和广泛的价值。 • 与政府和监管机构建立对话机制：企业应主动与政府和相关监管机构建 立常态化的对话与沟通机制，及时了解政策方向和监管要求，为政策制 定提供行业实践和技术建议。 • 与同行业企业展开合作：在合规性问题上，企业之间不应仅视对方为竞 争对手，应当共同研发技术标准，分享最佳实践案例，以及协同应对潜在的技术、安全和伦理挑战。同时，企业也应与国际组织和跨国公司建 立合作关系，共同探讨和制定国际合规标准和最佳实践方式。 • 参与或创建多方协同的行业联盟：通过参与或创建行业联盟，企业可以 与各方共同探讨合规性问题，分享资源，合作研发，从而提高整个行业 的合规性水平。

3. 社会组织加强协同合作

(1) 加强大模型监督与评估 随着技术快速发展，确保大模型的合规性和公正性至关重要，而社会组织 在大模型的监督与评估中发挥的作用不可忽视。例如，非政府组织、研究机构 和行业协会通过编制发布大模型开发与运营相关的行业性规范，可以保证大模 型技术在带来革命性改变的同时，不损害公众利益。 • 设立第三方评估机构：设立独立于企业和政府的第三方评估机构，开展 客观、公正的大模型评估，深入挖掘和识别模型中的偏见、不公和其他 潜在问题。 • 提高透明度和可解释性：通过监督企业公开或部分公开其模型的工作机 制、数据来源和训练方法，提高整个行业的透明度，使复杂的模型更加 可解释，帮助公众和决策者更好理解模型的决策逻辑。 • 举办公开评估和测试：组织公开的模型评估和测试活动，提高社会影响 力，助力推动行业标准制定，鼓励企业采用更高的技术和伦理标准，促 进模型透明度提升。

(2) 开展大模型相关的教育与培训 社会组织应加强大模型技术宣传和教育培训，培养一批有知识、有技能、 有责任心的新一代从业者，确保大模型技术在发展中获得公众支持和信赖，为其在各个行业的应用创造有利条件。 • 组织专题讲座和研讨会：通过定期的讲座、研讨会或工作坊，企业分享 最新科研成果，向公众、政府官员传递关于大模型的最新研究、最佳实 践和伦理标准，政府人员也能够及时分享与公布最新政策。 • 开发教育课程：建议与教育机构合作，制作并发布易于理解的教育材料 并进行推广，如视频、动画、互动教程等开发大模型所需的相关技术教 育课程，向未来技术人员和决策者提供充分的知识普及。 • 与企业和研究机构合作：与行业领先的企业和研究机构合作，确保其教 育和培训内容与实际应用和前沿研究保持同步，推动产学研快速转化。

(3) 与政府、企业建立对话机制 社会组织作为核心媒介应为企业和政府的沟通提供交流载体，通过持续、 透明和多方参与的对话，使相关主体共同参与大模型合规决策。 • 建立交流互动平台：通过设立定期的圆桌论坛、工作小组或研讨会，为 政府、企业和公众之间建立沟通桥梁，促进政府、企业和其他利益相关 者提供交换观点、分享经验和探讨解决方案的平台，加强互信和合作。 • 收集和响应公众反馈：作为与公众之间的桥梁，社会组织应当为公众打 造分享观点、提出疑虑和建议的平台，定期收集公众对大模型应用的看 法和反馈，以深入探讨大模型技术背后的伦理和社会影响。同时，将社 会声音反馈给企业与政府，帮助企业和政府调整策略，确保技术真正服 务于社会。 • 应对突发事件：在大模型应用中可能出现的突发事件或争议情况下，社 会组织可以作为调解者或顾问，协助各方共同应对和解决问题。