2023年计算机行业GPT~4专题 AI大模型能力不断强化,GPT系列模型持续迭代

  • 来源:西南证券
  • 发布时间:2023/04/03
  • 浏览次数:737
  • 举报
相关深度报告REPORTS

计算机行业GPT~4专题:构建模型理解能力,商业落地未来可期.pdf

计算机行业GPT~4专题:构建模型理解能力,商业落地未来可期。AI大模型持续演进,GPT-4理解能力大幅提升。2022年11月30日,OpenAI发布ChatGPT,5天后即达到100万用户,是历史上用户增长最快的应用程序。2023年3月15日,OpenAI发布GPT-4,GPT4相比ChatGPT基于的GPT-3.5模型,其在多模态、理解能力、角色认知、长文本支持方面有了明显进展。我们认为,无论从应用上的用户增长,还是在模型上的能力提升方面,均具备极大优势。AI大模型加速应用升级,AIGC有望对多个行业带来颠覆式创新。2023年2月8日,微软正式将ChatGPT引入Bing,3月17日微软宣...

核心观点:

AI大模型持续演进,GPT-4理解能力大幅提升。2022年11月30日,OpenAI发布ChatGPT,5天后 即达到100万用户,是历史上用户增长最快的应用程序。2023年3月15日,OpenAI发布GPT-4, GPT4相比ChatGPT基于的GPT-3.5模型,其在多模态、理解能力、角色认知、长文本支持方面有了 明显进展。我们认为,无论从应用上的用户增长,还是在模型上的能力提升方面,均具备极大优势。

AI大模型加速应用升级,AIGC有望对多个行业带来颠覆式创新。2023年2月8日,微软正式将 ChatGPT引入Bing,3月17日微软宣布其正在将基于GPT-4的AI技术植入Office办公软件中,标志 着以GPT-3.5和GPT-4为代表的大模型开启了办公和搜索新方式,我们认为,未来AI大模型的发展 和推广将率先带来游戏、代码编码、生命科学3个行业的变革。此外,多模态将赋能生成式AI,在 文本、音频、图像和视频等场景实现商业化落地,软件端和硬件端有望迎来新机遇,其中,我们将 重点关注大模型对工具类软件和多场景的赋能,在工具侧有望带来以CAD、EDA、ERP为主的工具 类软件的估值重构。

GPT-4引发海量算力需求,把握算力产业链机会。根据测算,我们认为,在中性假设下,ChatGPT 一年产生的API调用费用约为6.2亿美元,与此同时,ChatGPT将在训练和推理层面对GPU产生巨大 需求。根据OpenAI公开信息,GPT-3.5模型的API价格为0.002美元/千token,而GPT-4在请求方 面的API价格为0.06美元/千token,回复方面为0.12美元/千token,以0.06美元/千token计算, GPT-4的API调用成本是GPT-3.5的30倍以上,算力相关需求有望翻倍增长。

1、模型演进:AI大模型能力不断强化,GPT系列模型持续迭代

1.1、ChatGPT:基于GPT-3.5模型构建,成为史上用户增长最快应用

ChatGPT简介:由OpenAI研发的AI技术驱动的自然语言处理工具,于2022年11月30日发布。 GPT—Generative Pre-trained Transformer(生成预训练变换器),是openAI推出的一种用于处 理自然语言文本大型神经网络模型。ChatGPT基于GPT-3.5模型构建、使用Transformer架构,通 过连接大量的语料库来训练模型,在GPT大模型能力的加持下,ChatGPT对于文本、任务的理解能 力有了新的飞跃,能根据聊天的上下文进行互动,做到与真正人类几乎无异的聊天场景进行交流。 在聊天场景以外,ChatGPT还能完成撰写邮件、视频脚本、文案、翻译、代码等任务。

ChatGPT工作原理: ChatGPT 使用 的GPT-3.5模型包含大量的语言数据,当用户输入问题时,GPT-3.5模型会根据语言 数据生成回答候选集,并从中选择最佳回答,ChatGPT再将生成的回答以自然语言的形式输。 ChatGPT在基础语言模型的基础上,通过RLHF(从人类反馈中强化学习)训练,使用户的反馈可 以即时反馈到模型上,形成自我学习能力,根据新数据不断迭代更新。 模型训练过程主要分三步:1)收集提示信息和人工形成的任务示例,通过监督学习训练模型。2) 将初始模型用在新的对比数据上,生成多个输出,人工对这些输出进行排序,排序结果用于训练奖 励模型。3)使用PPO(Proximal Policy Optimization)深度强化学习算法训练奖励模型。

1.2.GPT-4:更强大的多模态大模型,关注理解能力的构建

长文本理解能力提升:ChatGPT、GPT-4模型能够分别单次处理3000个单词、25000个单词的文 本量,GPT-4对长文章的阅读、分析、生成能力大幅提高。 复杂问题解决能力提升:GPT-4在不同年龄段、不同类别考试中均名列前茅,平均位列TOP10%行 列。比如,律师职业资格考试排名前10%,生物学奥赛排名前1%等。创作风格可控:通过系统自定Prompt,让模型可以按照规定风格完成任务回复。 幻觉问题减轻、安全功能完善:GPT-4在各类任务上幻觉问题显著减轻,比最GPT-3.5模型约减轻 30%-40%。在安全能力的升级上GPT-4明显超出ChatGPT和GPT3.5。 认知角色,显著提升。

可信性层面:1)产出结果看似合理但不正确:系统在评判对错上有待改进,可能会生成错误文本; 2)不擅于讨论未来:能够对已发生的事情进行推理,但不易对未来进行假设,与创造性较难兼得; 3)规则化有望加强:模型已具备拒绝不当请求的能力,但有时仍响应不当指令或存在偏差行为。 知识层面:对专业领域问题仍存在一定的理解瓶颈,精准专业能力有所欠缺。 成本层面:1)基础大模型训练资源消耗巨大;2)大模型运行时需要消耗大量服务器资源,需要研 究蒸馏压缩、分流等技术处理;3)大模型实现优异性能需要极高的计算成本和工程实现能力。

2、应用落地:大模型加速AGI实现,GPT-4推动模型进入可实用时代

2.1、AGI:全球加速布局,成为未来重点发展方向

实现AGI的基本要求有:一套智能的理论、综合的形式化模型以及计算机实现。 AGI的基本目标是在计算机中重塑“智能”,这一目标取得了学术界和应用界的大致共识。虽然所 有的AGI方案都从人类智能的源头获得灵感,但人们对"智能" 的理解缺不尽相同,AGI项目的具体 目标也有所不同。因此,学者和研究者对实现AGI路径的不同理解分为不同流派,试图从不同的抽 象层次上复制人类智能。

全球AI市场规模持续增长,通用人工智能快速发展。 根据新思科技数据,全球AI市场规模有望由2021年的870亿美元增长至2030年的15970亿美元, 2021-2030年复合增速达38.1%。根据All The Research数据,预计2026年全球AGI市场规模将达 到1442亿美元,2016-2026年复合增速达到41.6%。

通用人工智能可以归结为创建一台机器,它不仅可以完成特定任务,还可以学习和执行其他任务, 具备自主自我控制能力。现有的人工智能系统还不能做到这一点,很多公司正在努力使其成为现实 。Elon Musk预测最早可以在2029年实现通用人工智能,但专家、学术界认为实现通用人工智能还 需要更多时间。不可否认的是,如果实现,通用人工智能将为几乎所有行业带来改变。 国内外多个科技公司在AGI方向上已有布局。Anthropic、Darktrace、DeepMind、Evolv Technology、Graphcore、谷歌大脑、微软、OpenAI等均在进行AGI专项研究和商业化布局。

2.2、GPT-4具体应用:逐步应用于多领域,商业化落地未来可期

办公领域—微软office:GPT-4全面接入微软Office全家桶,推出Microsoft 365 Copilot 。3月17日,微软通过官网宣布其正在将基于GPT-4的AI技术植入Office办公软件中,该功能名为 “Microsoft 365 Copilot”。Office办公软件在GPT-4的加持下,用户可以通过Copilot,凭着最 通用的界面和自然语言,轻松玩转AI工具。 Microsoft 365 Copilot通过GPT-4使各个Office办公软件互联互通,GPT-4穿梭其中。Copilot的 构建不仅仅是将ChatGPT连接到Microsoft 365,Microsoft 365 Copilot是由Copilot系统驱动, 该系统将Microsoft 365的各个应用程序与数据和智能的Microsoft Graph以及GPT-4结合起来。

金融领域—Morgan Stanley:财富管理部门运用GPT-4组织调动面向客户的知识库。摩根士丹利 财富管理部门将智库内容转化为更易于使用操作的格式,使用GPT-4来获取、处理和综合内容,对 全球公司、行业、资产和市场进行洞察,灵活运用自身广泛的智力资本。 翻译领域—Duolingo:接入GPT-4驱动智能语言学习新体验。Duolingo Max为学习者提供两大 新功能:「解释我的答案」和「角色扮演」。其中「解释我的答案」可以针对用户的问题进行相 关解释;「角色扮演」允许学习者与应用程序中的世界人物练习真实世界的对话技巧。

搜索领域—微软New Bing:一款基于GPT4模型的智能搜索引擎。它不仅可以提供高质量的搜索 结果,还可以与用户进行自然语言交互,提供各种有趣和实用的功能。 医疗领域—Be My Eyes:通过GPT-4为有视觉障碍人士提供图像信息指导。凭借GPT-4的新视觉 输入功能,Be My Eyes开始在其应用程序中开发GPT-4动力虚拟志愿者,与人类志愿者具备相近的 理解水平,例如可以识别和命名冰箱中的物品、分析配料、提供食谱。 教育领域—Khan Academy:结合GPT-4打造 Khanmigo AI教学助手。既可以为学习者提供定 制化的教育服务,也可以为教师提供教学方案以提升工作效率。

3、关注方向:AIGC产业链完善,把握四层架构及海内外受益主体

3.1、数据层

数据要素重要性提升。大模型训练需要海量且优质数据,数据和数量和质量决定了AI算法的性能、 泛化能力和应用效果。数据要素和步骤主要包括 获取、标注、清洗、存储、质量检验等环节。 数据要素行业空间广阔。1)全球市场:根据 GRAND VIEW RESEARCH,2022年全球AI训 练数据市场规模约17.3亿美元,预计2023- 2030年CAGR为22.1%。2)中国市场:据国家 工信安全发展研究中心,2021年我国数据要素 市场规模达815亿元,预计十四五期间CAGR将 超过25%,2025年市场规模有望达到1749亿元。

3.2、算力层

芯片是算力的核心,硬件以GPU为主。 国内外GPU市场高速增长,海外龙头占据垄断地位: 1)市场规模:根据Verified Market Research,2021年全球 GPU芯片市场规模为334.7亿美元,预计2030年约4773.7亿美 元,CAGR达33.3%;2020年中国GPU市场规模47.39亿美元, 预计2027年市场规模达345.57亿美元,2021-2027年CAGR为 32.8%,国内外GPU市场前景广阔。 2)市场份额:根据Wccftech,2022Q3独立GPU市场中英伟达 和AMD的市占率分别为88%和8%,垄断优势明显,国内厂商有 望在AI产业蓬勃发展和国产替代逻辑下加速成长。

根据Similar Web,2023年1月27日-2月3日 平均日活为2500万;3月13日和3月15日已分 别增长至4846万和5837万。我们对活跃用户 数量进行如下假设:悲观/中性/乐观假设下 ChatGPT的日活跃用户分别为3000万/4500 万/6000万人。我们对日活用户每天的问题个 数进行如下假设:悲观/中性/乐观假设下的日 活跃用户问题个数分别为35/45/55个。根据 OpenAI,GPT-3.5的API调用费用为0.002 美元/千token。 综上,我们得出在悲观/中性/乐观假设下, ChatGPT一年产 生的API 调用 费用 分别为 1.6/6.2/16.7亿美元。

3.3、模型层

单一预训练模型向多模态模型演变,跨模态/多模态内容成为关键的发展节点。目前AIGC生成正在 完成从简单的降本增效向创造额外价值转移。AIGC有望以GPT-4和未来其他多模态大模型为基础, 形成多模态x多场景,其中跨模态生成和多模态的理解结合将成为未来的发展重点。单一预训练模型包括自然语言处理(NPL)、计算机视觉(CV)领域。如自然语言处理模型GPT-3。多 模态模型涉及文字、图片、音视频等多种内容形态。如Stable Diffusion,能够实现文本到蹄片的 转换;2023年3月15日Open AI推出GPT-4,能够实现输入文本和图像,并输出文本。OpenAI GPT-4 走在全球前列,百度文心一言为中国本土化大模型代表。

3.4、应用层

文本生成:AIGC最早发展的场景技术,已在新闻报道、商业营销、客服机器人等领域广泛落地。 音频生成:短视频等内容媒体配音成为重要应用场景,AI编曲有望成为音频生成的快速发展赛道。 图像生成:Diffusion在底层技术上逐渐取代GAN并成为图像生成主流模型,推动AIGC图像发展。 视频生成:目前,画质修复、删除特定主体、自动跟踪主题剪辑、生成特效和美颜等较为常见。 跨模态生成:文本生成图像或视频仍处于技术尝试阶段,视频生成是跨模态生成中的高潜力场景。

编辑:荣耀2020
  • 相关标签
  • 相关专题
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至