半导体业专题报告：AI大模型开启新一轮大国竞争，半导体战略地位凸显.pdf

上传者：大**
时间：2023/04/10
热度：405
2人点赞
举报

半导体业专题报告：AI大模型开启新一轮大国竞争，半导体战略地位凸显。AI正处史上最长繁荣大周期：在进入21世纪以来，在大数据和大算力的支持下，归纳统计方法逐渐占据了人工智能领域的主导地位，深度学习的浪潮席卷人工智能，人工智能迎来史上最长的第三次繁荣期，至今仍未有结束的趋势。

OpenAI的“暴力美学”：大算力和大数据：OpenAI 认为，通过独立延长模型训练时间、增加训练数据量或者扩大模型参数规模，预训练模型在测试集上的 Test Loss 都会单调降低，从而使模型效果越来越好。我们认为，在 Scaling Law 的框架下，只要追加数据与算力，大模型的能力就能持续增强。对于OpenAI 而言，目前大模型的最大限制是数据和算力的总量。

大模型开启新一轮大国竞争，半导体成顶层博弈焦点：预训练大模型是现阶段人工智能的集大成者，代表了统计学习流派的最高成就。在新一代技术未出现前，它将是人工智能研究和开发的最强武器。围绕大模型的研发和落地，中美之间已经展开了新一轮的竞争，美国已对华限制销售最先进的英伟达A100和H100 GPU 训练芯片。半导体作为AI算力核心，将受到顶层高度关注，成为大国博弈的焦点之一。

AI模型运算规模增长，算力缺口巨大：基于大量数据训练、拥有巨量参数的AI预训练模型—GPT-3，引发了AIGC技术的质变，从而诞生ChatGPT。然而，预训练模型参数数量、训练数据规模将按照 300 倍/年的趋势增长，现有算力距离AI应用存巨大鸿沟。运算规模的增长，带动了对AI训练芯片单点算力提升的需求，并对数据传输速度提出了更高的要求。