如何看待AIGC与GPT-4的发展历程?

如何看待AIGC与GPT-4的发展历程?

最佳答案 匿名用户编辑于2023/04/06 08:51

ChatGPT 是 AIGC 发展的第一个丰碑。

AIGC 是继专业生成内容(PGC)和用户生成内容(UGC)之后,利用人工 智能技术自动生成内容的新型生产方式。AIGC 根据其内容模态不同可分为文本、 视频、图像,音频与跨模态生成。文本方面,例如文本创作、代码生成、问答对 话等;视频方面,例如视频画质增强、视频内容创作、视频风格迁移等;图像方 面,例如图片编辑、图片生成、3D 图像生成等;音频方面,例如文本合成语音、 语音克隆、音乐生成等;跨模态方面,如文字生成图片、文字合成视频、图像描 述等,而且在不同内容模态的技术应用场景也有着各自的细分品类。

ChatGPT 是 AIGC 发展的第一个丰碑。ChatGPT 是由人工智能研究公司 OpenAI 在 2022 年 11 月发布的一个对话型大语言模型,是人工智能技术驱动的 自然语言处理工具和应用。ChatGPT 的全称是 Chat Generative Pre-trained Transformer,顾名思义,就是以 Transformer 为基础架构,采用预训练和生成 式方式构建的面向对话的大语言模型,是 AIGC 在文本方面的典型代表。 ChatGPT 的主要用途是生成对话,它能够通过学习和理解人类的语言来进行对 话,根据聊天的上下文进行自然、流畅的互动,还能完成邮件撰写、文案编写、 文本翻译、代码生成等任务。

ChatGPT 提供了前所未有的高效、自然的人机交互体验和极富创造力的内 容生成能力,成为了 AI 时代的第一个“杀手级”应用。以 ChatGPT 为代表的生 成式 AI 工具将使机器可以大规模参与知识类和创造性工作,极大提升生产力, 涉及数十亿人方方面面的工作,可能产生数万亿美元的经济价值。ChatGPT 覆盖了 NLP 所有领域,其所代表的大规模预训练语言模型(LLM)或基础模型已 成为工业界和学术界最为关注的研究热点,并引领近期自然语言处理(NLP)乃 至人工智能领域的研究范式的转变,对人工智能的技术发展可能产生重大影响。

相距 ChatGPT 发布仅仅 4 个月, OpenAI 在 2023 年 3 月正式发布了多模 态预训练大模型 GPT-4。GPT-4 支持图片和文本输入并生成文本输出,相比 ChatGPT 增加了识图能力,并能够生成歌词、创意文本、学习用户的写作风格 等,更具创造力和协作性。GPT-4 的输入限制提升至 2.5 万字,处理能力是 ChatGPT 的八倍,可用于长篇内容创作、扩展对话以及文档搜索和分析等应用 场景,并可以用所有流行的编程语言写代码。 GPT-4 的回答准确性大幅提高, 性能优于现有的大型语言模型、以及当前最先进(SOTA,State Of The Arts) 模型,虽然在许多现实场景中不太聪明,但在各种专业和学术基准上表现出了人 类水平。

ChatGPT 存在一定局限,如逻辑处理能力不够强,对上下文的理解仍然有 限,多轮对话可能失控,缺乏一些通识能力,可能会出现创造不存在的知识,或 者主观猜测提问者的意图,对 2021 年后的世界和事件了解有限。GPT-4 相较于 ChatGPT,不合规内容的响应请求降低了 82%,响应准确度提高了 40%,具备 了更高的理解能力。但是 GPT-4 仍然具有与早期 GPT 模型相似的局限性,如: 犯常识性的错误、缺乏对新世界知识的了解、存在社会偏见、产生幻觉、推理错 误等。总的来说,ChatGPT 和 GPT-4 是 NLP 和人工智能领域划时代的标志,也 昭示着人类向通用人工智能或强人工智能迈出了尝试性的一步。

GPT-4 基于 Transformer 架构演进发展,其发展历程如下: 2017 年 6 月,Google 发布论文《Attention is all you need》[1],首次提 出 Transformer 模型,成为 GPT 发展的基础;2018 年 6 月,OpenAI 发布论文《Improving anguage Understanding by Generative Pre-Training》[2](通过生成式预训练提升语言理解能力), 首次提出 GPT-1 模型 (Generative Pre-Training); 2019 年 2 月,OpenAI 发布论文《Language Models are Unsupervised Multitask earners》[3](语言模型应该是一个无监督多任务学习者), 提出 GPT-2 模型; 2020 年 5 月,OpenAI 发布论文《Language Models are Few-Shot earners》[4](语言模型应是一个少量样本(few-shot)学习者),提出 GPT3 模型; 2022 年 2 月底,OpenAI 发布论文《Training anguage models to follow instructions with human feedback》[5](使用人类反馈指令流来训练语言 模型),公布 Instruction GPT 模型;2022 年 11 月 30 日,OpenAI 推出 ChatGPT 模型并提供试用,自发布 两个月内月活跃用户数已达 1 亿,成为史上用户数增长最快的消费者应 用; OpenAI GPT-4 模型于 2023 年 3 月 14 日发布,并已在微软的新版搜索 引擎必应(Bing)上运行。

参考报告

AIGC(GPT~4)赋能通信行业应用白皮书.pdf

AIGC(GPT~4)赋能通信行业应用白皮书。2022年被认为是人工智能生成内容(AIGC)元年。作为AIGC在自然语言领域的代表,ChatGPT在2022年年底一经推出,就掀起了一场可能涉及所有人和所有行业的“大火”,2023年3月GPT-4的发布则进一步推动了“态势升级”。由ChatGPT/GPT-4引发的全球关注,令许多人回忆起2016年AlphaGo战胜人类围棋世界冠军的时刻。如果说AlphaGo代表了AI在专业领域战胜人类的起点,ChatGPT/GPT-4似乎迈出了通用人工智能的第一步。这是第三次AI浪潮以来所有积累产生的硕果,AI技术...

查看详情
相关报告
我来回答