大型语言模型行业图谱

VIP专免

3.0 西装暴徒 2024-06-30 32 3.41MB 52 页免费

侵权投诉

研究报告

（2024 年第 3期总第 35 期） 2024 年01 月26 日

大型语言模型行业图谱

科创金融研究中心

朱雅姝刘碧波

【摘要】行业图谱研究是本中心科技成果转化研究的一项子课

题，目标定位于清晰理解前沿科技成果的技术核心、科创企业的技术

竞争力及科研工作者的研究进度，从而助力科技成果转化效率的提升。

行业图谱研究将以系列形式展开，选取国家战略重点科技领域的商业

应用场景逐一进行，时效性较强。

本报告为行业图谱研究之计算机科学系列中的课题：大型语言模

型（含 ChatGPT）行业图谱。ChatGPT 的成功引发了全球对大型人工

智能模型的浓厚兴趣，加速了学术界和商业界的发展。自 2017年起，

美国在战略层面高度重视人工智能，将其应用于经济、文化和社会福

感谢资本市场与公司金融研究中心的实习生许喜远同学对本报告的助研工作。许喜远同学是清华大学医学院

2022 级博士。

祉等众多领域。到 2023 年，中国也迅速跟进，采用自主研发的技术

平台取得领先地位，显示出 ChatGPT 及相关技术已成为未来国家战略

支持的重点。

ChatGPT 的发展可分为五个研究阶段，从初期的专家系统演变为

基于深度学习和大数据的方法。核心变革之一是 GPT-3 模型，它凭借

大规模参数和创新的“提示语”概念，显著提升了理解和生成自然语

言的能力，并在情感分析、机器翻译等多个领域得到应用。技术上，

ChatGPT 利用基于 GPT-3.5 的人类反馈强化学习，实现了语言生成能

力的显著提升，增强了模型对新指令的适应性，超越了仅依赖于参数

量增加的限制。成功的关键因素包括 OpenAI 的战略转型、技术突破、

巨额资金投入、强大算力支持以及顶尖团队，共同构成了 ChatGPT 的

成功基础。ChatGPT 以其基于 GPT-3.5 的先进技术，在准确性、多任

务处理和泛化能力上占据市场优势，但面临着时效性不足、高成本和

专业领域局限性的挑战。与此同时，国际竞争对手如 Google 和Meta

在技术研发及商业应用上保持领先地位。战略上，ChatGPT 通过 API

和订阅模式获得了市场先机，而 Google 和百度更专注于 B端市场。

在中国，国内的通用大型语言模型正处于发展阶段，公司如百度和华

为正在追赶国际趋势，但在数据、算力和工程化实施方面面临挑战。

语言大型模型的国际研发现状呈现明显的区域差异。在国际领域，

以爱丁堡大学的 Geoffrey Hinton、布尔诺理工大学的 Tomas Mikolov、

斯坦福大学的 Chris Manning 和Quoc Le、以及多伦多大学的 Ilya

Sutskever 等人为代表，他们开发的技术位于行业前沿，具有重大的创

新性。而在国内，清华大学计算机系的唐杰教授、自然语言处理与社

会人文计算实验室的孙茂松、交互式人工智能课题组的朱小燕教授、

智能产业研究院的张亚勤以及复旦大学的邱锡鹏教授团队、哈尔滨工

业大学的王晓龙教授等，作为国内在语言大模型研发方面的顶尖技术

代表，他们在自然语言处理 AI 的底层技术研究领域也取得了新的突

破。

大型语言模型改变了数字产业的人机交互方式，提升了软件的用

户友好性和功能性。它们在降低企业应用构建成本、推动新生态平台

发展方面扮演关键角色，并在对话式 AI 领域显著提升了产品的智能

和感知能力。这些模型还促进了多行业的功能升级和生态整合。

ChatGPT 及类似大型 AI 模型在全球科技界的崛起，尽管其带来了商

业与创新价值，却也引发了众多安全与伦理问题，如对人类角色的替

代、数据偏见和隐私泄露等，导致业界和科研人员对 AI 发展提出质

疑和暂停的呼声。为此，采用了如基于人类反馈的强化学习和监管框

架等手段减轻这些风险。通用人工智能（Artificial General Intelligence，

AGI）技术如 GPT-4 不仅提高了生产力和经济增长，还可能改变人类

的思维模式和文化传统，推动相关学科发展。通过本报告，我们旨在

为ChatGPT 技术和产业的发展提供参考和引导，共同推动产业合作，

促进行业健康快速发展。

研报加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载研报到电脑，查找使用更方便

立即下载 VIP免费下载

摘要：

研究报告（2024年第3期总第35期）2024年01月26日大型语言模型行业图谱1科创金融研究中心朱雅姝刘碧波【摘要】行业图谱研究是本中心科技成果转化研究的一项子课题，目标定位于清晰理解前沿科技成果的技术核心、科创企业的技术竞争力及科研工作者的研究进度，从而助力科技成果转化效率的提升。行业图谱研究将以系列形式展开，选取国家战略重点科技领域的商业应用场景逐一进行，时效性较强。本报告为行业图谱研究之计算机科学系列中的课题：大型语言模型（含ChatGPT）行业图谱。ChatGPT的成功引发了全球对大型人工智能模型的浓厚兴趣，加速了学术界和商业界的发展。自2017年起，美国在战略层面高度重视人工智能，...

展开>> 收起<<

大型语言模型行业图谱.pdf

共52页,预览10页

还剩页未读，继续阅读