计算机行业：ChatGPT，深度拆解AI算力模型
请仔细阅读在本报告尾部的重要法律声明 [Table_Title] ChatGPT，深度拆解AI算力模型 [Table_Title2] 计算机行业 [Table_Summary] ChatGPT算法的核心壁垒 (1) 庞大的数据训练数据，往往意味着模型精准度的上升；数据量大，往往意味着数据特征维度大，模型的参数越复杂，训练数据维度跟算力指数呈现正相关，算力成本高。 (2)底层算法Transformer，相较于传统神经网络综合特征提取能力、远距离特征捕获能力、语义特征提取能力，全部明显增强，正逐步取代RNN(循环神经网络)。 (3) AI预训练模型(大模型)，本质是“大算力+强算法”结合的产物，对自然语言理解能力明显上升，谷歌BERT模型就是典型跨时代的例子，我们认为其是AIGC的初始应用算法。 (4)多模态数据协同，极大推动AIGC的内容多样性与通用性，让AIGC不只局限于文本和图像等单个部分，而是多应用相容。 不同类别AIGC算法比对 1、ChatGPT : 训练模型为强化学习近端策略优化，可以理解成在“人脑思维”的基础上加入了“人类反馈系统”，是一种奖励模型，拥有175B参数，训练数据为语言文本。 2、LaDMA(谷歌Bard): 参数方面为137B，奖励模型是人类评分机制，训练数据为对话数据。 3、图神经网络(GNN)作为科学领域预训练模型(大模型)备受瞩目，强大之处在于数据结构，其应用广阔例如推荐系统、药物发现、合成物发现、芯片设计等众多科学前沿领域。 国产ChatGPT生态正在形成 百度是少有预训练模型(大模型)语言训练能力的公司，已经经历多次迭代，参数方面，模型基于ERNIE 3.0，拥有千亿级参数。预训练方面，具备海量知识沉淀和丰富场景的文心大模型，跨模态方面，已有地理-语言、视觉-语言、语音-语言等模型架构，已覆盖众多方向，例如自然语言处理、机器视觉等其他重大任务，此外，根据IDC数据，目前已有近百万开发者使用文心大模型，生态正在逐步繁荣，合作厂商覆盖科技、教育、工业、媒体、金融等诸多产业。 投资建议：关注鸿蒙OS的生态伙伴 我们认为AIGC的出世会产生革命性的影响，同时有望赋能千行百业。我们梳理了三条路径图，积极的推荐以下三条投资主线: 评级及分析师信息 [Table_IndustryRank] 行业评级： 推荐 [Table_Pic] 行业走势图 [Table_Author] 分析师：刘泽晶 邮箱：liuzj1@hx168.com.cn SAC NO：S1120520020002 联系电话： -35%-28%-21%-14%-7%0%2022/022022/052022/082022/112023/02计算机沪深300证券研究报告|行业动态报告 仅供机构投资者使用 [Table_Date] 2023年02月23日 138737 证券研究报告|行业动态报告 请仔细阅读在本报告尾部的重要法律声明 2 19626187/21/20190228 16:59 1)具备算力基础的厂商，受益标的为寒武纪、商汤、海光信息、浪潮信息、中科曙光、景嘉微、联想集团、紫光股份、龙芯中科； 2)具备AI算法商业落地的厂商，重点推荐科大讯飞、拓尔思，其他受益标的为:汉王科技、海天瑞声、云从科技； 3) AIGC相关技术储备的应用厂商，受益标的为: 百度、同花顺、三六零、金山办公。 风险提示 核心技术水平升级不及预期的风险；AI伦理风险；政策推进不及预期的风险；中美贸易摩擦升级的风险。 证券研究报告|行业动态报告 请仔细阅读在本报告尾部的重要法律声明 3 19626187/21/20190228 16:59 正文目录 1. ChatGPT，深度拆解AI算力模型 ....................................................................................................................................................... 4 1.1．ChatGPT算法的核心壁垒 ................................................................................................................................................................. 4 1.2.不同类别AIGC算法比对 .................................................................................................................................................................... 9 1.3.我国国产ChatGPT生态正在形成 ...................................................................................................................................................11 2. 投资建议：梳理AIGC相关受益厂商 ..............................................................................................................................................14 3. 风险提示..................................................................................................................................................................................................15 图目录 图表 1 AI算法的全流程.......................................................................................................................................................................... 4 图表 2 模型的准确度和数据数量呈现正相关................................................................................................................................... 5 图表 3 AI需求呈现指数级别的增长 ................................................................................................................................................... 5 图表 4 Transformer算法的前世今生 ................................................................................................................................................. 5 图表 5 Transformer模型与RNN、CNN模型准确度对比(%) ......................................................................................................... 5 图表 6 深度学习初期模型越来越大 .................................................................................................................................................... 6 图表 7 预模型出现后机器对自然语言的理解不断提升 ................................................................................................................. 6 图表 8 国外主要AIGC预训练模型一览.............................................................................................................................................. 7 图表 9 谷歌GBRT取得的能力................................................................................................................................................................ 8 图表 10 谷歌GBRT预训练架构 ............................................................................................................................................................. 8 图表 11 CLIP算法示意图 ....................................................................................................................................................................... 8 图表 12 Dall·E2自动生成图画 .......................................................................................................................................................... 8 图表 13 强化学习近端策略优化优化示意图 ..................................................................................................................................... 9 图表 14 ChatGPT和LaMDA的不同(左为ChatGPT，右为LaMDA) ..............................................................................................10
