书签 分享 收藏 举报 版权申诉 / 32

类型华为AI盘古大模型研究框架.pdf

  • 上传人:周三
  • 文档编号:138275
  • 上传时间:2024-08-03
  • 格式:PDF
  • 页数:32
  • 大小:3.38MB
  • 配套讲稿:

    如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。

    特殊限制:

    部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。

    关 键  词:
    华为 AI 盘古 模型 研究 框架
    资源描述:

    1、 2023年3月25日华为AI盘古大模型研究框架 华为产业链深度系列研究 行业评级:看好证券研究报告分析师陈杭分析师刘雯蜀研究助理安子超邮箱邮箱邮箱证书编号S1230522110004证书编号S1230523020002电话18611396466盘盘古古大大模模型型金金字字塔塔架架构构,算算力力为为底底层层支支撑撑201资料来源:浙商证券研究所 混合自动并行 千亿参数超大模型集群调试调优工具图算融合策略模型部署模型训练人工智能框架AI开发平台CV大模型NLP大模型多模态大模型科学计算大模型数据处理模型管理ModelArts 3.0MindSpore 1.2AI算力资源服务器鲲鹏昇腾浙 商 陈

    2、杭盘古大模型添加标题95%摘摘要要 3目前我们将迎来科技的重大转折点:ChatGPT时刻。而在ChatGPT背后,不断迭代的GPT系列使得大模型成为当下科技企业核心竞争力的重要体现,未来,大模型将成为AIGC时代的核心支撑。华为作为国内科技龙头,2021年发布的盘古大模型有望在AIGC时代中引领潮流。我们将从:昇腾/鲲鹏MindSpore AI框架ModelArts盘古大模型四层架构进行分析:1、AI算力资源:“鲲鹏+昇腾”,打造盘古算力底座鲲鹏:华为自主芯片鲲鹏芯片鲲鹏服务器欧拉操作系统高斯数据库行业应用向外扩张,构建鲲鹏生态,提供算力支撑。昇腾:昇腾AI处理器CANN异构计算架构MindS

    3、pore AI框架应用使能行业应用,助力打造华为昇腾全栈AI软硬件平台,构筑智能世界基石。2、人工智能框架:MindSpore高效易开发,可实现全场景覆盖CANN:作为华为昇腾AI基础软硬件平台的核心,CANN向上支持多种AI框架,向下服务AI处理器与编程,助力芯片使能。MindSpore:是国内首个支持千亿参数大模型训练AI计算框架,最佳匹配昇腾处理器算力,支持终端、边缘、云全场景灵活部署,开创全新的AI编程范式,降低AI开发门槛。3、AI开发平台:ModelArts强势赋能开发者,精度效率双提升为机器学习与深度学习提供海量数据预处理及交互式智能标注、大规模分布式训练、自动化模型生成,及端-

    4、边-云模型按需部署能力,帮助用户快速创建和部署模型,管理全周期AI工作流。4、盘古大模型:AI落地的重要途径由NLP大模型、CV大模型、多模态大模型、科学计算大模型等多个大模型构成,目前已实现等AI场景落地。建议关注标的:神州数码、拓维信息、麒麟信安、软通动力、常山北明、海量数据、润和软件数据来源:华为云官网,浙商证券研究所浙 商 陈 杭风风险险提提示示41、宏观经济下行风险 2、上游晶圆紧缺加剧3、市场发展不及预期4、行业竞争风险目录C O N T E N T SAI算力资源鲲鹏服务器助力满足澎湃算力需求昇腾全栈AI软硬件平台构筑智能世界基石010203人工智能框架CANN-AI异构计算架构

    5、芯片使能MindSpore智能适配盘古大模型AI开发平台ModelArts强势赋能开发者落地场景可覆盖完整产业链504盘古大模型NLP大模型 多模态大模型 CV大模型 科学计算大模型算力资源01Partone6 鲲鹏 昇腾7华为鲲鹏生态:华为自主芯片鲲鹏芯片鲲鹏服务器欧拉操作系统高斯数据库行业应用1、鲲鹏芯片:鲲鹏920作为低功耗、高性能的Arm处理器,为鲲鹏服务器主板及整机产品提供芯片支撑,是鲲鹏生态发展壮大的核心所在,在此基础上,华为进一步开启自主研发芯片,为鲲鹏生态发展奠定坚实基础。2、鲲鹏服务器:华为凭借多年积累的硬件工程能力,打造TaiShan服务器,使能整个产业链,进一步构建完整鲲

    6、鹏生态。3、欧拉操作系统:作为面向B端的电脑服务器操作系统,华为自主研发的EulerOS,以Linux稳定系统内核为基础,南向支持多样性设备,北向覆盖全场景应用,横向对接鸿蒙,通过能力共享实现生态互通。4、高斯数据库:华为GaussDB是主打政企核心业务负载的金融级分布式数据库,目前已实现助力部分保险及车企数字化转型。5、行业应用:华为以行业聚合应用,通过平台和生态双轮驱动,形成行业应用矩阵,为众多行业客户提供解决方案。并陆续成立五大军团,不断开发全新应用场景。华为昇腾AI产业:昇腾AI处理器CANN异构计算架构MindSpore AI框架应用使能行业应用1、Ascend:昇腾AI处理器作为基

    7、础,通过模块、标卡、小站、服务器等丰富的产品形态,打造面向“端、边、云“的全栈解决方案,为整个昇腾AI产业的底层核心支撑。2、CANN:作为华为昇腾AI基础软硬件平台的核心,CANN向上支持多种AI框架,向下服务AI处理器与编程,以极致性能、极简开发、开放生态为目标,助力昇腾构建全场景人工智能平台。3、MindSpore:是国内首个支持千亿参数大模型训练AI计算框架,覆盖包含生物医学在内的多个领域。4、应用使能:以昇腾AI处理器CANN异构计算架构MindSpore AI框架的传导机制,为深度学习、智能边缘以及行业应用解决方案等强势赋能。数据来源:昇思官网,浙商证券研究所01AI算算力力资资源

    8、源浙 商 陈 杭算算力力布布局局=鲲鲲鹏鹏+昇昇腾腾8算力布局鲲鹏:最强算力异构计算服务器盘古大模型的底层算力支撑:昇腾芯片自主化鲲鹏920数据库Taishan 100Taishan 200操作系统To B:欧拉To C:鸿蒙服务器中间件Gauss DBDDM行业应用金融电力运营商医疗政府交通AI训练卡AI推理卡训练服务器MindX驱动层芯片使能MindSpore全场景AI框架CANN第三方平台DLModel Arts行业应用金融电信能源制造公共交通Edge SDKAtlas系列数据来源:昇思官网,浙商证券研究所01浙 商 陈 杭添加标题Kunpeng处处理理器器支支持持鲲鲲鹏鹏计计算算产产业

    9、业长长期期演演进进019数据来源:鲲鹏计算产业发展白皮书,浙商证券研究所硬硬件件:鲲鲲鹏鹏服服务务器器实实现现数数据据中中心心高高效效能能计计算算0110鲲鹏服务器TaiShan100包含2280均衡型和5280存储型等产品型号。基于鲲鹏916处理器的数据中心服务器,具有多核高并发、低功耗等计算优势,适合为大数据、分布式存储等应用高效加速。包含2280E边缘型、1280高密型、2280均衡型、2480高性能型、5280存储型和X6000高密型等产品型号。基于华为鲲鹏920处理器,旨在满足数据中心多样性计算需求。TaiShan200TaiShan200 Pro包含2480、2280和1280等三

    10、款高端产品型号。基于鲲鹏920 3.0GHz高主频处理器,同时集成三大创新RAS特性,获得权威安全可信认证。高效能计算搭载具有超强算力的鲲鹏处理器多核计算架构高效加速应用安全可靠处理器及服务器芯片全自研17年计算工程能力铸就稳如泰山品质开放生态开放计算平台支持业界主流软件携手合作伙伴,共赢计算新生态数据来源:鲲鹏社区官网,浙商证券研究所浙 商 陈 杭澎澎湃湃算算力力携携手手合合作作伙伙伴伴,共共同同拓拓展展鲲鲲鹏鹏计计算算产产业业0111数据来源:鲲鹏社区官网,浙商证券研究所整机伙伴大数据平台分布式存储中间件云平台数据库OS基础软件伙伴浙 商 陈 杭昇昇腾腾AI底底层层支支撑撑系系列列产产品品

    11、0112数据来源:华为昇腾官网,浙商证券研究所开发者套件AI加速模块推理卡训练卡智能小站边缘服务器推理服务器训练服务器芯片:昇腾310最高算力:22 TOPS芯片:昇腾910最高算力:280 TFLOPS芯片:昇腾310最高算力:88 TOPS芯片:昇腾310最高算力:22 TOPS芯片:鲲鹏920最高算力:352 TOPS芯片:昇腾310最高算力:22 TOPS8*昇腾910+4*鲲鹏920最高算力:2.24 PFLOPS2*鲲鹏920最高算力:704 TOPSAI模块加速卡智能边缘AI服务器64*昇腾910+32*鲲鹏920形态:47U机柜AI集群数千颗昇腾910算力:256P1024P

    12、FLOPS AI集群AI集群基础单元浙 商 陈 杭昇昇腾腾生生态态伙伙伴伴网网络络遍遍及及主主流流厂厂商商 数据来源:昇腾社区官网,浙商证券研究所整机硬件伙伴IHV硬件伙伴一体机解决方案伙伴应用软件伙伴辅助运营伙伴13浙 商 陈 杭01人工智能框架02Partone14CANN MindsporeCANN:软软硬硬协协同同释释放放澎澎湃湃算算力力0215数据来源:华为昇腾官网,浙商证券研究所昇腾计算语言AscendCL算子开发接口TBE计算图开发接口AIR应用开发接口昇腾计算服务层昇腾算子库AOLNN库其他昇腾调优引擎NN库其他NN库其他FrameworkAdapterGraph Compli

    13、erTBE昇腾计算编译层昇腾张量编译器ATCRuntimeHCCL昇腾计算执行层昇腾计算执行器ACEGraph ExecutorAIPPDVPP其他OSSVM昇腾计算基础层昇腾基础层ABLVMHDC其他浙 商 陈 杭昇昇思思 MindSpore 总总体体架架构构0216数据来源:华为昇腾官网,浙商证券研究所昇腾计算语言AudioModel Zoo模型库ModelHub开发态友好全场景部署VisionRecNLPExtend强化学习/GNN/深度概率编程Sience科学计算电磁仿真/分子模拟/量子计算Expression 全场景统一APINNOps第三方前端DatasetTrain/InferN

    14、umpy函数/OOP编程范式融合AI+数值计算表达融合动静表达统一单机分布式表达统一仓颉Julia运行态高效Complier AI编译器内存优化图算融合流水线执行IR中间表达层硬件相关优化量子自动生成量化/剪枝/蒸馏数据格式数据加载异构加速数据增强Data端-边-云全场景运行时系统Runtime多样性硬件CNN(NPU)CUDA(GPU)Eigen(CPU)oneDNN(CPU)密态AI可信AIArmour性能调优网络调试Insight精度调优AI安全二阶优化自动并行自动微分类型推导浙 商 陈 杭MindSpore 执执行行流流程程0217数据来源:昇腾计算产业发展白皮书,浙商证券研究所端云协

    15、同(联邦学习、端云AutoML等)MindSpore 训练和验证ModelZoo模型库MindSpore DevKit开发套件MindSpore Extend高阶扩展库MindSpore Hub预训练模型MindSpore Insight 可视化MindSpore Data数据MindSpore Armour AI安全MindIR端云统一IRMindSpore Servinig 云测推理MindSpore Lite 端侧推理端边增量学习Fine-tuning训练等下载模型模型导出模型导入调试调优安全机制数据处理浙 商 陈 杭AI开发平台03Partone18ModelArts1903华为云AI

    16、开发生产线ModelArts在AI云服务方面的竞争优势越发明显。历经多年的技术创新,ModelArts已成功在十多个领域进行商业化落地,持续领跑机器学习公有云市场,为AI开发带来变革。1、简化开发,让AI落地更简单华为云AI开发生产线ModelArts支持全流程MLOps开发,实现行业数据参与AI持续迭代,大幅提升AI应用的二次开发效率。发起AI生态伙伴计划D-Plan,提供“人”“货”“场”服务,和行业ISV一起,加速AI解决方案在行业的落地。基于D-Plan的AI项目实践,华为云已在AI Gallery上沉淀了9大行业场景Usecase,覆盖生产、销售、服务和运营等企业运作全场景。AI Gallery还汇聚了2000多个覆盖零售、医疗、游戏等数十个商业领域的优质模型,助力千行百业智能升级。2、深耕技术,让AI应用更高效ModelArts沉淀了知识计算、盘古大模型和天筹AI求解器三项AI根技术,持续构建大模型训练及推理加速能力、分布式训练能力等,从算力资源调度、AI业务编排、AI资产管理以及AI应用部署,提供数据处理、算法开发、模型训练、模型管理、模型部署等AI应用开发全流程技术能力

    展开阅读全文
    提示  搜弘文库所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
    关于本文
    本文标题:华为AI盘古大模型研究框架.pdf
    链接地址:https://wenku.chochina.com/doc/138275.html
    关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服 - 联系我们

    Copyright@ 2010-2022 搜弘文库版权所有

    粤ICP备11064537号

    收起
    展开