全国空降服务app免费版_同城空降全国可飞_全国空降同城微信

资讯要闻

国产大模型进入成长关键期

  • 时间:2023-10-30
  • 来源:北京日报

国产大模型“百模大战”激战正酣之际,美国升级对华芯片出口管制带来新的不确定性。全球供应链震荡之下,国产大模型进入成长关键期。

“要坚持源头创新,提高生成式人工智能的核心竞争力。”业内专家表示,只有制定高端算力芯片、大模型算法等基础性、原创性技术攻关的中长期专项规划,实现更多从“0”到“1”的突破,大模型才有望突破瓶颈。

算力需求将是未来十年挑战

近日,美国升级对华芯片出口管制。根据英伟达10月17日在一份文件中披露的受限芯片详情,包括高性能GPU(图形处理器)芯片A800和H800。这两款是该公司专为中国市场设计的AI(人工智能)芯片。

随着大模型浪潮掀起,英伟达成了AI淘金时代的“卖铲人”,其开发的GPU芯片需求井喷。GPU即图形处理器,被设计用来处理并行计算,更适合同时处理相同类型的大量数据。它最早设计用于处理图像、视频和3D图形渲染,后被引入AI计算,成为大模型训练与推理不可或缺的算力基础设备。

“一颗A800芯片的售价已经高达15万元,半年前,这一价格不过***万元。”有芯片经销商对记者透露,相关存量芯片价格一路看涨。

“尽管中国开发的AI算法非常强大,但国内硬件的计算能力仍有差距。”科大讯飞创始人、董事长刘庆峰表示,中国企业在训练AI大模型上面临的挑战之一,就是训练主要是在英伟达的硬件上完成的,企业内部只能做出微小的调优和训练。

“我相信对计算能力的需求,将会是未来十年对所有人的挑战。”半导体公司AMD全球副总裁唐晓蕾表示,这不仅涉及对能源、算力的需求,还关系到整个环境改变的需求,“这是一种大势,跟以前不一样。”

行业呼唤自主可控算力底座

科大讯飞日前宣布联合华为推出基于昇腾生态的“飞星一号”大模型算力平台,国内的大模型厂商信心得以提振。此外,当天发布的星火认知大模型V3.0,据称已全面对标ChatGPT(GPT-3.5),在中文能力上实现超越。

“星火3.0可以说是除了华为内部应用之外,当前第一个真正在国产算力平台上训练出来的大模型。”虽然没有透露新一代昇腾芯片性能参数,但刘庆峰提到,“飞星一号”半年内就实现了星火大模型训练和推理效率均翻番。“国产算力平台要有从不好用到好用、再到生态繁荣的过程。如果谁都不往前走一步,那始终无法自立自强。”

自主可控的算力底座也有望解决大模型训练成本过于高昂的问题。近日,毕马威中国与联想集团联合发布《普慧算力开启新计算时代》报告显示,以构建GPT-3为例,OpenAI数据显示,满足GPT-3算力需求至少要上万颗英伟达GPU A100,一次模型训练成本超过1200万美元,这还不包括模型推理成本和后续升级所需的训练成本。

此前,科大讯飞在三季报业绩说明会上表示,公司已于2023年初与华为昇腾启动专项攻关,让国产大模型架构在自主创新的软硬件基础之上,当前华为昇腾910B能力已经基本可对标英伟达A100,后者是当下AI大模型训练市场上应用最广泛的GPU芯片。

做好源头创新 突破多而不强

截至今年7月底,我国累计有130个人工智能大模型问世。首批通过《生成式人工智能服务管理暂行办法》备案的11个大模型产品也获批向全社会开放服务。

“对国产大模型而言,亟待解决的问题是多而不强。”北京工业大学经济与管理学院教授何喜军表示,因底层技术突破难,很多公司选择调用较为成熟的大模型,直接应用到原有产品和服务上,技术同质化严重,且缺乏源头创新,高质量落地应用较少。“要建设一批国家级开源平台、代码托管及大模型开发测试平台,确保核心算法自主可控。”

刘庆峰也坦言,国产大模型必须正视与GPT-4的差距。“国产大模型在复杂知识推理、小样本快速学习、超长文本处理、跨模态统一理解上距GPT-4还有差距。”他表示,唯有实事求是,才能实现超越。

着重培育源头创新的步伐正在加快。近日,工信部运行监测协调局局长陶青表示,要夯实人工智能技术底座,通过科技创新重大项目,着力推动大模型算法、框架等基础性原创性的技术突破,提升智能芯片算力水平,释放数据价值,强化“根”技术研发。

各大厂商也在扎牢底层的算法和算力。腾讯集团副总裁蒋杰表示,混元大模型掌握了从模型算法、机器学习框架、人工智能基础设施的全链路自研技术。蚂蚁集团首席技术官何征宇也表示,蚂蚁大模型走纯自研的技术路线,底层算力集群可达万卡规模。