百度百聘2024年11月17日发布:大模型催生算力需求爆发式增长!训推一体机将迎应用元年 多家上市公司已布局央视还有没有必要《星光大道》?
作者:马丁·托马斯 | 责任编辑:Admin
本次大会汇集了来自全球各地的科技领袖,共同探讨未来科技趋势...
【澳门张天师精准资料】 |
【2024年澳门今晚开什么】 |
【老版跑狗图】 |
【2024香港免费公开资料大全】 |
【2024香港今期开奖号码马会】 |
【澳门正版资料全年免费2024】 |
【澳门六开彩结果】 |
【2024澳门特码资料】 |
【2024澳门六开彩查询记录】 |
【www79456.Com澳门彩】 |
《科创板日报》11月24日讯(记者 黄心怡) 随着ChatGPT带来的大模型热潮成为科技行业的C位担当,市场上对算力需求也面临爆发式增长。有AI产业链人士对《科创板日报》表示,百度、腾讯、讯飞等纷纷四处搜罗算力资源,但要给这些头部企业供应算力,依然较为紧张。
而云从科技、云天励飞、中软国际、软通动力等上市公司则纷纷加强布局与算力相关的硬件产品,为增加算力供应提供支持。
其中,训推一体机成为了资本市场的焦点之一。云从科技相关负责人对《科创板日报》记者表示,目前训推一体机的价格大约在三四百万的范围内。在中档旗舰训练部分,报价大致在一百万以下。
“总体而言,从今年试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随一些风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”
▍训推一体机的价格处于百万级别
今年7月,华为携手伙伴联合发布昇腾AI大模型训推一体化解决方案,加速大模型在各行业应用落地,其中,云从科技、云天励飞、科大讯飞、智谱AI、达观数据、面壁智能等位列合作伙伴。
云从科技相关负责人告诉《科创板日报》记者,与华为的合作的方式是共同打造产品。华为的代工厂会将芯片与云从的大模型集成,然后共同推广给客户。云从在这个合作中不仅卖产品,还会提供其他应用开发相关的服务。整个市场空间不同于以往的分成模式,而是通过联合推广的方式,共同打造产品,并由华为各地销售团队一起推广。
“云从在过去的客户体系中有自己的优势,特别是在To B领域,包括金融、交通、治理等传统领域,以及最近拓展的制造和能源服务领域。通过结合云从的行业特点和华为的To B面向客户的深耕经验,共同推广和销售生成一体机。整个市场上,合作方各自发挥优势,联合推动产品上市,不存在所谓的分成模式。”
据了解,云从与华为合作的一体机产品主要分为两类,包括“训推一体机”和面向推理需求的一体机。
“对于一体机,至少分为三个不同的价格档次。这仅仅是针对单台设备,不包括客户有其他多台设备或集群的情况。关于训推一体机,我们的价格大致处于百万级别,高端机大约在三四百万元的范围内。由于不同客户的需求和数据负载不同,因此在配置和报价方面也可能存在差异:在中档旗舰训练部分,报价大致在一百万元以下;与其他一些厂商的一体机相比,价格更低的产品,报价大约在30万元左右。”
在一些边缘场景中,有时可能并不需要GPU,而是采用被称之为"盒子"的设备,“这类需求价格更为经济,可能更为广泛,会涉及到一系列的产品,通过我们的生态系统,提供鼠标、一体机、盒子等一整套的产品,价格在几万块钱的范围内。我们会根据不同的层级在市场上展开相应的布局。”
对于后续订单情况,云从科技方面称,第四季度已经有一些在谈订单。“而明年的整体业务体量,因为当前是与伙伴一起在推的,短期内还没有明确的放量,但整个市场空间还是比较乐观的。“
▍明年有望迎来市场爆发 产能仍受限
对于整体的市场需求,云从科技相关负责人认为,一方面对于国产信创需求的增加和对合规、私有化部署的重视,二是对数据要素和基于大模型的应用侧变化的重视。“明年被强调为应用的元年,预计将涌现更多的应用场景,市场规模庞大,尤其在IT部分的升级和场景需求明确的私有化部署方面,将带来巨大的市场机会。”
在市场空间方面,云从科技计划在整个市场中占据至少10%以上的份额,并通过与华为的渠道合作来实现。“具体的数字和量化数据还在与伙伴一起深入研究和细分,将在未来明确。总体而言,从今年开始试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”
目前,云从科技正与华为探讨产能问题,以确保能够满足市场需求。“在推广方面,我们首先会完成典型新客户的落地,然后从总部向下逐级推广至各个分支机构。以电力行业为例,涉及到各个省份的网公司、电厂、石油化工企业等,总计超过5000家。通过这样的场景推广,我们有望覆盖更广泛的市场份额。”
除了云从科技外,中软国际、云天励飞等也都纷纷入局算力一体化产品。中软国际发布公告称,与华鲲振宇签署全面战略合作协议,在大模型应用领域,双方将面向金融、制造等行业,联合推出基于模型实验室的昇腾训推一体机产品,提供开箱即用服务;面向政府市场,联合推出JointPilot“四问(问数、问视、问策、问服)”系列大模型一体机。
云天励飞方面对《科创板日报》记者表示,公司于2015年起就与华为形成合作关系,作为昇腾万里伙伴计划的成员,前期已基于昇腾AI基础软硬件平台,推出一系列产品及解决方案,包括动态人像系统深目,多维大数据分析系统深海,视频结构化系统深萃,以及AI算法服务平台深智等。
据悉,云天励飞联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机,其内置了自主研发的天书千亿级大模型。
该一体机通过与华为昇腾910芯片硬件加速平台在算子加速库及工具链等方面的优化,采用全国产化的大模型和硬件计算平台,集成“开箱即用”系列训推工具,能满足面向多业务场景的大模型高并发高能效处理、业务快速上线的需求。此外,也支持用户进行二次开发和敏捷部署,满足了用户个性化和灵活的使用需求。
此外,智谱AI与昇腾合作的天智ChatGLM训推一体机,也已经通过华鲲振宇等渠道进行组装和销售。相关产业链人士告诉《科创板日报》记者,智谱大模型的优势在于语言领域,其一体机主要的应用行业包括电商、金融、保险等。
“天智ChatGLM训推一体机的优势在于,支持中英双文的流畅对话,可以用于电商的智能客服等场景。在报价上,根据卡数的不同,从几十万到上百万不等。”
基于华为鲲鹏+昇腾产业生态,神州数码则打造了神州鲲泰系列产品,推出了神舟鲲泰问学一体机。
神舟数码相关负责人向《科创板日报》介绍,2022年,神州数码基于与昇腾的深度合作,推出神州鲲泰 KunTai AT200中心训练服务器序列、神州鲲泰 KunTai AI200整体推理服务器系列和神州鲲泰 KunTai AE200的边缘服务器系列等三个系列产品。目前,结合神州问学Gen-AI企业落地应用最佳实践,正是强化“昇腾产业生态”的投入与布局,致力于打造人工智能全栈产品和技术解决方案。
【2024澳门新资料大全免费,新】 | 【中方代表谈伊核危机】 | 【2024澳门开奖结果记录】 | 【澳门码今晚开奖结果】 | 【男生估分600只考了397】 | 【东方心经2024年最新版】 | 【香港今天晚上开奖结果】 | 【8433澳门彩】 |
推荐文章
官方已“拉黑”海马体照片,2024考研明确规定,女大学生坐不住了
对于后续订单情况,云从科技方面称,第四季度已经有一些在谈订单。...
平台“抢跑”“战线”拉长,“双十一”还能讲出什么“新”故事?没有阳刚之气就别演硬汉,41岁阮经天转型,给了多少小鲜肉一巴掌
“对于一体机,至少分为三个不同的价格档次。...
近期,中国多地爆发诺如病毒感染事件,引起了广泛关注。
“天智ChatGLM训推一体机的优势在于,支持中英双文的流畅对话,可以用于电商的智能客服等场景。...
小米 SU7 Ultra 震撼定价,8149万!雷军:地表最快!
在中档旗舰训练部分,报价大致在一百万以下。...
最新评论
Mona 2024-11-16 19:14
整个市场上,合作方各自发挥优势,联合推动产品上市,不存在所谓的分成模式。
IP:29.85.2.*
松冈惠望子 2024-11-16 14:16
这仅仅是针对单台设备,不包括客户有其他多台设备或集群的情况。
IP:82.64.5.*
刘仲元 2024-11-16 23:23
“总体而言,从今年试点落地到明年,我们预计将迎来市场爆发。
IP:44.44.5.*