李开复:大模型即将“洗牌”,估计活下来的不多

发布日期:2024-11-13 22:23

来源类型:百度百科 | 作者:邓九云

阅读提醒: “百模大战”正酣,谁能真正脱颖而出? 12月28日消息,创新工场董事长兼CEO、零一万物CEO李开复在接受媒体采访时表示,中国人工智能领域的竞争仍然处在预选赛阶段。在经历行业大“洗牌”过后,最...
【新澳资料免费最新】 【2024新澳门精准免费大全】 【新澳好彩免费资料查询最新版本】 【新澳精准资料免费提供网】 【2024正版资料大全】 【2023资料免费大全】 【澳门天天免费资料大全192.1】 【2024年澳门天天好彩资料】 【香港好彩二四六免费资料大全澳门】 【港澳图库app官网下载】 【新澳最新最快资料】 【新澳天天开奖资料大全下载安装】 【2024新澳最快最新资料】

“百模大战”正酣,谁能真正脱颖而出?

12月28日消息,创新工场董事长兼CEO、零一万物CEO李开复在接受媒体采访时表示,中国人工智能领域的竞争仍然处在预选赛阶段。在经历行业大“洗牌”过后,最终只有几个大赢家,还有部分企业可能会体面地退出,但大多数企业要么半途而废,要么转向更实际的目标,比如为特定行业构建应用和解决方案。

李开复表示,中国的大模型公司正处于技术验证阶段,它们需要证明自己有能力开发出高质量的模型。而那些通过考验的公司将迈向下一阶段,即如何增加收入并实现盈利。

在谈及中国AI公司前景时,李开复称,他更倾向于在全球范围内展开竞争,未来有机会为不同的国家构建不同的特殊模型。

今年夏天,李开复闯进了大模型的赛道,创立AI公司零一万物,并在上月发布了预训练大模型Yi-34B。与此同时,零一万物已完成新一轮融资,估值超过10亿美元,在成立不到8个月的时间即跻身独角兽行列。

Yi-34B在关键指标上胜过市场上已有的领先开源模型,在Hugging Face英文开源社区平台和C-Eval中文评测的榜单上曾爬升至第一位。目前,零一万物正在开发一种新的专有模型,参数超过1000亿。

李开复在采访中还谈到芯片库存问题,他称现有的库存足够零一万物使用18个月。

以下为李开复接受科技媒体《The Information》采访全文:

问:中国目前有数十家公司都在开发大语言模型,接下来会发生什么?

李开复:我认为中国以前也曾出现过很多类似现象,例如团购风潮、共享单车应用的兴起,以及在深度科技领域,比如计算机视觉和语音识别技术。当计算机视觉证明取得了突破性进展时,无数中国企业争先恐后地涌入,试图在这个行业分一杯羹。然而,大多数企业最终并未能生存下来。中国是一个竞争非常激烈的市场,甚至可能比美国还要激烈。

目前,中国人工智能领域的竞争仍然处在预选赛阶段。首先面临的考验是:在百家争鸣的竞争中,哪家公司能开发出真正有价值的高质量模型?只有模型表现出色,才有可能在实际应用中崭露头角。否则,它会更像是一个玩具,而不能解决实际问题。

在预选赛中通过技术考验的企业将进入下一阶段:商业价值阶段。你的商业模式是什么?如何盈利?很快,投资者将根据这些公司的损益表来评估其价值,并提出与云服务提供商、企业软件公司和消费者应用程序相同的问题。如果企业无法回答这些问题,那么它们的增长将面临终结。

在美国,OpenAI已经证明它拥有世界领先的技术,并且能够创造收入。由于它创造了足够的价值,人们愿意在其上构建应用程序并为之付费。

而在中国,我们最终只有几个大赢家,还有部分企业可能会体面地退出,但大多数企业要么半途而废,要么转向更实际的目标,比如为特定行业构建应用和解决方案,而不是单纯地追求大模型的研发。随着时间的推移,开发大模型的成本将越来越高。

问:中国AI初创公司及其投资者表示,中国将为生成式AI模型和应用开发自己的生态系统。你对此有何看法?

李开复:我们都不想看到平行宇宙的出现。我们更倾向于在全球范围内展开竞争,让真正出色的公司脱颖而出,这样效率才更高。但是,我们无法完全掌控自己的命运。

如果我们想进入美国市场,虽然没有规定说我们不能进入,但我不认为我们会得到很多业务。当前美国市场对中国软件存在一种不公平的偏见,这是我们不得不面对的现实。

我们对中国以外的商机持开放态度,但我们完全理解,有些事情是不可能的。比如,将我们的专有模型卖给美国公司是不可能的。他们不会购买,我们也不会做无用功。

中国显然蕴藏着着巨大的机遇,但我不会将世界其他地区排除在中国公司可能进入的地区之外。一般来说,硅谷的做法是一刀切的,这或多或少对Facebook和谷歌等公司的崛起中起到关键作用,并帮助美国取得了市场主导地位。但这次有所不同,因为大语言模型是在数据基础上进行训练的。而数据伴随着偏见、意识形态和价值观的问题。美国的价值观在某些国家并不受欢迎,甚至不被接受。中国不会是唯一的国家。我认为中东是另一个可能希望以不同方式思考问题的地区。这将导致各国希望对其模型有更多的控制权。

我确实认为,有机会为不同的国家构建不同的特殊模型。这是硅谷公司自然不会做的事情,因为他们觉得自己的价值观是正确的价值观,并希望更多的人能够接受并融入其中。而且,为不同市场构建不同的大模型,需要大量的工程工作。因此,硅谷公司不愿意开发这类模型。包括中国在内的世界其他地区的公司,可能有机会研究这种模型。但显然,他们必须赢得用户和各国政府的信任。

问:有媒体报道称,你们公司成功降低了Yi-34B的AI训练成本。你们是如何做到的?

李开复:我们拥有超级强大的基础设施团队,他们可是我们公司规模最大的团队。我之前就跟员工们说过,每增加一个建模人员,GPU的负担就加重一分。但是每加一个基础架构人员,GPU的效率就能提升一些。当然,我们也需要强大的建模团队,但从一开始,我们的首要任务就是建立一个强大的基础设施团队。

基础设施团队的成员就像是无名英雄一样。他们得负责硬件、软件还有海量的数据传输,得同时处理GPU、内存和网络,这三者中的任何一个都可能成为瓶颈。

要知道,GPU很难扩展到数千以上。从2000个增加到8000个的时候,你不可能简单地用软件就能搞定,因为随着你转向更大的模型和更大的数据集,网络需求也会发生巨大变化。

我们的基础设施团队里有好几十名工程师,是目前零一万物最大的团队。他们的工作包括研究怎么使用FP8(英伟达H100芯片的一种数据格式)来大幅减少计算量,还要弄清楚在哪里使用FP8,在哪里使用其他数据格式,以及如何无缝地转换它们。除了这些,他们还得解决一系列头疼问题,比如应该使用什么网络协议、怎么优化编译器、怎么处理GPU故障等等。实际上,GPU经常出故障。要是一个GPU出现故障,可以热插拔呢?我们仍在努力解决这个问题。如果在一个拥有上千个GPU的集群里,就因为一个GPU故障而让你的训练停了一个小时,要是能进行热插拔,那么每天就能节省一个小时。这些时间可以积少成多。

还有一个相关的事情就是弹性训练。如果你有一个由2000个H100芯片组成的集群,而你只需要500个来执行某个任务,那你可以在检查点之间把它们移除,然后再添加回来吗?这些任务并不是AI研究人员该干的,而更多是属于网络工程师的工作。

如果把大语言模型的开发比作火箭科学,那么如果没有工程师,火箭将会永远飞不起来。SpaceX的成功不仅仅是因为它有大量研究人员,还因为它做了大量超级复杂的工程工作。

问:美国限制向中国出口先进半导体技术,包括英伟达的先进芯片。你是如何应对的?

李开复:我公开说过,我们的芯片库存足够使用18个月。这些芯片基本上是我们在限制措施出台前购买的。我们肯定在努力研究如何使用中国芯片,但这并不容易。对它们进行编程不是我们所熟悉的领域。但如果我们必须要这么做,我们也会勇敢地接受挑战。

英伟达的芯片非常出色,但有人可能会认为,更简单的芯片可以以更低的成本完成这项工作。但英伟达实力强大背后的一个主要因素是围绕其CUDA软件库的整个生态系统,这使得编程变得相对容易。如果你强迫工程师们使用非英伟达的芯片,他们基本上会反对,因为这类芯片的效率要低得多。但我们目前面临的困境要到18个月后才会显现,而我们必须更早展开行动。如果我们无法获得英伟达的芯片,我们将寻找更简单、更专注于转换器的芯片,但工程师们编程起来会很痛苦。可是,如果我们别无选择,那就只能这么做。

众所周知,中国工程师有能力、有决心,他们可以出色地应对这种被认为艰巨的工程挑战。这与我之前所说的基础设施团队的工作类似。学习使用非常少的库来对新的非标准GPU进行编程,也是一项艰巨的工作。

中国企业家是顽强的,中国工程师很勤劳,他们不怕繁重的工作。这正是美团打造卓越服务的原因,也是微信成为卓越产品的原因。

的确,我们面临有许多艰巨的挑战,你可以说它们是浪费时间和精力。但这是我们手中拿到的牌,所以我们会尽我们最大的努力打好这些牌。

本文来自华尔街见闻,欢迎下载APP查看更多

【2024新澳资料免费大全】 【澳门正版资料免费大全新闻】 【二四六天天好(944cc)246天彩香港挂牌全篇】 【新澳免费资料网站大全】 【2024新澳精准资料大全】 【2024新澳免费资料图片】 【资料大全正版资料免费】 【2024新澳资料免费精准051】 【二四六澳门免费全全大全】 【新澳天天开奖资料大全最新100期】 【新澳门精准免费资料大全】 【新澳门彩历史开奖记录走势图】 【2024新澳天天资料免费大全】 【2024新奥今晚开奖号码】
【新奥天天免费资料大全】 【新澳门彩历史开奖记录走势图香港】 【新澳天天彩免费资料大全特色】 【澳门六开彩天天免费查询】 【新澳免费资料大全精准版】 【新澳资料大全正版资料2024年免费】 【新澳好彩免费资料查询最新】 【全年资料免费大全】 【2024新奥门正版资料免费提拱】 【新澳资料最准的网站】 【7777788888王中王传真】 【二四六澳门免费资料大全】 【新奥正版全年免费资料】 【新门内部资料精准大全最新章节免费】

下载中心

视频封面

视频名称:中国只用了3年救活一个西方100年都没能改变的国家,如今变化喜人

大小: 1.6GB 下载:(674090) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:第十七届上海民进教育论坛举行橘子皮晒干后能当陈皮用吗?这篇文章告诉你

大小: 6.1GB 下载:(128148) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:黄圣依再次选择离婚,16年婚姻画上句号,爱与不爱已很明显

大小: 4.6GB 下载:(96359) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:靠着 Meta AI 的新技术,机器人也能有“触觉”了?

大小: 5.3GB 下载:(637861) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:无法克服拖延、注意力不集中的成年人,可能是生病了3年前,宁夏7岁小女孩一笑走红,后拒百万签约,如今怎么样了?

大小: 8.3GB 下载:(474976) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:震撼市场!央行宣布3000亿回购,投资者如何应对?

大小: 8.1GB 下载:(83668) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:不结婚的年轻人,对单身父母反向催婚,网友愤怒

大小: 2.3GB 下载:(853332) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:感动全网!父母因病相继离世,19岁哥哥独自带着年幼妹妹生活

大小: 3.6GB 下载:(816349) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中信建投官宣金剑华任总经理,“投行老将”面临业绩下滑挑战

大小: 7.3GB 下载:(562311) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:小马科斯抢在特朗普上任前搞事!老杜终于等到机会,南海局势有变

大小: 6.4GB 下载:(79075) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:发布会重磅!直接安排10万亿元,一文速览要点回顾:21年前,“女子十二乐坊”爆火,去日本发展后,结果如何?

大小: 8.4GB 下载:(691235) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:女子6次敲诈海底捞,被判处有期徒刑7个月

大小: 9.3GB 下载:(290108) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:太好笑了!富婆被骗3920万元实名举报,网友在评论区玩起了拍卖!

大小: 2.2GB 下载:(347801) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“汽”势“郑”盛,双向奔赴:郑州汽车产业何以更强?

大小: 2.2GB 下载:(871088) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:郑钦文不敌高芙,获得总决赛亚军,不过她已追平李娜成就

大小: 1.9GB 下载:(985792) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“疯狂好六夜”节目单公布

大小: 1.9GB 下载:(838206) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:排面!央视新闻联播23秒报道郑钦文晋级年终决赛,10月以来第6次

大小: 3.1GB 下载:(455405) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:降息25个基点!美联储主席“硬刚”特朗普!

大小: 3.6GB 下载:(359924) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中方划下一圈线,黄岩岛斗争完胜收尾,菲方不得踏入圈内半步

大小: 7.3GB 下载:(548128) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:人民日报仲音:观察中国经济的三个视角

大小: 6.5GB 下载:(255949) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:WTT冠军赛 女单决赛名单产生 王曼昱3:1

大小: 3.9GB 下载:(16624) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:广州国际灯光节今晚开幕 必看亮点与交通指南

大小: 8.5GB 下载:(724900) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:打工人午休,流行去新中式推拿店“回血”丨南财号联播3年前,宁夏7岁小女孩一笑走红,后拒百万签约,如今怎么样了?

大小: 1.7GB 下载:(671695) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:2024年11月普通话水平测试即将开考

大小: 8.1GB 下载:(629299) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:全国政协常委张杰:加强科教融合,畅通教育、科技、人才良性循环3年前,宁夏7岁小女孩一笑走红,后拒百万签约,如今怎么样了?

大小: 8.1GB 下载:(637584) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:玻璃大王曹德旺:三段人生,三个全力以赴的故事

大小: 8.1GB 下载:(192065) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:爆冷击败韩国,约旦队首进亚洲杯决赛“有理有据”

大小: 7.2GB 下载:(412562) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:女子跟男友同居未婚先孕,男方不给彩礼跳河轻生,亲妈都不要她了《黑色月光》来袭:TVB 复仇爽剧,你准备好了吗?

大小: 7.1GB 下载:(741792) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:拼多多百亿补贴启动第二轮“超级加倍补”,首轮订单量超过1640万单

大小: 9.6GB 下载:(33763) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:菲律宾在提醒我们,人均航母还是太少了

大小: 7.5GB 下载:(22724) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:​媒体盛会相聚成都:开启“一带一路”黄金二十年新格局!

大小: 1.7GB 下载:(13872) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)

评论

打开APP查看28条评论

蜜雪薇琪

3秒前

这些时间可以积少成多。

Keong

2分钟前

Yi-34B在关键指标上胜过市场上已有的领先开源模型,在Hugging Face英文开源社区平台和C-Eval中文评测的榜单上曾爬升至第一位。

道化

7天前

如果在一个拥有上千个GPU的集群里,就因为一个GPU故障而让你的训练停了一个小时,要是能进行热插拔,那么每天就能节省一个小时。

发表您的评论: