游人小说网 > 重生2009:我靠投资成首富 > 第 378 章 我全都要

第 378 章 我全都要


灵犀发布后的第三天,陆尧在联想总部召集了一场闭门战略会。

参会的人比以往任何一次都多——倪光南、杨元庆、余凯、朱一鸣、李晓军、AI研究院负责人、战略部负责人,加上法务总监和财务总监。

会议室里坐了十几个人,门关上之前,陆尧对赵恒说了一句:“外面的人不要放进来,会议内容不记录,不发纪要。”

议题只有一个,但这件事比发布灵犀更大。

“灵犀的发布,市场反响很好。”陆尧在长桌一端坐下,声音不高,“外媒的评价正面,国内同行的反应积极,音浪上的讨论量突破了二十亿。

但我在看这些反馈的时候,注意到一个信号,很多人问了一个问题——灵犀的端侧模型只有五十亿参数,体验是ChatGPT的八成。

那剩下两成怎么办?云端大模型,联想到底做不做?”

会议室里安静了几秒。

财务总监先开口了,语速不快但语气很紧:“陆总,云端大模型的投入跟端侧完全不是一个量级。

OpenAI从GPT-1到ChatGPT烧了将近一百亿美元,微软投了一百亿才拿到46%的股权。

国内的大模型公司,阿里投了通义,百度投了文心,字节投了火山,每一家的投入都在几十亿到上百亿人民币。

联想如果要自研云端大模型,第一年的投入至少要一百亿人民币起步,而且短期内看不到回报。”

“一百亿是起步价。”战略部负责人接过话,“云端大模型的训练成本每年都在涨,算力、数据、人才,三样都是无底洞。

而且云端大模型赛道上已经挤满了人,OpenAI、谷歌、阿里、百度、字节,每一家都比联想跑得早。

联想现在进场,是拿自己的短板去拼别人的长板。”

倪光南坐在长桌的另一端,一直没说话。陆尧看向他:“倪院士,你的意见呢?”

倪光南翻开笔记本,上面是他这两天写的几页分析。

他没有直接讲技术,先讲了一个判断:“端侧AI的天花板是看得见的,五十亿参数的模型跑在征程四代上,体验做到ChatGPT的八成,已经是端侧芯片的极限了。

再往上,要么芯片功耗扛不住,要么用户体验断崖式下跌。

端侧AI做的是日常对话和本地推理,复杂任务和多轮推理必须靠云端。

灵犀如果没有云端能力,它就是一个功能,不是一个完整的AI助手。”

他停了一下,然后说了一句让会议室里所有人都坐直了的话:“联想做云端大模型,不是为了跟OpenAI正面竞争。

联想做云端大模型,是为了给端侧AI配一个云端的大脑。

端侧负责轻量推理和隐私保护,云端负责复杂计算和知识更新,两条腿走路,才能真正跑起来。”

余凯点了点头:“从芯片的角度看,地平线的征程系列是端侧芯片,云端训练和推理能力还是差了一些。

如果联想要做云端大模型,算力集群的芯片只能从英伟达买。

英伟达的H100和A100是云端训练的标准配置,没有替代方案。

而且英伟达的芯片产能紧张,订货周期已经排到了明年下半年。”

“那就先订。”陆尧开口了。

会议室里安静了一拍。财务总监抬起头,看着陆尧:“陆总,英伟达的H100显卡单价超过三万美元,如果按十万张的规模采购,采购金额超过三十亿美元。

这还不包括配套的服务器、网络和存储设备。

第一年的投入可能在五十亿美元以上。”

“不用那么多。”陆尧说,“先订十亿美元。三万张H100,加上配套的服务器和网络设备。

够不够?”

余凯快速算了一下:“三万张H100,按每张卡支持十个训练任务并行计算,够跑一个千亿参数级别的云端大模型。

但训练周期会比较长,可能需要半年到八个月。

如果要把训练周期压到三个月以内,至少要五万张卡。”

“先订三万张。”陆尧说,“训练周期长一点没关系,先把算力底座搭起来,后面根据训练进度再追加。”

财务总监还想说什么,陆尧抬手压了一下:“我知道你要说什么,云端大模型的投入大、周期长、风险高。

但我要提醒在座各位一件事——端侧AI的天花板是看得见的。

灵犀的端侧模型跑在征程四代上,五十亿参数已经是极限了。

明年征程五代出来,端侧模型的参数量可以做到一百亿,体验可以做到ChatGPT的九成。

再往后呢?两百亿?三百亿?端侧芯片的功耗和散热是有物理极限的,端侧AI的体验天花板就是ChatGPT的九成了下来。

剩下那一成,必须靠云端。”

他站起来,走到白板前,画了一条线。线的左边写着“端侧AI”,右边写着“云端AI”。

中间画了一个箭头,从端侧指向云端。

“联想的路线,是端云协同。

他端侧负责轻量推理和隐私保护,云端负责复杂计算和知识更新。

两条腿走路,才能真正跑起来。

灵犀的端侧模型已经跑通了,开源的生态也放出去了,下一步,是把云端大模型做出来。”

他转过身,看着会议室里的所有人:“十亿美元采购英伟达显卡,这个决定我今天拍了。

财务部明天启动采购流程,余凯对接英伟达的销售团队,李晓军对接服务器和网络设备的供应商。

明年一季度,算力集群要通电。”

会议结束之后,倪光南留走到陆尧旁边,说了一句:“陆总,十亿美元的采购,财务总监那边压力很大。”

“我知道。”陆尧说,“但这件事不能等,英伟达的芯片产能紧张,订货周期已经排到了明年下半年。

如果现在不订,明年一季度都拿不到货。

云端大模型的算力底座,早一天搭起来,训练就能早一天开始。”

倪光南点了点头:“云端大模型的训练,我建议从千亿参数起步。

不要一上来就做万亿参数,先做一个千亿参数的模型,把训练流程跑通,把数据  pipeline  搭好。

千亿参数的模型,体验可以做到ChatGPT的九成以上,够用了。”

“可以。”陆尧说,“千亿参数起步,训练周期六个月,明年年中,云端大模型的第一版要出来。”

倪光南记下,转身走了出去。

陆尧重新坐回办公桌前,翻开李晓军提交的英伟达芯片采购方案。

方案的第一页写着——三万张H100显卡,单价三万美元,总额九亿美元。

加上配套的服务器、网络和存储设备,总额十亿美元。

方案的第二页写着——英伟达的产能紧张,订货周期六个月,明年一季度交付第一批,二季度交付完毕。

他拿起笔,在方案上签了字。

窗外十二月的燕京天色灰沉,中关村的楼群在午后的薄雾中连成一片模糊的轮廓。

从端侧AI到云端AI,从十亿美元采购到千亿参数模型,这一步是必须要做的。

端侧AI是联想的现在,云端AI是联想的未来。


  (https://www.yourenxs.cc/chapter/5454416/55035743.html)


1秒记住游人小说网:www.yourenxs.cc。手机版阅读网址:m.yourenxs.cc