第 378 章 我全都要
灵犀发布后的第三天,陆尧在联想总部召集了一场闭门战略会。
参会的人比以往任何一次都多——倪光南、杨元庆、余凯、朱一鸣、李晓军、AI研究院负责人、战略部负责人,加上法务总监和财务总监。
会议室里坐了十几个人,门关上之前,陆尧对赵恒说了一句:“外面的人不要放进来,会议内容不记录,不发纪要。”
议题只有一个,但这件事比发布灵犀更大。
“灵犀的发布,市场反响很好。”陆尧在长桌一端坐下,声音不高,“外媒的评价正面,国内同行的反应积极,音浪上的讨论量突破了二十亿。
但我在看这些反馈的时候,注意到一个信号,很多人问了一个问题——灵犀的端侧模型只有五十亿参数,体验是ChatGPT的八成。
那剩下两成怎么办?云端大模型,联想到底做不做?”
会议室里安静了几秒。
财务总监先开口了,语速不快但语气很紧:“陆总,云端大模型的投入跟端侧完全不是一个量级。
OpenAI从GPT-1到ChatGPT烧了将近一百亿美元,微软投了一百亿才拿到46%的股权。
国内的大模型公司,阿里投了通义,百度投了文心,字节投了火山,每一家的投入都在几十亿到上百亿人民币。
联想如果要自研云端大模型,第一年的投入至少要一百亿人民币起步,而且短期内看不到回报。”
“一百亿是起步价。”战略部负责人接过话,“云端大模型的训练成本每年都在涨,算力、数据、人才,三样都是无底洞。
而且云端大模型赛道上已经挤满了人,OpenAI、谷歌、阿里、百度、字节,每一家都比联想跑得早。
联想现在进场,是拿自己的短板去拼别人的长板。”
倪光南坐在长桌的另一端,一直没说话。陆尧看向他:“倪院士,你的意见呢?”
倪光南翻开笔记本,上面是他这两天写的几页分析。
他没有直接讲技术,先讲了一个判断:“端侧AI的天花板是看得见的,五十亿参数的模型跑在征程四代上,体验做到ChatGPT的八成,已经是端侧芯片的极限了。
再往上,要么芯片功耗扛不住,要么用户体验断崖式下跌。
端侧AI做的是日常对话和本地推理,复杂任务和多轮推理必须靠云端。
灵犀如果没有云端能力,它就是一个功能,不是一个完整的AI助手。”
他停了一下,然后说了一句让会议室里所有人都坐直了的话:“联想做云端大模型,不是为了跟OpenAI正面竞争。
联想做云端大模型,是为了给端侧AI配一个云端的大脑。
端侧负责轻量推理和隐私保护,云端负责复杂计算和知识更新,两条腿走路,才能真正跑起来。”
余凯点了点头:“从芯片的角度看,地平线的征程系列是端侧芯片,云端训练和推理能力还是差了一些。
如果联想要做云端大模型,算力集群的芯片只能从英伟达买。
英伟达的H100和A100是云端训练的标准配置,没有替代方案。
而且英伟达的芯片产能紧张,订货周期已经排到了明年下半年。”
“那就先订。”陆尧开口了。
会议室里安静了一拍。财务总监抬起头,看着陆尧:“陆总,英伟达的H100显卡单价超过三万美元,如果按十万张的规模采购,采购金额超过三十亿美元。
这还不包括配套的服务器、网络和存储设备。
第一年的投入可能在五十亿美元以上。”
“不用那么多。”陆尧说,“先订十亿美元。三万张H100,加上配套的服务器和网络设备。
够不够?”
余凯快速算了一下:“三万张H100,按每张卡支持十个训练任务并行计算,够跑一个千亿参数级别的云端大模型。
但训练周期会比较长,可能需要半年到八个月。
如果要把训练周期压到三个月以内,至少要五万张卡。”
“先订三万张。”陆尧说,“训练周期长一点没关系,先把算力底座搭起来,后面根据训练进度再追加。”
财务总监还想说什么,陆尧抬手压了一下:“我知道你要说什么,云端大模型的投入大、周期长、风险高。
但我要提醒在座各位一件事——端侧AI的天花板是看得见的。
灵犀的端侧模型跑在征程四代上,五十亿参数已经是极限了。
明年征程五代出来,端侧模型的参数量可以做到一百亿,体验可以做到ChatGPT的九成。
再往后呢?两百亿?三百亿?端侧芯片的功耗和散热是有物理极限的,端侧AI的体验天花板就是ChatGPT的九成了下来。
剩下那一成,必须靠云端。”
他站起来,走到白板前,画了一条线。线的左边写着“端侧AI”,右边写着“云端AI”。
中间画了一个箭头,从端侧指向云端。
“联想的路线,是端云协同。
他端侧负责轻量推理和隐私保护,云端负责复杂计算和知识更新。
两条腿走路,才能真正跑起来。
灵犀的端侧模型已经跑通了,开源的生态也放出去了,下一步,是把云端大模型做出来。”
他转过身,看着会议室里的所有人:“十亿美元采购英伟达显卡,这个决定我今天拍了。
财务部明天启动采购流程,余凯对接英伟达的销售团队,李晓军对接服务器和网络设备的供应商。
明年一季度,算力集群要通电。”
会议结束之后,倪光南留走到陆尧旁边,说了一句:“陆总,十亿美元的采购,财务总监那边压力很大。”
“我知道。”陆尧说,“但这件事不能等,英伟达的芯片产能紧张,订货周期已经排到了明年下半年。
如果现在不订,明年一季度都拿不到货。
云端大模型的算力底座,早一天搭起来,训练就能早一天开始。”
倪光南点了点头:“云端大模型的训练,我建议从千亿参数起步。
不要一上来就做万亿参数,先做一个千亿参数的模型,把训练流程跑通,把数据 pipeline 搭好。
千亿参数的模型,体验可以做到ChatGPT的九成以上,够用了。”
“可以。”陆尧说,“千亿参数起步,训练周期六个月,明年年中,云端大模型的第一版要出来。”
倪光南记下,转身走了出去。
陆尧重新坐回办公桌前,翻开李晓军提交的英伟达芯片采购方案。
方案的第一页写着——三万张H100显卡,单价三万美元,总额九亿美元。
加上配套的服务器、网络和存储设备,总额十亿美元。
方案的第二页写着——英伟达的产能紧张,订货周期六个月,明年一季度交付第一批,二季度交付完毕。
他拿起笔,在方案上签了字。
窗外十二月的燕京天色灰沉,中关村的楼群在午后的薄雾中连成一片模糊的轮廓。
从端侧AI到云端AI,从十亿美元采购到千亿参数模型,这一步是必须要做的。
端侧AI是联想的现在,云端AI是联想的未来。
(https://www.yourenxs.cc/chapter/5454416/55035743.html)
1秒记住游人小说网:www.yourenxs.cc。手机版阅读网址:m.yourenxs.cc