第 363 章 ChatGPT的爆火
十一月三十日，燕京。
陆尧是在深夜十一点看到这条消息的。
他刚开完联想控股的季度战略会，回到公寓，洗完澡坐在沙发上，手机屏幕亮了一下。
是余凯发来的链接，标题写着“OpenAI发布ChatGPT，五天用户破百万”。
链接下面附了一句话——“陆总，你看一下，这个模型的能力比我们预想的还要强。”
陆尧点开链接，把ChatGPT的演示视频看了一遍。
屏幕上，一个对话框，用户输入问题，模型即时给出回答。
写代码、写邮件、翻译、解释概念，甚至能模仿特定风格写文章。
他看了两遍，然后把手机放在茶几上，靠在沙发上想了几分钟。
OpenAI的GPT系列他一直都在关注。
2020年GPT-3发布的时候，他就让倪光南的团队做过技术评估。
那时候的结论是，GPT-3的云端推理模式对端侧设备不友好，参数规模太大，功耗太高，无法在手机和PC上本地运行。
联想的路线是端侧大模型，参数规模控制在百亿以内，用地平线的芯片做本地推理。
这条路走了三年，从十亿参数做到五十亿参数，从纯文本做到多模态。
但ChatGPT不一样。
它的用户体验是颠覆性的，对话式交互、即时反馈、极强的通用能力。
陆尧在视频里看到一个用户让ChatGPT写一首诗，模型在三秒内生成了一首押韵工整的五言绝句。
另一个用户让ChatGPT解释量子纠缠，模型用一段通俗的比喻把概念讲清楚了。
这种能力，联想的端侧模型目前做不到。
他拿起手机拨了倪光南的号码。
响了四声，那头接起来，八十岁老人的声音在深夜听不出困倦：“陆总，你看到消息了？”
“看到了。”
“我看了三遍。”倪光南说，“GPT-3.5的架构跟GPT-3一脉相承，但OpenAI在指令微调和人类反馈强化学习上做了大量优化，效果提升很明显。”
“我们的端侧模型，差距在哪里？”
倪光南在电话那头沉默了两秒，然后说了一句很直接的话：“差距在交互体验，不在底层能力。
我们的五十亿参数端侧模型在推理速度和隐私保护上有优势，但对话的流畅度和通用性不如ChatGPT。
ChatGPT是纯云端方案，参数规模是千亿级别，我们端侧跑不了。”
“如果我们也做云端呢？”
“可以做，但联想的优势不在云端。”倪光南说，“云端大模型需要海量算力和数据，那是阿里、百度和字节的战场。
联想的核心能力在端侧，在设备上。
我们的端侧大模型跑在地平线芯片上，数据不出设备，延迟低，隐私强。
这条路OpenAI没有走，谷歌和苹果也还没走通。
如果我们坚持端侧路线，做出一个能在手机和PC上本地运行、体验接近ChatGPT的模型，那才是真正的差异化。”
陆尧靠在沙发上，想了几秒。
倪光南说得对。
联想的定位不是做第二个OpenAI，是做第一个端侧大模型的公司。
ChatGPT验证了大模型的通用能力，但它的云端模式有天然的瓶颈——依赖网络，数据要上传，延迟不可控。
联想有一亿台活跃设备，每年出货几千万台PC和手机。
如果端侧大模型的体验能做到ChatGPT的八成，用户就没有理由把数据交给云端。
“倪院士，”陆尧说，“我们的端侧大模型，什么时候可以发布？”
“原计划是明年二季度。”倪光南说，“但如果你要提前，下个月可以出一个预览版。
参数规模还是五十亿，但对话体验可以优化。
我把团队调到端云协同模式——端侧跑轻量对话，复杂任务转发云端。
用户觉得是本地在回答，实际上端云无缝切换。”
“下个月发。”陆尧说，“不要叫‘中国版ChatGPT’。叫联想灵犀。
端侧大模型，本地运行，数据不出设备，这是我们的定位，不要跟ChatGPT比参数，比隐私和延迟。”
挂了电话之后，陆尧又拨了余凯的号码。
余凯显然也在加班，电话接起来的时候背景里有键盘声。
“陆总，征程五代的架构方案我重新过了一遍。”余凯说，“如果端侧大模型要支持对话式交互，推理的峰值算力要求比现在高。
征程五代的设计目标要往上提，128TOPS可能不够，要往256TOPS走。”
“来得及吗？”
“架构改一版，明年二季度流片，三季度量产。”余凯说，“但如果要提前到明年一季度，只能先用征程四代做适配。
征程四代的64TOPS算力跑五十亿参数的对话模型，推理速度会慢一些，但能用。”
“先用四代。”陆尧说，“体验可以慢慢优化，但发布时间不能等。
OpenAI已经跑出去了，我们如果等半年再发，市场就不会把我们当第一梯队。”
挂了余凯的电话，陆尧又给朱一鸣发了一条消息：“长兴存储的HBM产能，明年能不能再扩一倍？端侧大模型对内存带宽的要求比普通推理高很多。
”朱一鸣回得很快：“已经在规划了，三期扩产的设备里有一条HBM专线，明年二季度投产。
如果需求再往上走，四期可以提前立项。”
陆尧把手机放在茶几上，站起来走到窗前。
十二月的燕京深夜，中关村的楼群在夜色中只剩一片模糊的轮廓，远处国贸三期的灯光在灰蓝色的天幕下泛着冷白色的光。
他想起2019年端侧大模型刚立项的时候，倪光南说“等到了”。
三年过去了，OpenAI用ChatGPT证明了大模型的价值，但联想走了一条不一样的路。
这条路更窄、更难，但如果走通了，会比云端大模型更扎实。
他拿出手机，给王岳发了一条消息：“音浪上准备一个专题，叫‘端侧AI’。
把联想灵犀的端侧大模型、地平线的征程芯片、长兴存储的HBM放在一起讲。
让用户知道，大模型不一定要在云端跑，也可以在手机和PC上本地跑，数据不出设备。”
王岳回了一个字：“好。”
陆尧把手机放进口袋，重新坐回沙发上。
茶几上还摊着那份季度战略会的文件，最上面一页写着“2023年联想AI战略规划”。
他拿起笔，在“端侧大模型发布时间”那一栏旁边写了一行字——“12月，灵犀预览版。对标ChatGPT，差异化在端侧。”
他把文件合上，靠在沙发上闭了一会儿眼。
窗外的燕京深夜安静而沉缓，远处国贸三期的灯光在夜色中连成一片密集的光带。
OpenAI发布了ChatGPT，全球科技圈都在讨论。
但陆尧关心的不是ChatGPT本身，而是它验证的那条路——大模型是下一代计算平台的入口。
联想的入口在端侧，在地平线的芯片上，在长兴存储的HBM里，在每一台联想设备的本地推理中。
(https://www.yourenxs.cc/chapter/5454416/55112913.html)
1秒记住游人小说网：www.yourenxs.cc。手机版阅读网址：m.yourenxs.cc