第 410 章 灵犀3.0
五月下旬,燕京,联想总部。
婚礼结束后的第二周,陆尧回到办公室。
桌上堆着几份待签的文件,最上面的一份是倪光南团队提交的灵犀端侧大模型最新进展报告。
他翻开第一页,封面上写着一行字——“灵犀V3.0:端侧百亿参数模型技术评估报告”。
报告日期是五月十九日,婚礼结束的第二天。
倪光南的团队在婚礼期间没有休息。
陆尧把报告逐页看完。
核心数据如下——灵犀端侧模型参数从五十亿提升到一百亿,在征程五代芯片上的推理速度达到每秒六十个token,功耗控制在五瓦以内。
端云协同的切换延迟压到了三十五毫秒,失败率降到了百分之零点五。
模型架构用了分组查询注意力和稀疏激活技术,在不损失精度的前提下把推理成本压了下来。
多模态能力同步升级,支持图像识别、语音转写和视频摘要,全部在端侧完成。
他拿起内线电话拨了倪光南的号码。
“倪院士,灵犀这一版的提升很大,一百亿参数,每秒六十个token,五瓦功耗,这个数据是怎么做到的?”
“两个原因。”倪光南的声音从电话里传来,带着一种被长期压力磨过之后终于松开的沉稳。
“第一,征程五代的算力比四代翻了四倍,四代跑五十亿参数已经是极限了,五代跑一百亿参数还有余量。
第二,我们把模型的架构重新设计了一遍,用了分组查询注意力和稀疏激活的技术,在不损失精度的前提下把推理成本压下来了。
端云协同的切换延迟也优化了,三十五毫秒,用户感觉不到端侧和云端的切换。”
“测试数据可靠吗?”
“跑了三周的压力测试。,端侧推理的准确率跟上一版持平,推理速度快了将近一倍。
端云切换的失败率从百分之零点八降到了百分之零点五。
这些数据都是实测的,不是仿真。测试机型是Take Fold三代和Yoga 2026款的工程样机,跑了一万多次对话,覆盖了中英文、多轮对话、图像识别、语音转写这些场景。”
倪光南停了一下,又补了一句,“另外,多模态能力的提升比预想的快,图像识别和语音转写的端侧准确率都到了百分之九十五以上。
视频摘要稍微慢一点,端侧处理一段五分钟的视频大概需要二十秒,但用户感觉不到明显的等待。”
“灵犀的这一版什么时候能推到用户端?”
“六月中旬,Take Fold三代、Yoga 2026款的预装版本已经在测试了。
如果一切顺利,六月中下旬开始推送OTA升级,第一批推送一百万台设备,第二批五百万台。”
倪光南翻开笔记本的声音从电话里传来,“另外,端云协同的云端部分也做了优化,引擎的推理集群扩容了一倍,云端处理的延迟从十五毫秒压到了十二毫秒。
端侧加云端的总延迟,从四十二毫秒压到了三十五毫秒。”
陆尧在笔记本上记了一笔。“灵犀的用户数据呢?现在多少了?”
“全球用户突破两亿,日活用户超过六千万,用户日均使用时长二十八分钟。”
倪光南说,“跨设备协同、本地对话、本地写作、本地翻译四个功能的用户使用率最高。
跨设备协同的使用率超过了百分之六十五,是所有功能里最高的。”
挂了电话之后,陆尧把李小军叫到了办公室。
李小军手里拿着一份灵犀的用户数据简报,封面上写着“灵犀用户增长与功能使用分析——2026年5月”。
他翻开第一页,把数据投到屏幕上。
“两亿用户。”陆尧把简报放在桌上,“灵犀从去年十二月发布到现在,半年时间,这个速度比我预想的快。”
“主要是Take Fold二代的销量带起来的。”李小军翻开简报的第二页,“Take Fold二代的全球出货量突破了八百万台,每一台都预装了灵犀。
再加上Yoga笔记本和Tab平板,灵犀的设备基数已经超过了三千万。
两亿用户里,有相当一部分是同一个用户在多台设备上激活的。
实际独立用户大概在九千万左右,但两亿这个数字对市场传播很有用。”
“用户反馈呢?”
“正面居多,用户最认的两个点是数据不出设备和不需要联网。
有几个科技博主做了实测,在飞机上用灵犀写邮件、做翻译,全程不联网,体验跟联网的时候差不多。
这些测评视频在音浪上的播放量很高,累计超过了五亿次。
另外,用户对跨设备协同的评价最高。
有一个用户发了一条视频,说‘在PC上写了一半的邮件,手机自动弹出续写窗口,这种体验以前只有苹果有,现在联想也有了’。
那条视频的播放量突破了三千万。”
陆尧翻开简报的最后一页,看到了灵犀的用户画像。
十八到三十四岁的用户占比最高,达到了百分之五十二。
三十五到四十九岁的用户占比百分之三十三。
五十岁以上的用户占比百分之十五。
用户分布上,中国区占百分之六十,欧洲占百分之二十,东南亚占百分之十二,北美占百分之八。
“北美市场的占比还比较低。”陆尧说。
“北美的用户习惯用ChatGPT和Gemini,灵犀的品牌认知度还不够。”
李小军说,“但特斯拉的订单和大疆的合作对北美市场有带动作用。
如果灵犀能预装到特斯拉的车机上,北美的用户基数会涨一截。
另外,地平线在美国设了销售办事处,销售团队在跟几家美国车企谈征程五代的订单,灵犀的北美推广可以借这条渠道。”
陆尧想了几秒。“特斯拉的车机预装灵犀,这件事你跟余凯和朱一鸣对一下。
特斯拉的订单在二季度末交付,如果车机预装灵犀的方案能跑通,北美市场的用户增长会快很多。
另外,让地平线的美国销售办事处在跟美国车企谈订单的时候,把灵犀的端侧AI方案一起带上。
芯片加模型,打包卖。”
李小军记下,然后问了一句:“陆总,灵犀的下一代模型,倪院士那边的规划是什么?”
“两百亿参数。”陆尧说,“征程六代的芯片已经在预研了,算力会再翻一倍。
两百亿参数的端侧模型,体验会接近云端大模型。
但那是明年的事,今年的重点是灵犀V3.0的推送和用户留存。”
李小军记下,转身走了出去。
陆尧重新翻开倪光南的报告,在最后一页签了字。
他拿起手机给王岳发了一条消息:“灵犀的新版本六月中旬推送,音浪上提前做预热,让科技类创作者准备测评内容。
重点讲三个点——一百亿参数、三十五毫秒端云切换、五瓦功耗,用实测数据说话,不要光讲参数。”
王岳回得很快:“收到,另外,ChatGPT和Gemini最近都在推新版本,硅谷那边的AI热度在往上走。
音浪上的科技类创作者做了几期对比测评,灵犀的端侧体验跟ChatGPT的云端体验各有千秋,但灵犀的隐私优势是ChatGPT给不了的。
有一条视频的标题叫‘飞机上写邮件,ChatGPT断网了,灵犀没有’,播放量半天破了五千万。”
陆尧回了一行字:“继续做。让用户看到端侧AI的价值。
另外,把灵犀的用户增长数据做成一份公开报告,发在音浪和联想官网上。
两亿用户、六千万日活、二十八分钟日均使用时长,这些数字本身就是最好的传播。”
他把手机放进口袋,站起来走到窗前。
五月的燕京天色明亮,中家村的银杏树叶子绿得发亮,在午后的阳光下泛着油亮的光。
联想控股和联想集团两栋大楼并排矗立着,玻璃幕墙反射着清澈的蓝天。
从去年十二月灵犀发布到现在,半年时间。灵犀的用户数从零涨到了两亿,端侧模型的参数从五十亿提到了一百亿,端云协同的延迟从四十毫秒压到了三十五毫秒,多模态能力从纯文本做到了图像和语音。
他拿起手机给倪光南发了一条消息:“倪院士,灵犀V3.0的报告我签了。
六月中旬推送,按计划走,另外,下一代两百亿参数的模型,预研进度每周报我一次。”
倪光南回了一个字:“好。”
陆尧把手机放在桌上,重新看向窗外。五月的燕京天色渐暗,中家村的楼群在暮色中铺展开去。
灵犀的端侧AI正在从手机和PC走向汽车,从华为走向全球。
芯片是骨头,模型是肉。
骨头硬了,肉才能长上去。
灵犀V3.0的百亿参数模型,是端侧AI真正立起来的标志。
(https://www.yourenxs.cc/chapter/5454416/54740219.html)
1秒记住游人小说网:www.yourenxs.cc。手机版阅读网址:m.yourenxs.cc