游人小说网 > 重生2009:我靠投资成首富 > 第 410 章 灵犀3.0

第 410 章 灵犀3.0


五月下旬,燕京,联想总部。

婚礼结束后的第二周,陆尧回到办公室。

桌上堆着几份待签的文件,最上面的一份是倪光南团队提交的灵犀端侧大模型最新进展报告。

他翻开第一页,封面上写着一行字——“灵犀V3.0:端侧百亿参数模型技术评估报告”。

报告日期是五月十九日,婚礼结束的第二天。

倪光南的团队在婚礼期间没有休息。

陆尧把报告逐页看完。

核心数据如下——灵犀端侧模型参数从五十亿提升到一百亿,在征程五代芯片上的推理速度达到每秒六十个token,功耗控制在五瓦以内。

端云协同的切换延迟压到了三十五毫秒,失败率降到了百分之零点五。

模型架构用了分组查询注意力和稀疏激活技术,在不损失精度的前提下把推理成本压了下来。

多模态能力同步升级,支持图像识别、语音转写和视频摘要,全部在端侧完成。

他拿起内线电话拨了倪光南的号码。

“倪院士,灵犀这一版的提升很大,一百亿参数,每秒六十个token,五瓦功耗,这个数据是怎么做到的?”

“两个原因。”倪光南的声音从电话里传来,带着一种被长期压力磨过之后终于松开的沉稳。

“第一,征程五代的算力比四代翻了四倍,四代跑五十亿参数已经是极限了,五代跑一百亿参数还有余量。

第二,我们把模型的架构重新设计了一遍,用了分组查询注意力和稀疏激活的技术,在不损失精度的前提下把推理成本压下来了。

端云协同的切换延迟也优化了,三十五毫秒,用户感觉不到端侧和云端的切换。”

“测试数据可靠吗?”

“跑了三周的压力测试。,端侧推理的准确率跟上一版持平,推理速度快了将近一倍。

端云切换的失败率从百分之零点八降到了百分之零点五。

这些数据都是实测的,不是仿真。测试机型是Take  Fold三代和Yoga  2026款的工程样机,跑了一万多次对话,覆盖了中英文、多轮对话、图像识别、语音转写这些场景。”

倪光南停了一下,又补了一句,“另外,多模态能力的提升比预想的快,图像识别和语音转写的端侧准确率都到了百分之九十五以上。

视频摘要稍微慢一点,端侧处理一段五分钟的视频大概需要二十秒,但用户感觉不到明显的等待。”

“灵犀的这一版什么时候能推到用户端?”

“六月中旬,Take  Fold三代、Yoga  2026款的预装版本已经在测试了。

如果一切顺利,六月中下旬开始推送OTA升级,第一批推送一百万台设备,第二批五百万台。”

倪光南翻开笔记本的声音从电话里传来,“另外,端云协同的云端部分也做了优化,引擎的推理集群扩容了一倍,云端处理的延迟从十五毫秒压到了十二毫秒。

端侧加云端的总延迟,从四十二毫秒压到了三十五毫秒。”

陆尧在笔记本上记了一笔。“灵犀的用户数据呢?现在多少了?”

“全球用户突破两亿,日活用户超过六千万,用户日均使用时长二十八分钟。”

倪光南说,“跨设备协同、本地对话、本地写作、本地翻译四个功能的用户使用率最高。

跨设备协同的使用率超过了百分之六十五,是所有功能里最高的。”

挂了电话之后,陆尧把李小军叫到了办公室。

李小军手里拿着一份灵犀的用户数据简报,封面上写着“灵犀用户增长与功能使用分析——2026年5月”。

他翻开第一页,把数据投到屏幕上。

“两亿用户。”陆尧把简报放在桌上,“灵犀从去年十二月发布到现在,半年时间,这个速度比我预想的快。”

“主要是Take  Fold二代的销量带起来的。”李小军翻开简报的第二页,“Take  Fold二代的全球出货量突破了八百万台,每一台都预装了灵犀。

再加上Yoga笔记本和Tab平板,灵犀的设备基数已经超过了三千万。

两亿用户里,有相当一部分是同一个用户在多台设备上激活的。

实际独立用户大概在九千万左右,但两亿这个数字对市场传播很有用。”

“用户反馈呢?”

“正面居多,用户最认的两个点是数据不出设备和不需要联网。

有几个科技博主做了实测,在飞机上用灵犀写邮件、做翻译,全程不联网,体验跟联网的时候差不多。

这些测评视频在音浪上的播放量很高,累计超过了五亿次。

另外,用户对跨设备协同的评价最高。

有一个用户发了一条视频,说‘在PC上写了一半的邮件,手机自动弹出续写窗口,这种体验以前只有苹果有,现在联想也有了’。

那条视频的播放量突破了三千万。”

陆尧翻开简报的最后一页,看到了灵犀的用户画像。

十八到三十四岁的用户占比最高,达到了百分之五十二。

三十五到四十九岁的用户占比百分之三十三。

五十岁以上的用户占比百分之十五。

用户分布上,中国区占百分之六十,欧洲占百分之二十,东南亚占百分之十二,北美占百分之八。

“北美市场的占比还比较低。”陆尧说。

“北美的用户习惯用ChatGPT和Gemini,灵犀的品牌认知度还不够。”

李小军说,“但特斯拉的订单和大疆的合作对北美市场有带动作用。

如果灵犀能预装到特斯拉的车机上,北美的用户基数会涨一截。

另外,地平线在美国设了销售办事处,销售团队在跟几家美国车企谈征程五代的订单,灵犀的北美推广可以借这条渠道。”

陆尧想了几秒。“特斯拉的车机预装灵犀,这件事你跟余凯和朱一鸣对一下。

特斯拉的订单在二季度末交付,如果车机预装灵犀的方案能跑通,北美市场的用户增长会快很多。

另外,让地平线的美国销售办事处在跟美国车企谈订单的时候,把灵犀的端侧AI方案一起带上。

芯片加模型,打包卖。”

李小军记下,然后问了一句:“陆总,灵犀的下一代模型,倪院士那边的规划是什么?”

“两百亿参数。”陆尧说,“征程六代的芯片已经在预研了,算力会再翻一倍。

两百亿参数的端侧模型,体验会接近云端大模型。

但那是明年的事,今年的重点是灵犀V3.0的推送和用户留存。”

李小军记下,转身走了出去。

陆尧重新翻开倪光南的报告,在最后一页签了字。

他拿起手机给王岳发了一条消息:“灵犀的新版本六月中旬推送,音浪上提前做预热,让科技类创作者准备测评内容。

重点讲三个点——一百亿参数、三十五毫秒端云切换、五瓦功耗,用实测数据说话,不要光讲参数。”

王岳回得很快:“收到,另外,ChatGPT和Gemini最近都在推新版本,硅谷那边的AI热度在往上走。

音浪上的科技类创作者做了几期对比测评,灵犀的端侧体验跟ChatGPT的云端体验各有千秋,但灵犀的隐私优势是ChatGPT给不了的。

有一条视频的标题叫‘飞机上写邮件,ChatGPT断网了,灵犀没有’,播放量半天破了五千万。”

陆尧回了一行字:“继续做。让用户看到端侧AI的价值。

另外,把灵犀的用户增长数据做成一份公开报告,发在音浪和联想官网上。

两亿用户、六千万日活、二十八分钟日均使用时长,这些数字本身就是最好的传播。”

他把手机放进口袋,站起来走到窗前。

五月的燕京天色明亮,中家村的银杏树叶子绿得发亮,在午后的阳光下泛着油亮的光。

联想控股和联想集团两栋大楼并排矗立着,玻璃幕墙反射着清澈的蓝天。

从去年十二月灵犀发布到现在,半年时间。灵犀的用户数从零涨到了两亿,端侧模型的参数从五十亿提到了一百亿,端云协同的延迟从四十毫秒压到了三十五毫秒,多模态能力从纯文本做到了图像和语音。

他拿起手机给倪光南发了一条消息:“倪院士,灵犀V3.0的报告我签了。

六月中旬推送,按计划走,另外,下一代两百亿参数的模型,预研进度每周报我一次。”

倪光南回了一个字:“好。”

陆尧把手机放在桌上,重新看向窗外。五月的燕京天色渐暗,中家村的楼群在暮色中铺展开去。

灵犀的端侧AI正在从手机和PC走向汽车,从华为走向全球。

芯片是骨头,模型是肉。

骨头硬了,肉才能长上去。

灵犀V3.0的百亿参数模型,是端侧AI真正立起来的标志。


  (https://www.yourenxs.cc/chapter/5454416/54740219.html)


1秒记住游人小说网:www.yourenxs.cc。手机版阅读网址:m.yourenxs.cc