第 373 章 发布倒计时
十二月十一日,距离灵犀预览版发布还有九天。
陆尧在早上七点就到了联想总部,比平时早了整整一个小时。
AI研究院的办公区里已经坐了大半的人,有人盯着屏幕跑测试,有人对着白板画架构图,有人端着咖啡在走廊里快步走过。
空气里有一种被压缩过的紧张感,像考试前最后几天的自习室。
倪光南比他更早到。
八十岁的老人坐在会议室里,面前摊着三台笔记本电脑,一台跑端侧模型,一台跑端云协同,一台开着实时监控面板。
他见陆尧推门进来,摘下老花镜,说了第一句话。
“端侧模型的拆分方案跑通了。日常对话模型十二亿参数,跑在征程四代上的推理速度是每秒五十二个token。
知识问答模型全部放在云端,端侧只做意图识别和转发,中间的多轮对话和复杂写作走端云协同。”
“体验数据呢?”陆尧在他对面坐下。
“日常对话的体验跟ChatGPT持平。多轮对话稍微差一点,大概九成,复杂作业八成五。”倪光南翻开笔记本,“但端云切换的失败率压到了百分之零点八,比目标低。”
陆尧在笔记本上记了一笔。
失败率百分之零点八,意味着每一百次端云切换只有不到一次失败。
这个数据可以接受。
“压力测试什么时候能跑完?”
“今天下午。”倪光南说,“AI研究院的测试团队在做最后一轮压力测试,模拟十万用户同时使用灵犀的场景。
端侧推理、端云切换、云端回传,三条链路同时跑。
今天下午三点出结果。”
从倪光南的会议室出来,陆尧去了地平线余凯的芯片测试实验室。
余凯正在跟地平线的工程师调试征程四代的硬件加密引擎。
屏幕上显示着端云加密链路的实时延迟数据,平均八毫秒,峰值十二毫秒。
“硬件加密引擎的驱动全部跑通了。”余凯转过身来,“征程四代的安全加密引擎跟火山引擎的加密协议做了硬件级对接。
端云之间的数据加密不再占用CPU资源,全部走硬件通道。
延迟从软件加密的十二毫秒压到了八毫秒。”
“功耗呢?”
“四瓦。跟设计目标一致。”余凯翻开笔记本,“征程四代的推理单元在峰值负载下功耗会往上走一点,但端侧模型的拆分方案把负载分散了,峰值功耗没有超过四点二瓦。”
陆尧在实验室里走了一圈,看了几台测试设备。
征程四代的芯片样品插在测试板上,屏幕上滚动着实时功耗和推理速度的数据。
旁边的设备上跑着端云协同的完整链路,端侧模型处理对话,云端模型处理知识问答,切换的瞬间在屏幕上用一条绿线标出来,间隔不到四十毫秒。
“端云切换的视觉反馈做得怎么样?”陆尧问。
“做了一个细微的进度条。”余凯说,“用户输入问题之后,屏幕上会出现一个很淡的进度条。
端侧处理的时候进度条走得快,端云切换的时候进度条会稍微顿一下,但不会断。
用户能感觉到AI在思考,但感觉不到端侧和云端的切换。”
陆尧点了点头。
这种细节用户不会刻意注意,但体验的好坏就在这些细节里。
进度条顿一下和断掉是两回事。顿一下是“AI在思考”,断掉是“AI卡住了”。
前者是体验,后者是故障。
下午两点,陆尧在联想总部的会议室里跟杨元庆碰了发布会的筹备进度。
发布会的场地本来定在联想总部的报告厅,能坐三百人。
但是后来中信办觉得太小了,给协调安排了人民大会堂。
现场布置的方案已经出了三版,第一版太花哨,第二版太素,第三版刚定稿。
舞台背景是一块八米宽的LED屏幕,发布会当天会实时演示灵犀的端侧对话、跨设备协同和端云切换。
“现场演示的风险很大。”杨元庆翻开筹备方案,“如果演示的时候端云切换失败,或者端侧模型卡顿,台下三百人和线上几百万观众都会看到。
要不要预先录好演示视频?”
“不录。”陆尧说,“现场演示,真实体验,如果失败了,就让用户看到失败。
然后我们现场排查、现场修复。用户会知道,灵犀是真实的,不是剪辑出来的。”
杨元庆在笔记本上记了一笔,然后说了一句:“现场演示需要稳定的网络,大会堂的网络环境比实验室复杂,Wi-Fi信号可能受干扰。
我让技术团队在报告厅里加了三个独立的网络接入点,确保演示的时候网络稳定。”
下午三点,倪光南的测试团队出了压力测试的结果。
十万用户同时使用的场景下,端侧推理的成功率百分之九十九点九,端云切换的失败率百分之零点八,整体响应延迟中位数四十二毫秒,峰值延迟八十七毫秒。
全部达标。
陆尧,看了测试报告,在最后一页签了字。他把报告递给倪光南,说了一句第二批:“可以发了。”
从会议室出来的时候,陆尧在走廊里碰到了王岳。
王岳从音浪总部赶过来,手里拿着一份发布会的传播方案。
方案的核心是三条线——发布会直播、科技类创作者的深度测评、普通用户的使用体验。
三条线同步推进,发布会当天音浪上的专题页、直播入口、创作者内容全部上线。
“发布会的直播入口已经挂上了。”王岳翻开方案,“预约人数突破了三百万,科技类创作者的测评设备已经寄出去了,五十台预装了灵犀的Take Fold二代,明天全部到位。
发布会当天同步发测评视频。”
“普通用户的体验呢?”
“发布会结束之后,灵犀的预览版会在联想的应用商店上线。
所有Take Fold二代和Yoga笔记本的用户都可以下载,第一批推送一百万台设备推送五百万台。”
陆尧把方案合上,递给王岳。
他站在走廊的窗前,看着窗外的中关村。
十二月的燕京天色灰沉,联想控股和联想集团两栋大楼在灰蓝色的天幕下并排矗立着。
“王岳,发布会那天,音浪上会怎么讨论?”
“一半人期待,一半人质疑。”王岳说,“期待的人觉得联想终于要做大模型了,质疑的人觉得端侧AI是噱头,体验肯定不如云端。”
“让他们质疑。”陆尧说,“质疑的人越多,发布会之后的讨论就越热,只要产品是真的,质疑会变成口碑。”
王岳点了点头,转身走了出去。
陆尧重新走回办公室,桌上摊着发布会当天的流程表。
从上午十点开始,到十一点半结束。
一个半小时,包括陆尧的开场演讲、倪光南的技术解读、余凯的芯片演示、现场体验环节和媒体问答。
他在流程表的最后一栏写了一行字——“十二月二十日,上午十点,灵犀预览版发布,倒计时九天。”
窗外的燕京十二月天色渐暗,中关村的楼群在暮色中铺展开去,联想控股和联想集团两栋大楼的灯光一盏一盏地亮起来。
从十二月一日的深夜来电到十二月十一日的倒计时,十一天的时间。
从端云协同的技术方案到三家云服务商的分工,从芯片适配的优化到压力测试的达标,从发布会的筹备到传播方案的上线,终于快要来了。
(https://www.yourenxs.cc/chapter/5454416/55062176.html)
1秒记住游人小说网:www.yourenxs.cc。手机版阅读网址:m.yourenxs.cc