第 366 章 云服务商
十二月三日，燕京。
字节跳动旗下的火山引擎团队是三家云服务商里第一家到联想总部做技术对接的。
领头的人叫周衡，火山引擎负责端云协同架构的技术总监，三十多岁，戴一副黑框眼镜，说话语速很快，但每句话都在点子上。
他带了两个人，一个负责加密协议，一个负责性能优化。
陆尧没有全程参加。
他在上午十点的时候去了一趟会议室，周衡正站在投影幕布前，给AI研究院的工程师演示端云切换的完整链路。
“端侧模型处理一句对话，先做本地推理，判断任务复杂度。”周衡按下遥控笔，屏幕上弹出一张流程图，“如果复杂度在端侧的处理能力范围内，直接在本地回答。
如果超出范围，加密、上传、云端处理、回传、端侧解密。
整个链路的目标延迟是四十毫秒。”
屏幕上跳出一组实测数据。
端侧推理的延迟是八毫秒，加密通道的握手是十二毫秒，云端处理是十五毫秒，回传和解密是七毫秒，加起来四十二毫秒。
“比目标多了两毫秒。”周衡说，“加密通道的握手时间有点长。
我们在调协议栈的配置，把TLS握手和国密SM2的密钥交换合并成一步，应该能压到十毫秒以内。”
陆尧站在会议室后面听了一会儿。
周衡讲完技术方案之后，AI研究院的工程师开始提问，问题集中在加密协议的性能开销和端云切换的触发条件上。
周衡一一回答，每个回答都带着具体的数据和实测结果。
会议结束之后，陆尧把周衡单独留了下来，两个人在会议室旁边的休息区坐下。
赵恒端来两杯茶，放在桌上。
“周总，火山引擎在端云协同上的技术积累，比我想象的深。”陆尧端起茶杯，“你们做抖音的推荐系统，端侧和云端的协同一直是核心架构。
这个经验能直接复用到联想的端侧大模型上吗？”
周衡端起茶杯喝了一口，放下：“陆总，火山引擎的端云协同架构最早就是为抖音的短视频推荐做的。
用户在手机端刷到一个视频，端侧模型先做初步筛选，判断这个用户的兴趣偏好，然后把候选视频的ID发到云端，云端做更复杂的排序和召回。
整个链路的延迟控制在三十毫秒以内，用户感觉不到端侧和云端的切换。”
“推荐系统的端云协同跟大模型的端云协同，区别在哪里？”陆尧问。
“推荐系统的端侧模型很小，参数量在千万级别，只做初步筛选。”周衡说，“大模型的端侧模型大得多，五十亿参数，端侧要做完整的对话推理。
这对端侧芯片的算力、功耗和内存带宽都是挑战。
但底层的架构逻辑是一样的，端侧做轻量推理，云端做重载计算，切换必须无感。”
陆尧靠在沙发上，看着周衡。
这个人说话的方式很直接，不绕弯子，每一句话都带着技术细节和实测数据。
他想起2019年跟余凯第一次谈地平线芯片的时候，余凯也是这种风格。
做技术的人，说话不修饰，但每句话都有分量。
“周总，如果联想灵犀的端云协同用火山引擎做主方案，你们能提供什么样的支持？”陆尧问。
“三样东西。”周衡翻开笔记本，“第一，火山引擎的端云协同框架会为联想灵犀做深度定制，包括加密协议、流量调度、故障切换。
第二，字节的推荐算法团队会跟联想的AI研究院做联合优化，把端侧模型的对话体验做到极致。
第三，火山引擎的云算力会为联想灵犀预留专属的推理集群，确保端侧请求的响应时间在十五毫秒以内。”
“代价呢？”
“火山引擎希望联想灵犀的端云协同使用字节的加密标准和接口规范。”周衡说，“同时，联想灵犀的用户在使用云端推理的时候，需要同意字节的隐私政策。
当然，隐私政策会明确说明数据不保留、不用于训练。”
陆尧端起茶杯想了几秒。
火山引擎的条件不苛刻，核心诉求是绑定联想灵犀的端云协同架构。
字节的推荐算法和云算力在业内是第一梯队，如果能合作，联想灵犀的体验会有保障。
但“数据不保留、不用于训练”这句话需要落实到合同条款里，还要有第三方的审计机制。
“周总，合同里要加一条。”陆尧说，“联想灵犀的端云协同数据，火山引擎不得保留、不得用于模型训练、不得向第三方共享。
这一条要写进主合同，不是附件。”
周衡点了点头：“可以。另外，联想可以指定第三方机构做年度审计，审计报告由双方共同确认。”
陆尧伸出手：“那就按这个方向谈。具体的合同条款，让法务团队对接。”
周衡握了握他的手，力道很稳。
从休息区出来的时候，周衡带着团队离开了联想总部。
陆尧站在走廊的窗前，看着窗外的中关村。
十二月的燕京天色灰沉，银杏树落尽了叶子，光秃秃的枝丫在灰蓝色的天幕下画出一排细密的线条。
当天下午，阿里云的团队到了。
领头的是加密方案团队的负责人陈远，四十出头，说话不急不缓，每句话都带着一种被长期技术训练打磨出来的精确。
他带了四个人，比火山引擎的团队多一个，其中两位是专门做国密标准适配的加密工程师。
陈远没有急着讲方案，而是先让加密工程师把一套完整的国密标准适配文档递给了AI研究院的工程师。
文档的封面写着“联想灵犀端云协同加密方案——国密标准全流程适配”，厚厚一摞，每一页都标注了具体的接口定义和测试数据。
“陆总，阿里云的加密方案在金融和政务领域已经跑了五年。”陈远翻开笔记本，“端云协同的数据加密，核心是三个环节，端侧加密、传输加密、云端解密。
每一个环节都要做到国密标准全流程覆盖，端侧用SM2做身份认证，SM4做数据加密。
传输层用TLCP协议替代TLS，支持国密双证书。
云端解密之后，数据在内存中处理，落盘之前再做一次加密。”
他翻到笔记本的第三页，上面画着一张端云加密的架构图。
端侧和云端之间的每一个数据包都经过SM2和SM4双重加密，密钥管理用的是硬件安全模块，跟征程四代的安全加密引擎做硬件级对接。
(https://www.yourenxs.cc/chapter/5454416/55094420.html)
1秒记住游人小说网：www.yourenxs.cc。手机版阅读网址：m.yourenxs.cc