海外高端AI芯片供给受限的大背景下,国内AI产业的核心矛盾早已发生转移。单纯实现国产芯片的推理部署已经实现,真正的考验落在能否依托本土算力完成完整训练,驱动大模型能力不断进化。科大讯飞星火X2.6的技术成果,印证了依靠源头AI技术领先,能够在全国产软硬件链路上攻克大模型迭代的各类现实难题。

成本居高不下、隐私数据风险、模型输出难以管控,是行业落地大模型时普遍遭遇的三道现实难题。科大讯飞选择用端云一体的技术思路回应行业痛点,这套体系兼顾训练环节和实际业务使用环节。在训练环节,星火X2.6‑4B端侧开源模型借助云端教师模型池实施端云协同训练,强化长文本理解与工具协同本领,端侧智能体任务覆盖度可达41.9%。实际使用阶段依靠智能路由机制,结合任务复杂度、数据安全等级做分工判断,路由准确率提升至96.1%。大量任务直接在终端设备本地运行,敏感信息支持本地脱敏处理,原始资料不用向外传输。落地到数字员工业务场景,Token消耗直接降低44%,这套方案也在教育、医疗、司法这类对数据防护要求严苛的领域落地验证。

想要实现端云架构的价值,前提是国产算力能够扛住高难度模型训练任务。大模型训练绝非简单堆叠芯片,MoE架构、百万级上下文、智能体相关任务,会对显存、带宽、集群协同能力提出极高标准。科大讯飞没有采用海外完成训练、国产只做推理的变通路线,瞄准国产算力短板突出的长程任务发起攻坚。
面对长短任务混合训练带来的算力浪费问题,自研长程任务动态并行技术,自动拆分不同长度任务,动态调配集群资源,让超长上下文训练效率提升4倍。针对推理环节显存受限困境,采用异构分布式推理方案,叠加四层KVCache分级缓存策略,把缓存命中率从63%拉高到95.7%,推理整体效率提升4.5倍。基于这套优化,293B规模MoE架构的星火X2.6旗舰基座全部在国产算力完成完整训练,首次在国产硬件上跑通百万级上下文下的代码、智能体训练工作,综合实力跻身全球第一梯队。

技术突破并非一朝之功,此前星火X2.5就依托万卡国产集群完成全流程训练,深度推理训练、MoE模型训练效率实现大幅跃升,模型还反向参与硬件算子优化加速。相关工程实践经验,也向多款不同型号国产芯片完成迁移适配。真正的算力自主,不在于囤积多少硬件,而是形成训练、推理、业务反馈、软硬件迭代的完整闭环。尽管国产算力对比国际顶尖水平仍存有代际差距,但在一次次真实训练场景的打磨试错当中,本土AI的自主演进路径正变得愈发清晰。
#全栈自主可控##大模型国家队##认知智能全国重点实验室#



















