|
2026年7月19日，北京智源人工智能研究院与端侧智能北京市重点实验室联合发布《端侧智能2026：规模化落地元年》报告。报告指出，大模型产业正经历从“云端集中式智能”走向“端云协同式智能”的结构性跃迁，2026年已成为端侧智能从概念验证走向规模化落地的关键转折年。以面壁智能等公司为代表的中国端侧AI力量，正凭借“高能力密度模型”与全栈工程化能力，在这一轮产业变革中占据领先身位。
AI的下一个规模化拐点：在终端
报告提出核心判断：AI的下一个规模化拐点，不在“更大的云端模型”，而在“能力密度足够高、能装进终端的模型”。
过去三年大模型的主线是“能力的军备竞赛”，进入2026年，主线已切换为“能力的落地竞赛”。
产业向端侧集体转向，背后是四重现实约束的倒逼。成本方面，截至2026年6月，豆包大模型日均Token调用量已突破180万亿，较去年增长超10倍，云端推理经济性持续承压；时延方面，自动驾驶要求10-50毫秒级响应，云端往返无法满足；隐私方面，《个人信息保护法》与GDPR持续收紧，敏感数据“不出端”成为刚需；稳定性方面，弱网、断网环境下纯云端方案存在可用性短板。
业界正在形成的共识，是 “端侧为主、云端为辅，优先在本地处理、解决不了再上云” 的混合架构。ZEDEDA
2026年边缘AI调查显示，47%的企业已采用混合云-边缘架构。
密度定律：端侧智能的科学基石
端侧智能之所以能从愿景走向现实，背后有一条被反复验证的规律——密度定律（Densing Law）
。2024年底，清华大学相关团队与开源社区OpenBMB提出“能力密度”概念，成果于2025年作为封面文章发表于《自然》。
密度定律的结论极具穿透力：大模型的最大能力密度随时间呈指数增长，约每3.5个月翻一番。芯片在同等价格下的算力约每两年翻一倍，而模型的能力密度约每百天翻一倍。两条曲线的交汇，把“高性能大模型装进终端”从设想变成工程现实。
截至2026年7月，MiniCPM系列全球下载量突破3800万次、GitHub星标超过14万。其2026年5月发布的MiniCPM5-1B，仅以1B参数规模，在国际权威榜单Artificial
Analysis上取得17.9分的成绩，与2024年5月发布的200B参数GPT-4o榜单得分仅相差零点几分。这背后释放的信号十分明确：参数规模不再是荣誉勋章，“单位参数、单位能耗下的智能产出”才是新的硬指标。
FlagOS统一软件栈：打通端侧落地的“最后一公里”
端侧智能的能力供给已就绪，真正卡住规模化落地的，是部署侧的碎片化。端侧芯片架构天然多元——NPU、GPGPU、DSA、RISC-V
AI、ARM等并存，形成“N种模型×M种芯片×K种终端”的组合。
北京智源人工智能研究院牵头打造的众智FlagOS开源统一软件栈，为这一根本性矛盾给出了工程解法。2026年6月发布的FlagOS
2.1，已实现对18家厂商、32款AI芯片的全场景支持，成为全球支持芯片种类最多的AI系统软件栈。其FlagGems算子库拥有510+个算子，是全球最大的多芯片算子库，已进入PyTorch基金会生态合作项目。FlagCX统一通信库更实现了国家标准与ITU国际标准的“双立项”。
vLLM-plugin-FL、SGLang-plugin-FL等推理框架插件，则让开发者在不改变vLLM、SGLang原生接口与使用习惯的前提下，一键将模型部署到多款芯片。面向端侧，FlagOS已将适配能力延伸至ARM平台，支持BF16、W8A8、W4A8多种精度路径——最新发布的MiniCPM5-2B即在发布当日完成9款AI芯片及ARM端侧的Day0适配，部分芯片单位算力推理效率经优化后追平乃至超越NVIDIA原生水平。
报告认为，如果说“能力密度”解决了端侧模型“够不够聪明”的问题，那么FlagOS解决的是“能不能跑遍所有终端”的问题——前者是引擎，后者是把引擎装进千差万别车身的通用底盘。统一软件栈把“多元芯片→自主推理框架→高能力密度端侧基座模型”这条自主闭环，从愿景变成了可落地的工程路径。
面壁智能：端侧AI的先行者与产业标杆
作为报告中的核心实践案例，面壁智能是国内第一个布局端侧大模型、第一个落地端侧量产交付、第一个全栈All
in端侧AGI的先行者。在产业落地上，面壁智能已取得多项里程碑式成果：
• 智能座舱率先跑通商业闭环。
端侧智能座舱方案SuperMate今年将实现超30万台车辆的量产交付。MiniCPM系列先后搭载于长安马自达EZ-60、吉利银河M9等量产车型，合作方覆盖吉利、长安、大众、广汽、长城、极氪等头部车企。
• 芯片适配效率行业领先。 2026年发布的MiniCPM-o
4.5全模态模型，具备原生全双工交互能力，发布当天即完成对六大主流AI芯片的适配，是面壁智能极致工程化能力的有力证明。
• 国产算力生态深度布局。
面壁智能发布的BitCPM-CANN是国内首个完全基于华为昇腾国产算力平台实现端到端训练并开源的三值大模型，推理阶段可释放约6倍显存红利。
• 全球化生态协同。
面壁智能深度参与智源FlagOS生态建设，MiniCPM5-1B、MiniCPM5-2B 等多个模型通过 FlagOS 实现发布当日的多芯片 Day0
适配，“发布即多芯” 已成为双方协作的常态机制。此外，面壁智能还与顶级芯片企业达成全球战略合作，协作深度已延伸至协同设计层面。
面壁智能联合创始人兼CEO李大海表示：“体积受限、算力受限、能耗受限是制约端侧AI规模化落地的核心难题，也是行业从‘云端智能’走向‘万物智能’必须突破的核心关卡。未来2至3年，AI将迎来两大重构：一是能力跃升，手机、汽车等终端从App容器进化为具备推理能力的端侧智能体；二是场景迁移，AI将从数字世界走向物理世界。
报告展望，端侧智能走向成熟，依赖
“高能力密度模型+统一软件栈+开放生态”三位一体。中国在终端品类、场景深度、产业链完整度与开源协作上的独特禀赋，恰好覆盖了这三条主线。这既是端侧智能走向物理世界的技术必然，也是中国在AI下半场争取生态主导权的战略机遇。
在此发展框架下，端侧AI将成为无处不在的智能基石，全面赋能千行百业，让手机、汽车、机器人、智能家居等各类终端全面搭载本地智能能力，深刻变革大众生活方式、提升社会运行效率，为民生服务、生产生活带来智能化升级。
关于北京智源人工智能研究院
北京智源人工智能研究院是致力于推动人工智能基础研究和原始创新的新型研发机构，在基座大模型、智能体、基础软硬件生态等前沿领域持续探索。智源研究院牵头打造的众智FlagOS，已成为全球支持芯片种类最多的AI系统软件栈。
关于端侧智能北京市重点实验室
端侧智能北京市重点实验室依托清华大学，专注于人工智能基础理论和关键技术研究，长期承担国家级项目、国际合作项目以及部委和企事业单位合作项目。
2026年07月25日 于上海
版权作品 未经许可 请勿转载
| 