服务于全球各领域电子制造客户
公司新闻 行业动态 产品知识
“计较需求于指数级爬升,今天,仅依赖产能的线性增加去重叠算力,已经经远远没法弥合供需之间连续扩展的缺口。”
7 月 20 日,2026 年世界人工智能年夜会上,无问芯穹结合开创人兼 CEO 夏立雪提出,从 Pre-training(预练习) 到 Post-training(后练习)、从Test-time(推理时扩大) 到 Agentic scaling(智能体扩大),于四条 Scaling Law 的作用下,模子练习及推理的超等市场正于互相孕育。
当下的人工智能基础举措措施(AI Infra)“必需以极致的效率办事更年夜范围。”
基在范围与效率两年夜锚点,夏立雪从无问芯穹的 AI 出产力公式(AI出产力 = 智能资源范围 × Token 转化效率 × AI出产力转化效率)出发,初次宣布无问芯穹 Agentic Infra 的“前店后厂一中央”战略结构,涵盖三年夜焦点技能能力与产物办事系统:
这套 Agentic Infra 产物与办事系统安身基础举措措施,向下会聚能源及芯片,向上支撑模子及运用,不仅极致晋升底层资源向AI出产力转化的范围及效率,更有着 Agentic AI 时代最显著的 AI 原生能力——用基础举措措施智能体蜂群赋能资源范围扩大、提效 Token 出产,并撑持 Agentic AI 的连续进化。
Agentic Infra 自立式基础举措措施平台,办事下一代Agentic AI于线进化
无问芯穹 Agentic Infra 自立式基础举措措施平台的焦点方针,是实现智能资源范围最年夜化。它就像一座“算力集散中央”,把散落的、异构的算力资源同一会聚、弹性调理、按需分发,为模子与运用层筑牢足够、不变、可扩大的算力底座。
夏立雪认为:“算力的异质化、碎片化问题是全世界性的,怎样把差别的、跨区域的算力资源,高效聚合协同起来,是扩展智能资源范围的要害。”
无问芯穹自建立以来一直致力在经由过程“多元异构、软硬协同”技能破解异质算力聚合的难题,打造了面向异构集群的年夜模子跨域练习体系,并集成在 Agentic Infra 自立式基础举措措施平台软件中,经由过程计较通讯堆叠的流水编排、自顺应的通讯流调理及异构算力调理机制,三位一体全栈协同优化,可以或许体系性地破解算力聚合的行业难题。
该体系已经经受过三年夜类跨域算力聚合练习实践的出产级磨练:
第一是超远间隔聚合。无问芯穹已经结合中国电信,完成为了海内首例超 4000 千米间隔的年夜模子跨域混训,于新疆哈密与广东深圳两地集群间,实现结合练习机能晋升 165%,验证了超远间隔跨域集群协同练习的可行性。
第二是大都据中央聚合。买通 4 个差别代际、差别型号的 GPU 集群,结合练习近百亿参数年夜模子,四集群协同机能晋升 41%,有用盘活了差别批次的存量异构算力。
第三是混淆云算力聚合。实现当地私有集群与公有云算力的安全互通混训,总体机能晋升 68%,帮忙浩繁企业客户解决当地算力不足、云上资源却闲置的错配痛点。
今朝这套跨域练习体系已经于天下部署触达超 37,000P 算力、笼罩 16 种主流芯片,盘活了广域分离的异质算力,使之成为 Agentic AI 时代的最坚实底座。
当下,强化进修成为下一代 AI 前进的主要手腕。但相较传统预练习,强化进修“多脚色协同”的特征使其对于硬件的种类需求越发繁杂,范围量级也越发重大,基在异谈判超年夜算力范围的两重刚需,跨集群强化进修是以成为智能范围化和连续进化的新锚点,这也是无问芯穹 Agentic Infra 自立式基础举措措施平台重点结构与霸占的焦点场景。该场景存于两年夜主要问题:一是跨集群以后,差别脚色之间的等候时间将被拉长;二是当范围扩展到万卡级后,从显卡到办事器、收集、存储,妨碍将以小时级的频率存于,而从头拉起使命耗时长达数十分钟,使命难以连续不变运行。
是以,针对于跨域强化进修场景,无问芯穹把全栈协同的技能思绪贯串到底——从收集、平台到框架做一体式深度优化,买通分离的异构集群,实现全局资源一盘棋调理。
于此之上,无问芯穹进一步将优化渗入进全链路的每个环节,特别是于跨域通讯及容错这两个层面:经由过程优化计较通讯堆叠技能,让跨域通讯效坦白接晋升 3-4 倍,实现通讯开消 100% 全袒护,练习再也不因跨域通讯孕育发生分外耗时损耗;同时搭建了妨碍无感的练习机制,乐成实现了跨域强化进修练习持续一周 0 中止不变运行。让年夜范围跨域强化进修不仅可以“跑患上通”,还有能“跑患上快、跑患上稳”。
“这只是一个出发点。”夏立雪暗示,陪同着年夜范围跨集群强化进修练习技能的连续成熟冲破,无问芯穹还有将连续深耕并行计谋、通讯交融、智能算子、极致容错等焦点技能,“将来,咱们可以或许将跨域计较资源的支撑范围,连续拓展至十万卡级以上,支撑下一代Agentic AI的于线进化。”
Agentic MaaS 年夜模子办事平台,无问芯穹Token 工场以“效”搏年夜
Token 经济时代,无问芯穹早于 2023 年头就提早结构的 Agentic MaaS 年夜模子办事平台,今朝正于迎来高速且连续的增加曲线。该平台就像一座“Token 工场”,焦点方针是用极致效率办事 Token 的范围化、高质量出产。
发布会现场,夏立雪用千卡至万卡范围下完备推理办事技能栈展现了一座 Token 工场内部的可优化空间,“从网关、路由,到底层推理实例,Token 工场层层可优化、到处有增量。”
随后,夏立雪披露了无问芯穹首创的新一代推理体系优化结果——跨集群异构PD分散架构(Prefill-RelayDecode-MainDecode, PDD)。
智能体推理需求的特性有“三极”:上下文极长、交互轮次极多、缓存掷中率极高,对于吞吐、时延、缓存复用的要求,远高在传统对于话场景。同时,从实测数据中能直不雅看到,差别芯片于Prefill、Decode阶段的机能差异极年夜。而眼下,这些散落于差别地域的存量集群险些都是同构的,且险些每一个集群都“偏科”。
是以,该架构起首用高性价比的广域网以太网把漫衍于各地的、已经经建好的同构数据中央连起来,让算力强的集群做 Prefill 使命,让显存带宽高的集群做 Decode 使命。这一架构设计相称在让“偏科”的硬件只刷本身最擅长的题,可以极年夜晋升年夜模子推理体系效率,是每一座 Token 工场都必备的“超等管线”。
然而,基在以太网的 KV Cache 跨集群传输,存于带宽及延迟瓶颈,这根“超等管线”既要能扛住智能体营业的巨年夜“流量”,也要能跟患上上用户对于“流速”的极致要求。
基在 Agentic MaaS 线上营业持久的年夜范围实践积淀,无问芯穹推理团队起首把为了 Decode 实例反复前缀存储去重而设计的 Decode Radix Cache 技能,立异性地迁徙至跨集群异构 PD 分散架构之中,实现跨集群 KV Cache 传输数据量降低一个数目级, 让“流量过载”的难题水到渠成。
其次,更年夜的挑战于在“流速”——智能体的相应速率,是最直不雅的产物体验底线。
PDD 将传统的 PD 分散链路“P-D”立异解构为“P-RLD-MD”的三级分散式推理架构,就像是为这条“超等管线”加装了一个“周详增压阀”。对于在高传输延迟的哀求,RelayDecode 先行输出 Token 给用户,从而让用户侧彻底感触感染不到这一现实上长达数十秒的传输延迟;当传输完成后,输 Token 给用户的使命被无缝切换给 MainDecode 来处置惩罚,防止了 RelayDecode 被持久占用。经由过程这一设计,仅需少量呆板负担 RelayDecode ,就能袒护以太网 KV Cache 传输延迟。
实测显示,该架构于实现了首 Token 延迟(TTFT)降低 51.5% 的同时,单 Token 成本可降低 37.5%。这不仅象征着用户端速率体验的显著晋升,更象征着,每个集群都能被充实使用起来,最年夜化开释全域异构算力的财产运用价值。
已往一年里,无问芯穹的 Token 工场已经经由过程一系列原始技能立异,鞭策了推理成本的 10 倍降落。夏立雪判定,跟着跨集群异构 PD 分散架构的范围化落地,推理成本依然有 10 倍的降落空间。
“今朝无问芯穹的 Agentic MaaS 年夜模子办事平台的增加飞轮已经经周全转起来了!”夏立雪暗示。
技能迭代驱动成本降落,营业范围加快技能立异。经由过程与 Kimi、智谱、Minimax、阶跃星斗等头部年夜模子企业的紧密亲密互助,无问芯穹于真实营业场景中连续打磨、堆集了年夜量优化经验。截至 7 月,平台单日 Token 挪用量较去年 12 月,已经实现了 40 倍 的发作增加,而海量营业经验又能反哺技能快速迭代,催动平台机能与靠得住性的同步跃升,形成“营业带技能,技能提效率,效率促增加”的正向轮回。
夏立雪总结:“6 月的 GTC 上,黄仁勋展示了英伟达的 ‘算力即收入’曲线。无问芯穹的 Token 工场,则但愿用这个‘优化即利润’的增加飞轮,向推理时代交出 Token 效率的答卷。”
无问芯穹已经联袂上海挪动结合打造了 “沪芯沪产办事沪客”的“天问”模子办事流派,也与 AI 原生新世代社区“不雅猹”结合打造了“中国版 OpenRouter” TokenDance(词元跳动) 平台。将来,无问芯穹将连续联袂优异的行业伙伴,以这套高效的“Token 工场”赋能更多财产范畴、办事更广泛客用户。
Agentic Infra 行业解决方案,以 AI 原生赋能百业提效
依托“算力集散中央”与“Token 工场”,无问芯穹可以将计较资源高效转换成高质量 Token。然而不异的营业效果,基在差别的推理路径、模子范围及芯片,Token 的成本天差地别,深度影响其于真实出产情况中的贸易化潜力。
为此,无问芯穹正经由过程 Agentic Infra 行业解决方案,联袂多行业伙伴把 Token 高效转化为财产真正承认的高质量 AI 出产力,它就像一个“AI 出产力市肆”,连续赋能千行百业降本提效。
现场,夏立雪带来了笼罩娱乐游戏、医疗康健、法令终端、能源电力等多个垂直行业的 Agentic Infra 行业解决方案。
于娱乐游戏场景,无问芯穹联袂 VAST 的Tripo 3D 年夜模子结合打造了 AGENTIC 3D GAME GEN 解决方案,把分离的创意输入转化为可履行、可比力、可细化的 3D 模子输出,高效开释游戏内容出产力。
于医疗康健场景,无问芯穹办事上海瑞金病院算力和模子治理,助力医疗年夜模子和智能运用于运营治理、临床诊疗辅助、医学教诲培训等场景的摸索落地;
于法令终端场景,无问芯穹打造状师事件所专属 AI 合股人——”律盾芯人“,与“段及段状师事件所、君合状师事件所、竞天公诚状师事件所、互市状师事件所”等行业私有化 AI 终端互助伙伴,以和“法义经纬、图灵法思”等生态互助伙伴一路,配合鞭策法令行业的智能化安全进级;
于能源电力场景,无问芯穹也正与南网能源一路深度摸索基在智能体技能的智算中央能耗智能猜测与协同调理解决方案。
基础举措措施本身自己也是个行业,无问芯穹已经经于这个行业深耕多年,既堆集了富厚的实践经验与技能,也拥有充足多的运用场景与需求。是以于支撑千行百业智能进级的另外一面,无问芯穹也连续将智能体的能力运用到 AI Infra 自己,打造了一套基础举措措施智能体蜂群。
遵照“用智能体赋能基础举措措施,晋升计较范围及智能效率”的焦点方针,无问芯穹基础举措措施智能体蜂群今朝已经包罗三个子集,对于应于 AI 出产力转化、智能资源范围、Token 出产效率的三方面:面向用户的平台管家智能系统统、面向集群的运维智能系统统、以和面向芯片的算子天生智能系统统。
夏立雪提到:“咱们不仅用 Agent 赋能资源范围扩大、提效 Token 出产,更致力在以 Agent 能力驱动整套 AI Infra 形成自立迭代、自我优化的闭环,让基础举措措施越用越强。”
平台管家智能系统统是整个基础举措措施智能体蜂群协同场景下的全局兼顾者与用户进口,它有用降低了用户驾御繁杂体系的进修成本,经由过程天然语言交互,就能让智能体自动帮忙用户操作平台、兼顾 AI 基座,轻松高效完成繁杂的资源运营、治理及答疑排障等事情,可以或许自力解决 80% 一样平常问题,剩下 20% 深度问题再转交对于应垂类 Agent。
智算集群运维智能系统统是一个可以或许端到端地解决现实出产场景中的运维难题的 7×24 小时全天候值守的“运维专家团”,体系以运维主智能体为焦点年夜脑,与妨碍排查智能体、情况部署智能体、妨碍处置惩罚智能体等协作运行,不仅可以完备履行一个集群的告警主动闭环措置使命,还有可以或许“防患在未然”地计划周期性巡检使命,提早辨认潜于隐患。让智算集群的运维从“人找问题”改变为“问题找人”,及“问题本身解决”。
颠末年夜范围出产情况验证,这套体系的价值正于逐渐凸显:可实现运维人效晋升 5 倍以上,要害妨碍处置惩罚效率晋升 6 倍,不仅为年夜范围 GPU 练习与推理营业提供了越发不变、高效的基础举措措施保障,也让运维人力可以或许被真正解放出来,聚焦更有价值的技能立异。
算子,是开释 AI 硬件机能的末了一千米,同时也是拉开基础举措措施效率差距的要害变量。今朝,年夜模子已经经可以或许快速产出算子,但“能跑通”不等在“能用好” —— 要于出产情况中实现机能逾越成熟推理引擎、到达工业级落地尺度,难度依然极年夜。
无问芯穹高机能算子天生智能系统统 KernelMind,以算子天生主控智能体为调理中枢,联动多类专用智能体,经由过程 “需求阐发 — 智能调理 — 内核天生 — 沙箱验证 — 评审沉淀”五步闭环事情流,可于真实编译试错与常识沉淀中连续自迭代,不变交付可直接落地的高质量工业级算子。
于 GLM5.2 模子的实测中,对于比行业基线该体系于NVIDIA 旗舰卡中实现了端到端 7.3% 的机能晋升,于 AMD 旗舰卡中更是带来了 39% 的总体机能跃升,GEMM、Attention、Router 等各种焦点算子机能均实现周全逾越。
早于 2025 年,无问芯穹就已经经于业内率先提出了 Agentic Infra 的范式厘革。如今,Agentic Infra 支撑智能体范围化运行与连续进化的财产价值正于被不停验证。从观点到落地,无问芯穹始终对峙以硬核技能鞭策 Agentic Infra 走向真实营业场景。夏立雪提到:“咱们的愿景始终清楚而坚定:经由过程 Agentic Infra,实现 用智能进化智能,用出产力加快出产力 。”
One More Thing:迈向物理世界
演讲末了,夏立雪将视线从云真个数字世界延长至真正的物理世界。他提出:“于物理世界中,具身智能的 Scaling Law 一样需要高效率、年夜范围的基础举措措施撑持。”
现场,无问芯穹宣布了于具身智能范畴的全新摸索 ——首个面向年夜范围具身使命的云边端一体化治理与调理平台。该平台初次把云端 GPU 集群、边沿算力节点及呆板人真机装备同一接入到一个平台中,撑持练习、数据收罗、评测及真机履行等多种具身使命同一编排运行,有用解决了具身练习中资源分离、跨集群协同坚苦、使命脚色繁杂、真机状况不成见、启动链路长的问题。
同时,针对于具身智能的练习与推理部署两年夜焦点环节,夏立雪公布了无问芯穹两项重磅技能进级:面向具身智能的年夜范围真机强化进修练习框架 RLinf V0.3 ,以和面向呆板人与端侧 AI 场景的全栈的推理优化系统 Mizar-Robo。
RLinf 于 V0.1 版本中实现了于仿真情况下渲训推一体化的强化进修;于 V0.2 版本中实现了像治理 GPU 同样治理真机装备;而V0.3 版本的进级则新增支撑具身智能年夜范围真机、跨域端云协同的强化进修练习,撑持具身智能的连续进化。
从试验室到财产,无问芯穹也与智元、清华年夜学联袂深度摸索了真机强化进修练习的技能与实践,霸占拦阻真机强化进修练习年夜范围落地的焦点痛点与难点。经由过程首创的 HotSwarm 与端云协同练习模式,RLinf V0.3 可以撑持真机装备 1000+次于线上下线,练习 0 中止,并乐成实现近百台真机范围专线需求降至 2Gbps 如下,年夜幅拉低具身智能范围化练习的成本门坎。
Mizar-Robo 则依托流水线调理、算子内核、量化压缩、计较图四层协同优化,全方位开释端侧硬件潜力,年夜幅晋升具身模子的部署效率,让具身智能即便于低功耗硬件上,也能实现联贯流利、低延迟、长续航的高精动作交互。
于无问芯穹与自变量呆板人 WALL-OSS 系列模子的结合优化部署中,于连结 WALL-OSS 原有使命乐成率的条件下,实现了 7.14 倍的推理机能晋升,经 Thor 平台实测,端侧推理时延从 500ms 压缩至 70ms,降幅达 86%。不仅保障了及时交互的流利度与不变性,也有用延伸功课续航,为呆板人产物从试验室走向范围化商用落地,提供了有力的基础举措措施支撑。
“让智能无所不克不及,是AGI,而让智能无处不于,是 AGI Infra。”夏立雪于发布会的尾声中说道。“AI 无疑是今朝世界上成长变化最快的行业,但咱们的初心从未转变,就是做 AGI 时代最需要的 AI Infra。”
从“算力集散中央”做年夜资源总盘,到“ Token 工场”深挖效率盈余,再到 “AI 出产力市肆”轮回造血向财产输出价值,以致向物理世界AI的摸索与实践,无问芯穹始终锚定 “范围与效率” 两年夜支点稳步向前。
“前店后厂一中央” 的 Agentic Infra 系统 ,既是无问芯穹积淀多年的战略蓝图体系性落地,也代表着无问芯穹锚定 AGI 时代的持久标的目的:为将来数字与物理世界的所有AI出产力的运行修筑基础举措措施。
下一篇【产品推荐】超小型高频同轴连接器u.fl系列
www@C17com官方
Maggie
微信咨询
黎小姐