0
联系电话:4001-158-698EN

公司新闻 行业动态 产品知识

C17官方网站-C17(中国)-AI算力进入“多元协同”时代,中昊芯英携手OpenCSG加速企业级大模型落地

导语:将来,中昊芯英与OpenCSG将连续深化互助,鞭策立异架构的国产AI专用算力资源进入同一、开放、可运营的AI基础举措措施系统。

近日,中昊芯英TPU算力正式完成与OpenCSGCSGHub平台的适配接入。两边充实阐扬国产AI专用算力与开源AI基础举措措施的协同上风,为年夜模子开发、模子办事部署和企业级AI运用落地提供越发开放、矫捷的底层算力支撑。

当前,年夜模子与智能体运用正加快迈向财产落地阶段。企业再也不只存眷模子自己,更存眷模子怎样治理、部署、运行及连续迭代;与此同时,AI算力正从以GPU为主流慢慢成长为TPU、NPU、DCU等多元算力协同成长的格式。此中,TPU作为针对于张量计较及AI事情负载深度优化的专用架构,经由过程优化计较单位维度与数据传输路径,于AI计较场景中揭示出高在传统通用架构的能效比与计较密度,是降低AI算力成本、晋升模子迭代和智能体运用效率的要害路径,也是国产AI算力生态中极具战略价值的技能标的目的。

中昊芯英现已经向OpenCSG开源社区孝敬TPU适配代码并合入CSGHub主堆栈,CSGHub平台已经实现对于中昊芯英TPU算力资源的辨认与调理,于硬件资源模子、资源类型校验、部署调理、运行时资源哀求天生、集群节点标签辨认等要害链路中新增TPU撑持,进一步富厚国产AI算力生态。

中昊芯英持久专注在高机能TPUAI芯片、AI计较集群与算力平台的设计与研发,是海内最早实现全自研高机能TPU架构AI专用算力芯片流片与量产的企业。其芯片产物「刹那®」、「斯须®」拥有100%自研的IP核、指令集与计较平台,AI算力机能逾越同期海外知名主流GPU产物近1.5倍,能耗降低30%,单元计较成本降低近50%,可承载万亿参数年夜模子漫衍式练习、多智能体协同运算、全平台海量token并发推理等重负载营业。

OpenCSG则聚焦开放AI基础举措措施设置装备摆设,面向模子、数据集、运用、智能体及算力资源,提供同一治理、部署与运营能力。作为面向年夜模子与智能体时代的开源AI基础举措措施平台,OpenCSG经由过程CSGHub、AgenticHub等产物,帮忙企业、园区及都会客户构建可治理、可部署、可运营的AI能力底座,并以开放架构连续毗连模子生态、开发者生态与算力生态。

这次互助,两边技能团队完成为了中昊芯英TPU芯片与CSGHub平台的全流程结合适配测试,涵盖模子上传与部署、单机与多卡推理、年夜模子微调、算子调理、不变性持续负载以和量化加快等焦点场景。测试成果注解,中昊芯英TPU算力芯片可原生兼容、不变流利运行OpenCSG开源平台全数焦点功效,软硬件协同机能达标,满意商用部署、开源生态接入需求。

基在此,CSGHub平台行将上线中昊芯英TPU算力租赁规格,提供从单卡128GB至八卡1024GB共八档配置。中昊芯英TPU算力将成为CSGHub平台上可供开发者及企业用户按需挪用的一种尺度算力资源,用户无需于底层硬件适配及集群治理上分外投入精神,经由过程平台便可直接选择及调理中昊芯英TPU算力,完成从模子开发、微调练习到推理部署的全流程事情。

这次中昊芯英TPU算力接入OpenCSGCSGHub平台,是国产AI专用算力芯片与开源AI基础举措措施协同立异的再进一步,也将助力国产AI生态从单点技能冲破走向平台化、尺度化的范围协同。

对于在中昊芯英而言,TPU算力进入OpenCSG开放AI基础举措措施生态,将让这类专为AI而生的高机能算力,经由过程开放平台,将其于计较密度、能效等到综合成本上的显著上风真正开释至AI开发者及企业运用场景;对于在OpenCSG而言,新增TPU算力撑持进一步完美了平台对于国产异构算力的毗连能力,也强化了OpenCSG作为开放AI基础举措措施平台的生态属性。

跟着国产年夜模子、国产AI芯片及企业级AI运用加快成长,开放、兼容、可连续演进的基础举措措施平台将成为毗连上层运用与底层算力的要害枢纽,而以TPU为代表的立异型AI专用芯片架构,正于成为这一枢纽中不成或者缺的算力基石。将来,中昊芯英与OpenCSG将连续深化互助,鞭策立异架构的国产AI专用算力资源进入同一、开放、可运营的AI基础举措措施系统,为企业AI转型及财产智能化进级提供坚实底座。

-C17官方网站-C17(中国)
1210
在线客服
在线客服

Maggie

微信咨询

黎小姐