0
联系电话:4001-158-698EN

公司新闻 行业动态 产品知识

C17官方网站-C17(中国)-芯片商Etched累计融资近60亿,获台积电、辛顿、李飞飞押注

芯片商Etched累计融资近60亿,获台积电、辛顿、李飞飞押注

昨日,一条动静于AI圈及芯片圈炸开了锅:硅谷AI芯片创业公司Etched公布完成累计8亿美元融资(快要60亿人平易近币),估值冲上50亿美元,同时拿下一张10亿美元的芯片年夜单。

这家公司此前颇为低调。它2022年才建立,三位开创人是哈佛停学生,但它的投资人名单不成小觑:诺贝尔奖患上主Geoffrey Hinton、斯坦福AI视觉前驱李飞飞、OpenAI联创Andrej Karpathy、风投教父Peter Thiel、融资的量化巨头Jane Street及台积电联系关系基金等悉数入局。

他们押注的是一件看起来很极度的事:造一款只跑Transformer的芯片。

Sohu,是Etched的第一款芯片,采用的是台积电4纳米工艺,今朝已经经流片乐成。官方声称:于Llama 70B推理场景下,8张Sohu构成的办事器,可以替换160张英伟达H100。

这件事指向了一个更深层的问题:AI芯片的“通历时代”,是否是将近竣事了?

01Etched做的是甚么芯片?

要理解Etched于做甚么,患上先理解AI芯片的“通用”与“专用”之别。

英伟达的GPU,素质上是一种通用芯片。它能跑Transformer,能跑CNN,能跑RNN,甚至还有能挖比特币。这类“甚么都能干”的设计,是英伟告竣功的底子缘故原由。无论AI的下一个风口是甚么,GPU总能用患上上。

但“通用”的价钱,是效率的华侈。

跑Transformer模子时,GPU上有年夜量晶体管于做这件事以外的工作。就像开着一辆全地形越野车送外卖——能送到,但油耗高患上离谱。

Etched的做法,用一句话归纳综合就是:把Transformer架构“刻”进芯片硬件里。

Sohu是一款ASIC(专用集成电路)芯片。及GPU差别,ASIC不是为了可编程性设计的,它内里的电路是固定死的,只干一件事:运行Transformer模子的前向推理。

这象征着,Sohu底子跑不了CNN,跑不了RNN,甚至Transformer的某个运算假如及Etched的硬件实现不匹配,也跑不了。

这类极度的设计弃取,换来的是极度的效率。Etched官方声称,Sohu于运行Llama 70B推理时,吞吐量是H100的20倍,每一美元机能是GPU的140倍。

为何说这件事“牛逼”?

Sohu的技能冲破,不于制程,不于算力范围,而于架构弃取的胆子。

芯片行业有一个铁律:越通用的芯片,市场越年夜,但效率越低;越专用的芯片,效率越高,但市场越小。ASIC是效率的极致,也是危害的极致——假如算法架构变了,专用芯片就是一块昂贵的废硅。

Etched敢下这个注,条件是它判定:Transformer架构已经经充足不变,值患上为它专门造芯片。

究竟,Transformer 架构已经统治AI主流运用超五年,从语言模子到文生视频,其底层根底短时间内很难被容易掀翻。

更实际的推力于在年夜厂正面对巨量的推理成本耗损,仅OpenAI每一年于此项上的支出就达数十亿美元,这类压力让市场对于“降本增效”极端饥渴。

而那张 10 亿美元的预售年夜单则是最佳的市场验证。愿意于量产前签下云云范围的合同,象征着客户年夜几率已经于初期原型上跑经由过程真实负载,且成果充足好。

年夜牛投资人们为何敢信Etched团队?

芯片是少少数“PPT融资,十年出不来产物”的行业。Etched能让Hinton、Karpathy及李飞飞把钱投进来,团队底色很要害。

三位开创人都是Thiel Fellowship的入选者。这个由Peter Thiel开办的奖学金,专门资助停学创业的年夜学生,入选者能得到10万美元资助,前提是停学全职创业。历届入选者开办的公司包括以太坊、Linear Technology等。

CEO Gavin Uberti,曾经于Jane Street做高频生意业务,对于低延迟计较有深刻理解。CTO Chris Zhu,曾经于googleTPU团队实习,亲历过专用芯片从设计到落地的全历程。

公司今朝有跨越400名工程师,重要来自英伟达、googleTPU团队、博通、台积电……险些笼罩了AI芯片财产链的每个要害环节。

一个有400个芯片内行的团队,加之已经经流片乐成的产物,加之10亿美元定单,这个组合于芯片创业公司里,已经经算是“验证充实”了。

02英伟达铁幕下的又一道裂痕

英伟达的护城河,从来不只是芯片机能,更是CUDA生态。

任何想挑战英伟达的芯片公司,都要面临一个魂灵拷问:你的芯片再快,开发者愿意重写代码吗?

Etched的智慧的地方于在,它不要求开发者重写代码。Sohu撑持直接运行Transformer模子,用户用PyTorch练习的模子,不需要改代码,就能于Sohu上跑。

这是ASIC芯片汗青上很少见的环境。

以往的ASIC,凡是象征着新的编程模子、新的软件栈、新的进修成本。Sohu之以是能避开这个问题,是由于Transformer的生态已经经充足同一:模子格局尺度,推理框架成熟,专用芯片只需要对于接这个同一层就行。

这对于英伟达来讲,是一个史无前例的挑战。由于英伟达的焦点上风是“通用+生态”,假如客户发明“专用芯片又快又自制还有不消改代码”,通用性的溢价就会迅速缩水。

事实上,眼下,全世界AI芯片财产链,正于破裂成三条线路。

一条是通用GPU线路,如英伟达、AMD等,卖铲子给所有人,无论你挖甚么矿。上风是生态成熟、通用性强;劣势是效率低、成本高。

一条是云厂商自研线路,如googleTPU、AWS Trainium、Meta自研芯片等,上风是深度绑定自身营业,成本可控;劣势是生态关闭,技能外溢有限。

还有有一条是第三方专用芯片线路,如Etched、Cerebras、Groq等,主打一个我为特定计较优化,但我卖给所有人。它们的上风是效率极致;劣势是危害比力集中。

于不少业内子看来,这三条线路会持久并存,但市场份额会从头洗牌。而将来2-3年,多是格式初定的要害窗口期。

本文作者持久追踪海外AI巨头本钱动态、前沿技能及幕后故事,接待添加作者微信 xf123a 互通有没有。雷峰网(公家号:雷峰网)雷峰网雷峰网

雷峰网原创文章,未经授权禁止转载。详情见转载须知。

-C17官方网站-C17(中国)
1210
在线客服
在线客服

Maggie

微信咨询

黎小姐