> 自媒体 > (AI)人工智能 > 1.5T内存挑战英伟达!8芯撑起3个GPT-4,来自华人AI芯片独角兽
1.5T内存挑战英伟达!8芯撑起3个GPT-4,来自华人AI芯片独角兽
来源:量子位
2023-10-04 17:39:07
519
管理

梦晨 衡宇 发自 凹非寺量子位 | 公众号 QbitAI

高端GPU持续缺货之下,一家要挑战英伟达的芯片初创公司成为行业热议焦点。

8枚芯片跑大模型,就能支持5万亿参数(GPT-4的三倍) 。

这是独角兽企业Sambanova刚刚发布的新型AI芯片SN40L——

型号中40代表是他们第四代产品,L代表专为大模型(LLM)优化:高达1.5T的内存,支持25.6万个token的序列长度。

CEO Rodrigo Liang表示,当前行业标准做法下运行万亿参数大模型需要数百枚芯片,我们的方法使总拥有成本只有标准方法的1/25。

SambaNova目前估值50亿美元(约365亿人民币),累计完成了6轮总计11亿美元的融资,投资方包括英特尔、软银、三星、GV等。

这一策略与GPT-4和谷歌Gemini等做法形成鲜明对比,巨头大多希望创建一个能泛化到数百万个任务的巨型模型。

分析师认为技术上可能谷歌的做法性能更强,但SambaNova的方法对企业来说更实用。

没有任何一个模型或人能完整访问企业的所有数据,限制每个部门能访问的专家模型,就能限制他们能访问的数据。

斯坦福系芯片公司,华人工程师主力

SambaNova成立于2017年,2020年之前都比较低调。

联创3人都是斯坦福背景,连产品系列名Cardinal(深红色)都是斯坦福的昵称与代表颜色。

CEO Rodrigo Liang是前Sun/甲骨文工程副总裁,也有人将这个名字解读为暗指甲骨文老对头IBM的DeepBlue(深蓝)。

另外两位联合创始人都是斯坦福教授。

CTO Kunle Olukotun是电气工程教授,因多核芯片架构方面的研究而闻名,开发了首批支持线程级推测 (TLS) 的芯片之一。

Christopher Ré是计算机科学副教授,重点研究方向机器学习和数据分析的速度和可扩展性。

此外团队中还有不少华人工程师。

从官网公开信息来看,SambaNova的领导团队中,至少有3名华人。

Jonathan Chang,拥有UC伯克利的机械工程学士学位以及南加州大学的MBA学位。

他在构建高增长方面拥有20多年的经验。加入SambaNova之前,Chang在特斯拉工作了近9年。

Marshall Choy,此前曾担任甲骨文公司系统产品管理和解决方案开发副总裁,监督了数十个行业的企业硬件和软件产品的上市。

Penny Li,在EDA工具和微处理器设计方面拥有超过27年的经验。此前,她曾在IBM和甲骨文工作过。

如果去领英搜索还能发现更多华人团队成员。

目前SambaNova包含SN40L芯片的人工智能引擎已上市,但定价没有公开。

根据Rodrigo Liang的说法,8个SN40L组成的集群总共可处理5万亿参数,相当于70个700亿参数大模型。

全球2000强的企业只需购买两个这样的8芯片集群,就能满足所有大模型需求。

参考链接:[1]https://spectrum.ieee.org/ai-chip-sambanova[2]https://www.nextplatform.com/2023/09/20/sambanova-tackles-generative-ai-with-new-chip-and-new-approach/[3]https://sambanova.ai/resources/

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 网址:jsxel.com
相关文章
新车 | 售价49.9-57.8万欧元,搭载V12动力,法拉利812特别版发布..
文:懂车帝原创 史景旭/潘梓春[懂车帝原创 产品] 5月5日,法拉利812特别..
目前最便宜的法拉利,试驾法拉利Roma,它真的是\u0026#34;弱鸡\u0026#34;吗..
文:孙少爷说到法拉利,我相信大家的脑海里肯定会最先想到的就是他们的F1..
血脉传承,新王当立!法拉利全新旗舰公路超跑F80
位于三翼面前翼下方有主动式反向襟翼设计,它的开闭状态来控制车身前部的..
比高铁开的还快?上赛场试驾法拉利全系车型
好吧,我承认,当领导在微信上问“有个法拉利的试驾,你去不去?”的时候..
全新法拉利亮相!2.9T V6双涡轮+电动机输出830马力
在电气化时代,连以前一向以排量为王的超级跑车也不得不加入电机系统,也..
6.5L+V12+国VI排放,售价530万,全新法拉利812 GTS看了让人心动..
早在1947年,恩佐·法拉利便推出了一款搭载V12发动机的125 S量产车,虽然..
新车 | 海外售价约273万元起,法拉利SUV实车亮相,国内或10月上市..
文:懂车帝原创 高帅鹏[懂车帝原创 产品] 在9月14日官图发布后,法拉利全..
只要88万就能买一辆11款法拉利458,真有这种好事?
哈喽,大家好~检车家老司机又和大家见面了!我是体重180,身高180, 穿着..
试驾玛莎拉蒂Levante:搭3.8T V8法拉利引擎,超帅、超拉风..
【有车以后 有车试驾】作为意大利的超豪华品牌,有着跑车血统的玛莎拉蒂..

成员 网址收录40373 企业收录2981 印章生成218903 电子证书955 电子名片58 自媒体37295

@2022 All Rights Reserved 浙ICP备19035174号-7
请选择要切换的马甲: