TG:laochentou
天弘基金人工客户服务电话
2023-11-15 16:44:05
天弘基金客服电话:0731-8222-2282。)(全国统一服务热线0459-6661110)提前还款结清电话 :0731-8222-2282(人工客服电话:0459-6661110)——用心服务,调整佣金,调整交易手续费,修改佣金手续费,修改手续费,开通科创板,开通创业板。——证券人工热线:0731-822222-82

H200问世,芯片战争告一段(duan)落?,高性(xing)能,模型,硬件

01

昨晚,英伟达宣告推出 NVIDIA HGXTM H200,为全球领(ling)先(xian)的 AI 计算平台灌输强大动力。

该平台基于 NVIDIA HopperTM 架构,装备H200 Tensor Core GPU和先(xian)进的显存,因此可以为生成式AI和高性(xing)能计算事情负载处理海(hai)量(liang)数据。

此次正在计算核(he)心上的进级力度虽小,但显存带宽速率的增长,赞助H200实现了更快的数据传输,淘汰庞大使命的处理瓶颈,个中HBM3e内存芯片起到了关键作用(yong)。

作为H100 GPU的继任者,也(ye)是(shi)该公司首款(kuan)利用(yong) HBM3e 内存的芯片,拥有高达141GB的显存。借助HBM3e,与A100比拟,H200的容量(liang)几(ji)乎翻了一番,带宽也(ye)增加了2.4倍。

与H100比拟,H200的带宽则(ze)从(cong)3.35TB/s增加到了4.8TB/s,带来了进一步的性(xing)能奔腾,用(yong)跑模型来反映其进步,让Llama2 70B正在两款(kuan)芯片上运(yun)作,H200的推理速度比后任提升了一倍。

并且两款(kuan)芯片正在利用(yong)上是(shi)互(hu)相兼容,这意味着创建正在H100上锻炼的大语言模型可以无缝衔接(jie)地(di)切换到H200上加速。用(yong)H200与英伟达Grace CPU搭配(pei)利用(yong)构成了性(xing)能更加强劲的GH200 Grace Hopper超级芯片——专(zhuan)为大型HPC和AI应用(yong)而设(she)计的计算模块。

(题目(mu):英伟达H200、H100和A100性(xing)能比拟;泉(quan)源:Anadtech)

此外,H200的推理能耗比拟前代间接(jie)腰斩,能大幅降低用(yong)户的利用(yong)本钱,可谓买(mai)很多免很多。软件进级预留了更大的空间,未来预计还会为H200带来额外的性(xing)能提升。

英伟达H200芯片将于2024年第二季度开始向全球系统制造商和云服务供应商供货。

正在英伟达官方公布的产品路线图当中,正在明后年会分(fen)别(bie)推出B100和X200两款(kuan)芯片,把过去数据中心两年一更新的节(jie)奏打破。

性(xing)能更是(shi)举目(mu)望不到尽头。以推理1750亿参数的GPT-3为例,今年刚刚发布的H100是(shi)前代A100性(xing)能的11倍,H200比H100有着60%的提升。

目(mu)前除了主导(dao)大模型界的Open AI与算力领(ling)先(xian)的英伟达芯片有着深度绑定,科技(ji)大厂(chang)亚(ya)马逊的AWS、微软Azure,谷歌云无疑都将继续拥抱(bao)H200。

尽管高昂(ang)的价格已经(jing)让他们(men)着手加速芯片自研,占(zhan)尽先(xian)发优势的英伟达再次堵住了厥后居上的路。

正在凭(ping)借超高算力加速结果成熟的开发生态绑定后,对(dui)手很难简朴靠时(shi)间追上这家芯片巨头,或者等你终于开收回(hui)一款(kuan)锻炼模型的芯片时(shi),大模型可能都迭代好几(ji)代了,这些巨头可等不起。

AI芯片竞赛中AMD、英特尔也(ye)不遑(huang)多让,今年6月AMD发布的Instinct MI300X将装备182GB的HBM3和5.2TB/S的显存带宽,容量(liang)和带宽比拟H200都不逊色。英特尔来岁(sui)推出的第三代Gaudi AI芯片也(ye)将从(cong)上一代的96GB HBM2e增加到144GB。

H200能卖什么(me)价?

据美国金融机构Raymond James透露,H100芯片的本钱仅为3320美元,但英伟达对(dui)其客户的批量(liang)价格却高达2.5万至(zhi)4万美元,利润率高达10倍。

GPT-4也(ye)许必要(yao)正在10000-25000块A100上锻炼,按照马斯克的说法GPT-5可能必要(yao)30000-50000块H100。

有可能成为首个通用(yong)野生智能雏形的GPT-5啥(sha)时(shi)候问世还不晓得,但老黄已经(jing)筹备好了铲子。

02

Sam Altman又回(hui)归(gui)了科技(ji)圈顶流,风头盖过了马斯克盖茨等人。先(xian)是(shi)以一场(chang)发布会抹杀了众(zhong)多尚正在襁褓里的AI创业项目(mu),Open AI投资(zi)的科技(ji)硬件始创公司Humane继而发布了一款(kuan)内嵌GPT的AI硬件——AI Pin。

这款(kuan)AI Pin最早曾正在巴黎时(shi)装周的T台上展示,外形玲珑(long)美观(guan),可以通过磁吸的方式适合佩戴正在身上。

除了内置GPT,从(cong)外观(guan)上可以发明这款(kuan)硬件并没有屏幕(mu),若是(shi)必要(yao)浏览(lan)信息,可以通过激光投影系统,拿手作屏幕(mu),利用(yong)手势交互(hu)识别(bie)来实现天气、时(shi)间以及日期的切换。

这款(kuan)AI硬件的特别(bie)之(zhi)处,正在于为我们(men)和智能硬件的交互(hu)方式供应了新的思(si)路,生成式AI对(dui)多模态环(huan)境的识别(bie)使其能够融入到我们(men)周围的环(huan)境中,好比一个能听从(cong)指令和实时(shi)反馈的“助手”陪伴正在我们(men)身边。

以前智妙手机作为人体(ti)的延伸(shen)存正在着,我们(men)大部分(fen)时(shi)间都离不开手机,也(ye)逐渐被束缚正在六七寸的小盒子里,而且我们(men)并未完全开放全部的输入渠(qu)道,猎取信息的方式主要(yao)照样以浏览(lan)为主,听力为辅。

值得一提的是(shi),开发团队大部分(fen)来自苹果前员工(gong),首创人Chaudhri更是(shi)初代iPhone的设(she)计团队成员。

不难解释,整体(ti)外形看上去充满了苹果的味道,可以说是(shi)Apple Watch的“胸针版”,由计算机核(he)心和电池两部分(fen)构成,前半部分(fen)机身有一块触摸板,可以通过单指、双指点击来激活设(she)备。顶部另有一个“信任灯(deng)”,当信任灯(deng)闪灼时(shi)会告诉我们(men)正正在收集数据。

官方特地(di)强调(diao),AI Pin的定位(wei)并非一款(kuan)可穿戴配(pei)件,不依赖与智妙手机形成配(pei)对(dui)的方式来辅助利用(yong),它(ta)配(pei)置了独立的操作系统Cosmos,更像是(shi)ChatGPT的插件系统,按需来调(diao)用(yong)各种AI。

当然这背后离不开Open AI的加持,如(ru)今Sam Altman计划带领(ling)公司更进一步。

Altman 正在接(jie)受《金融时(shi)报》采访时(shi)表示,“我们(men)的愿景是(shi)打造AGI,确保(bao)其安(an)全并从(cong)中受益。”

为实现这一终极(ji)目(mu)标,OpenAI 计划从(cong)微软那边获得进一步的资(zi)金支持,公司 CEO Sam Altman 正主动推进创建与人类一样智能的计算机软件 —— 通用(yong)野生智能(AGI)的愿景。

据知(zhi)情人士透露,作为两家公司长期协议的一部分(fen),微软今年早些时(shi)候宣告再向OpenAI投资(zi)100亿美元。

被问及微软是(shi)否会进一步投资(zi)的时(shi)候,Altman回(hui)答道“我希望如(ru)此。从(cong)这里到AGI之(zhi)间另有很长的路要(yao)走,必要(yao)构建大批的算力,培训费用(yong)也(ye)非常庞大。”

Altman还表示,公司正正在开发下一代 AI 模型GPT-5,不过他没有承诺发布时(shi)间表。GPT-5 将比其上一代更加庞大,但从(cong)技(ji)术上很难准确预测该模型可能具有哪些新功能和妙技(ji)。

发布于:广东(dong)省
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
? ? ? ? ? ? ? ? ?