英特尔ARM英伟达力推规范草案,想统一AI数据交换格式

来源:IT之家   发布时间:2022-10-08 10:27:37   阅读量:7777  

当地时间周三,芯片公司英特尔,ARM和英伟达联合发布了一份所谓的人工智能通用交换格式的规范草案,目的是让机器处理人工智能的过程更快,更高效。

英特尔ARM英伟达力推规范草案,想统一AI数据交换格式

Intel,ARM,Nvidia在草案中推荐人工智能系统的8位FP8浮点处理格式他们表示,FP8浮点处理格式可能会优化硬件内存利用率,从而加速人工智能的发展这种格式同时适用于AI训练和推理,有助于开发更快更高效的AI系统

在开发人工智能系统时,数据科学家面临的关键问题不仅仅是收集大量数据来训练系统另外,需要选择一种格式来表示系统权重,这是人工智能从训练数据中学习并影响系统预测效果的重要因素Weight让GPT—3等人工智能系统从长句提示中自动生成一整段,也让DALL—E 2人工智能根据特定标题生成逼真的人像

人工智能系统权重常用的格式有半精度浮点FP16和单精度浮点FP32前者使用16位数据表示系统重量,而后者使用32位数据半精度浮点数和更低精度浮点数可以减少人工智能系统训练和运行所需的内存空间,同时可以加快计算速度,甚至可以减少占用的带宽资源和功耗但由于比单精度浮点数位数少,精度会降低

但是业内很多公司,包括Intel,ARM,Nvidia,都把8位FP8浮点处理格式作为自己的最佳选择英伟达产品营销总监Sasana Lassime Han在博客中指出,FP8浮点处理格式在计算机视觉和图像生成系统等用例中的精度与半精度浮点处理格式相当,并且明显得到了加速

英伟达,ARM和英特尔表示,他们将使FP8浮点处理格式成为一种开放标准,其他公司无需许可即可使用三家公司在白皮书中详细描述了FP8Lassime Nahan表示,这些规范将提交给技术标准化组织IEEE,看看FP8格式能否成为人工智能行业的通用标准

纳汉·拉西米说:我们相信,一种通用的交换格式将带来硬件和软件平台的快速进步,提高互操作性,从而推动人工智能计算的进步。

当然,三家公司之所以不遗余力地推动FP8格式成为通用交换格式,也是出于各自的研究考虑英伟达的GH100 Hopper架构已经支持FP8格式,英特尔的Gaudi2人工智能训练芯片组也支持FP8格式

但通用的FP8格式也将有利于竞争对手,如SambaNova,AMD,Groq,IBM,Graphcore和Cerebras,这些公司在开发人工智能系统时都尝试或采用了FP8格式人工系统开发商Graphcore的联合创始人兼首席技术官西蒙·诺尔斯在今年7月的一篇博文中写道,8位浮点数的出现在处理性能和效率方面给人工智能计算带来了巨大的优势诺尔斯还表示,这是行业确定一个单一开放标准的机会,这比采用多种格式相互竞争要好得多

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

为你推荐

火速护盘!当天制定回购方案,当天下场买股!上市公司真金白银看好后市

火速护盘!当天制定回购方案,当天下场买股!上市公司真金白银看好后市

4月25日,不少上市公司在下跌中果断实施回购。25日晚间,恒瑞医药、建霖家居、劲嘉股份等公司纷纷公告在盘中实施了回购;威...更多

2022-04-26 01:11:00
人弃我取时间已到!券商首席一致看多,A股迎接反攻时刻?

人弃我取时间已到!券商首席一致看多,A股迎接反攻时刻?

4月25日,上证指数重挫逾5%,失守3000点,创下2020年7月以来新低。盘后,券商中国记者采访了多位券商策略、宏观分...更多

2022-04-26 01:11:00
实实在在赚钱了!2021年收入增34%,这家公司要冲击“纯SaaS业务模

实实在在赚钱了!2021年收入增34%,这家公司要冲击“纯SaaS业务模

4月25日,新三板挂牌公司和创科技晒出了2021年“成绩单”,2021年实现收入1.45亿元,同比增长34%;经营现金流...更多

2022-04-26 01:00:00
高玩不买单了水冷头一哥EKWB裁员1/4:业绩持续暴跌

高玩不买单了水冷头一哥EKWB裁员1/4:业绩持续暴跌

虽然AIO一体式水冷很方便,但分体式水冷依然是目前散热最好、效果最炫的方案,只不过价格很贵,只有高玩才会折腾。然而这个高...更多

2022-04-26 00:38:00
IEEE发布首个供应链金融区块链国际标准蚂蚁集团牵头制定

IEEE发布首个供应链金融区块链国际标准蚂蚁集团牵头制定

,IEEE计算机协会区块链和分布式记账标准委员会召开全体会议,《基于区块链的供应链金融标准》正式发布。这是IEEE发布的...更多

2022-04-26 00:37:00
外媒预计在建设P3晶圆厂后三星电子还将在平泽建设P4晶圆厂

外媒预计在建设P3晶圆厂后三星电子还将在平泽建设P4晶圆厂

,据国外媒体报道,此前有报道称,三星电子2020年年中开始在韩国平泽建设的P3晶圆厂,将在下月开始设备的安装,设备的进入...更多

2022-04-26 00:35:00
万华化学首季净利降近两成2021年分红超78亿

万华化学首季净利降近两成2021年分红超78亿

25日盘后,万华化学披露2022年第一季度报告。一季度,公司在营业收入增超30%的情况下,净利润回落近两成。具体来看,一...更多

2022-04-26 00:35:00
盈利下滑、应收账款和现金流状况恶化!泽达易盛股价较高点已跌超八成

盈利下滑、应收账款和现金流状况恶化!泽达易盛股价较高点已跌超八成

董事长、财务总监协助调查,股价暴跌,业绩下滑,笼罩在泽达易盛头上的疑云久久不散。3月17日晚,泽达易盛发布重大事项公告,...更多

2022-04-26 00:34:00