设为首页添加收藏

您好! 欢迎来到天辰平台!

微信
扫码关注官方微信
电话:4008-888-888

您的位置:主页 > 新闻资讯 > 行业动态 >
行业动态

AMD推出MI300X,可运行多达800亿参数模型

发布日期:2023-06-14 来源: 未知 阅读量(


AMD CEO苏姿丰介绍,生成式AI和大语言模型(LLM)需要电脑的算力和内存大幅进步。她估计,本年,数据中心AI 加速器的市场将达到300亿美元左右,到2027 年将超越1500 亿美元,复合年增长率超越 50%。

它选用CDNA 3 GPU架构和24个Zen 4 CPU内核,装备128GB的HBM3内存。比较前代MI250,MI300的功能进步八倍,效率进步五倍。AMD在发布会稍早介绍,新的Zen 4c内核比标准的Zen 4内核密度更高,比标准Zen 4的内核小35%,同时保持100%的软件兼容性。

AMD推出一款GPU专用的MI300,即MI300X,该芯片是针对LLM的优化版,具有192GB的HBM3内存、5.2TB/秒的带宽和 896GB/秒的Infinity Fabric 带宽。AMD将1530亿个晶体管集成在共12个5纳米的小芯片中。

苏姿丰称,适用于CPU和GPU的版别MI300A现在就已出样,MI300X和八个GPU的Instinct 渠道将在本年第三季度出样,第四季度正式推出。

亚马逊、微软、Meta现已或将要运用AMD新品

AMD第四代EPYC(霄龙)在云作业负载的功能是英特尔竞品处理器的1.8倍,在企业作业负载中的处理速度是英特尔竞品的1.9倍。

AMD也将在内部作业中运用EC2 M7a实例,包括芯片设计的EDA软件。AMD还宣布,本年7月,甲骨文将推出Genoa E5实例。

Bergamo比前代Milan的功能高2.5倍,现在就能够向AMD的云客户发货。

AMD同时推出本周二上市的CPU Genoa-X。它将添加超越1GB 的96核L3缓存。它共有四个SKU,16到 96 个内核。由于SP5插槽兼容,所以它能够与现有的EPYC 渠道一同运用。

Azure宣布,搭载Genoa-X的HBv4和HX系列实例、以及新的HBv3实例全面上市。Azure还称,功能最高可较市道基准提高5.7倍。

AMD还说到有自己的AI芯片软件,名为ROCm。AMD总裁Victor Peng称,在构建强大的软件堆栈方面,AMD取得了真正的巨大进步,ROCm软件栈可与模型、库、框架和东西的开放生态系统配合运用。


分享到

新浪微博

分享到

朋友圈

分享到

QQ空间