AMD实现处理器效能提升30倍!比原定时间提早一年
12月13日消息,实时间早在四年前,现处效AMD就曾设定目标,理器到2025年EPYC系列服务器处理器和Instinct系列AI芯片的提升提早能效,较2020年提高30倍。倍比如今,原定MI300X AI芯片基本上实现目标,实时间时间提了早一年。现处效
据THW报道,理器AMD两个64核心EPYC 9575F CPU、提升提早八个Instinct MI300X AI芯片及2304GB DDR5内存的倍比服务器,Llama3.1-70B(vLLM 0.6.1.post2、原定TP8)测试推理性能,实时间用一组复杂计算确定系统能源效率,现处效并与2020年的理器旧机器比较,
结果显示,新机能源效率是旧机的28.3倍。
不过,AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列,Zen 2架构,每个CPU最多64个核心,以及CDNA 1架构Instinct MI100 AI芯片。
AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。
今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。
MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。
MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。
对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%。
训练性能方面,单卡可领先H200 10%,八卡平台则是持平。
MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。
- ·[流言板]各种高难度!杜兰特再次迎着两人翻身跳投,目前4中4得到9分
- ·德里赫特头槌攻门,迪恩亨德森下地封出
- ·早早领先!马丁内利破门打进赛季第4球,廷伯传中送助攻
- ·ProArt百校行多站齐发 AI尽展强动力!
- ·[流言板]总冠军赔率榜没快船?船记:我认为这是对他们的不尊重lol
- ·出线告急!皇马在欧冠联赛中的表现前所未有地糟糕表现
- ·中国人竟然把三千多公里周长的塔克拉玛干沙漠给围起来了……
- ·质疑!泰晤士:FIFA安排迈阿密做东道主 是想确保梅西参加世俱杯
- ·经典妖怪故事漫画改编《地狱老师》新版动画预告公布 2025年夏季开播
- ·纳乔:皇马将赢得本赛季西甲冠军,维尼修斯现在是世界头号球星
- ·[流言板]记者:各支球队都在关注中锋位置补强,大个子市场会很活跃
- ·牛梓屹社媒:很遗憾缺席比赛,只想大声说一句兄弟们
- ·育碧证实叫停《不羁联盟》的开发 旗下三个工作室将关闭 277名员工恐被裁员
- ·鲍亚雄分享球队在更衣室庆祝胜利的照片:奇迹的名字叫猴哥
- ·都体:奥西里奥与戴维经纪人展开谈判,蓝军、巴萨等队也有意球员
- ·欧冠最新积分榜!利物浦第1,意甲豪门0丢球,诞生3个5连败大礼包