Rambus通过GDDR7内存控制器IP推动AI 2.0发展
时间:2024-04-23 15:12来源:
摘要:作为Rambus行业领先的接口和安全数字IP产品组合的最新成员,GDDR7内存控制器将为下一波AI推理浪潮中的服务器和客户端提供所需的突破性内存吞吐量。
作为 Rambus 行业领先的接口和安全数字 IP 产品组合的最新成员,GDDR7 内存控制器将为下一波AI推理浪潮中的服务器和客户端提供所需的突破性内存吞吐量。
面向AI 2.0的内存解决方案
AI 2.0代表着生成式AI革命性世界的到来。AI 2.0借助大语言模型(LLM)及其衍生模型的巨大增长创建新的多模态内容。多模态意味着可以将文本、图像、语音、音乐、视频等混合输入到模型中,从而创建出这些以及其他媒体格式的输出,例如根据图像创建3D模型或根据文本提示创建视频等。
LLM的参数规模已超过万亿,数据集样本规模也已达到数十亿。训练LLM需要巨大的算力,这离不开最新高性能内存解决方案的支持。
通过GDDR7增强AI推理能力
AI 2.0训练流程的输出结果是一个推理模型,该模型可根据用户提示创建新的多模态内容。由于准确性和保真度会随着模型规模的扩大而提高,因此推理模型的规模也在不断扩大。随着AI推理变得越来越普遍,并从数据中心向边缘和终端移动,这就促使整个计算领域需要更加强大的处理引擎和量身定制的高性能内存解决方案。
GPU一直是推理引擎的首选,在服务器和台式机等边缘和终端应用中,GPU一直使用的是GDDR6内存。但GDDR6的数据传输速率已达到标准NRZ信号的实际极限——24Gbps。为了满足未来GPU的带宽需求,需要使用新信号机制的新一代GDDR。而使用PAM3信号的GDDR7内存可将数据传输速率提高至40 Gbps或以上。
面向AI 2.0的Rambus半导体IP
作为AI 2.0的首选半导体IP供应商,Rambus提供业界领先的 HBM、PCIe和 CXL控制器 IP,现在更提供业界首个GDDR7内存控制器IP。Rambus GDDR7控制器为GDDR7存储器的实现提供了功能齐全且具有高带宽效率的解决方案。它支持40 Gbps的运行速度,为GDDR7存储器设备提供160 GB/s的吞吐量,较业界吞吐量最高的GDDR6控制器(同样来自Rambus)提高了67%。Rambus GDDR7控制器实现了适用于最先进AI加速器、图形和高性能计算(HPC)应用的GDDR内存部署。
Rambus半导体IP总经理Neeraj Paliwal表示:“AI 2.0工作负载对带宽提出了前所未有的高要求,因此提供更高的内存性能变得至关重要。借助我们开创性的GDDR7控制器IP解决方案,设计人员可以快速利用最新一代GDDR存储器的优势,实现业界领先的吞吐量。”
IDC内存半导体副总裁Soo-Kyoum Kim表示:“GDDR7内存的性能较GDDR6大幅提升。对任何希望充分利用GDDR7优化的速率和延迟特性的人来说, Rambus GDDR7控制器IP将成为重要的工具。”
Rambus GDDR7控制器的主要特点:
· 支持包括PAM3和NRZ信号在内的所有GDDR7链路功能
· 支持多种GDDR7设备尺寸和速率
· 专门针对各种流量情况进行优化,可实现高效率和低延迟
· 灵活的AXI接口支持
· 低功耗支持(自刷新、休眠自刷新、动态频率缩放等)
· 可靠性、可用性和可维护性(RAS)功能,例如端到端数据路径奇偶校验、存储寄存器奇偶校验保护等
· 全方位的内存测试支持
· 对现有第三方PHY的集成支持
· 使用最新的GDDR7 VIP和内存供应商内存模型进行验证
Rambus GDDR7内存控制器IP现已上市。如需了解更多Rambus GDDR7控制器有关信息,敬请点击此处访问。
面向AI 2.0的内存解决方案
AI 2.0代表着生成式AI革命性世界的到来。AI 2.0借助大语言模型(LLM)及其衍生模型的巨大增长创建新的多模态内容。多模态意味着可以将文本、图像、语音、音乐、视频等混合输入到模型中,从而创建出这些以及其他媒体格式的输出,例如根据图像创建3D模型或根据文本提示创建视频等。
LLM的参数规模已超过万亿,数据集样本规模也已达到数十亿。训练LLM需要巨大的算力,这离不开最新高性能内存解决方案的支持。
通过GDDR7增强AI推理能力
AI 2.0训练流程的输出结果是一个推理模型,该模型可根据用户提示创建新的多模态内容。由于准确性和保真度会随着模型规模的扩大而提高,因此推理模型的规模也在不断扩大。随着AI推理变得越来越普遍,并从数据中心向边缘和终端移动,这就促使整个计算领域需要更加强大的处理引擎和量身定制的高性能内存解决方案。
GPU一直是推理引擎的首选,在服务器和台式机等边缘和终端应用中,GPU一直使用的是GDDR6内存。但GDDR6的数据传输速率已达到标准NRZ信号的实际极限——24Gbps。为了满足未来GPU的带宽需求,需要使用新信号机制的新一代GDDR。而使用PAM3信号的GDDR7内存可将数据传输速率提高至40 Gbps或以上。
面向AI 2.0的Rambus半导体IP
作为AI 2.0的首选半导体IP供应商,Rambus提供业界领先的 HBM、PCIe和 CXL控制器 IP,现在更提供业界首个GDDR7内存控制器IP。Rambus GDDR7控制器为GDDR7存储器的实现提供了功能齐全且具有高带宽效率的解决方案。它支持40 Gbps的运行速度,为GDDR7存储器设备提供160 GB/s的吞吐量,较业界吞吐量最高的GDDR6控制器(同样来自Rambus)提高了67%。Rambus GDDR7控制器实现了适用于最先进AI加速器、图形和高性能计算(HPC)应用的GDDR内存部署。
Rambus半导体IP总经理Neeraj Paliwal表示:“AI 2.0工作负载对带宽提出了前所未有的高要求,因此提供更高的内存性能变得至关重要。借助我们开创性的GDDR7控制器IP解决方案,设计人员可以快速利用最新一代GDDR存储器的优势,实现业界领先的吞吐量。”
IDC内存半导体副总裁Soo-Kyoum Kim表示:“GDDR7内存的性能较GDDR6大幅提升。对任何希望充分利用GDDR7优化的速率和延迟特性的人来说, Rambus GDDR7控制器IP将成为重要的工具。”
Rambus GDDR7控制器的主要特点:
· 支持包括PAM3和NRZ信号在内的所有GDDR7链路功能
· 支持多种GDDR7设备尺寸和速率
· 专门针对各种流量情况进行优化,可实现高效率和低延迟
· 灵活的AXI接口支持
· 低功耗支持(自刷新、休眠自刷新、动态频率缩放等)
· 可靠性、可用性和可维护性(RAS)功能,例如端到端数据路径奇偶校验、存储寄存器奇偶校验保护等
· 全方位的内存测试支持
· 对现有第三方PHY的集成支持
· 使用最新的GDDR7 VIP和内存供应商内存模型进行验证
Rambus GDDR7内存控制器IP现已上市。如需了解更多Rambus GDDR7控制器有关信息,敬请点击此处访问。
免责声明:本文若是转载新闻稿,转载此文目的是在于传递更多的信息,版权归原作者所有。文章所用文字、图片、视频等素材如涉及作品版权问题,请联系本网编辑予以删除。
我要投稿
近期活动
- 【趣味活动】英飞凌电池管理 - 为您的 BMS 设计提供高能助力时间:2025年03月17日 - 2025年06月15日[立即参与]
- 仪器使用操作视频教程时间:2025年01月01日 - 2025年12月31日[立即参与]
- 关于8.5位数字多用表的用户调研表时间:2025年01月08日 - 2025年01月22日[查看回顾]
- 【趣味活动】PI 无刷直流电机专题时间:2024年11月25日 - 2024年12月31日[查看回顾]
- 2024年安森美(onsemi)在线答题活动(10月汽车相关)时间:2024年10月01日 - 2024年10月31日[查看回顾]
分类排行榜
- 汽车电子电源行业可靠性要求,你了解多少?
- 内置可编程模拟功能的新型 Renesas Synergy™ 低功耗 S1JA 微控制器
- Vishay 推出高集成度且符合 IrDA® 标准的红外收发器模块
- ROHM 发布全新车载升降压电源芯片组
- 艾迈斯半导体推出行业超薄的接近/颜色传感器模块,助力实现无边框智能手机设计
- 艾迈斯半导体与 Qualcomm Technologies 集中工程优势开发适用于手机 3D 应用的主动式立体视觉解决方案
- 维谛技术(Vertiv)同时亮相南北两大高端峰会,精彩亮点不容错过
- 缤特力推出全新商务系列耳机 助力解决开放式办公的噪音难题
- CISSOID 和泰科天润(GPT)达成战略合作协议,携手推动碳化硅功率器件的广泛应用
- 瑞萨电子推出 R-Car E3 SoC,为汽车大显示屏仪表盘带来高端3D 图形处理性能
编辑推荐

小型化和稳定性如何兼得?ROHM 推出超小型高输出线性 LED 驱动器 IC,为插座型 LED 驱动 IC 装上一颗强有力的 “心脏”
众所周知,LED的驱动IC担负着在输入电压不稳定的情况下,为LED提供恒定的电流,并控制恒定(可调)亮度的作用。无论是室内照明,还是车载应用,都肩负着极为重要的使命。
- LLC+PFC的组合IC有哪些?
时间:2025-03-13 浏览量:1252
- 关于反激电源效率的一个疑问
时间:2022-07-12 浏览量:16964
- 面对热拔插阐述的瞬间大电流怎么解决
时间:2022-07-11 浏览量:14751
- PFC电路对N线进行电压采样的目的是什么
时间:2022-07-08 浏览量:14754
- RCD中的C对反激稳定性有何影响
时间:2022-07-07 浏览量:12437
- 36W单反激 传导7~10M 热机5分钟后超标 不知道哪里出了问题
时间:2022-07-07 浏览量:10012
- 多相同步BUCK
时间:2010-10-03 浏览量:40215
- 大家来讨论 系列之二:开机浪涌电流究竟多大?
时间:2016-01-12 浏览量:44902
- 目前世界超NB的65W适配器
时间:2016-09-28 浏览量:62116
- 精讲双管正激电源
时间:2016-11-25 浏览量:136094
- 利用ANSYS Maxwell深入探究软磁体之----电感变压器
时间:2016-09-20 浏览量:109826
- 【文原创】认真的写了一篇基于SG3525的推挽,附有详细..
时间:2015-08-27 浏览量:105656