亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例酒泉市某某地暖科技制造厂亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马酒泉市某某地暖科技制造厂用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读- ·墨西哥南部一小型卡车内发现11具尸体
- ·《谋杀歌谣》又有新版本,刘令飞把百年钟楼变为现代游乐场
- ·人民银行2024录用2950人,这所院校为最大赢家!
- ·外地生考入清华后才知道,北京学生和外地生的区别,不是一星半点
- ·技术派|双航母编队的威力与美国航母编队构成的变迁
- ·日本石川县能登半岛地震已致260人死亡
- ·“我的婚礼我做主” 年轻人的婚礼创造新“花样”
- ·人大附中家长会爆火出圈:孩子是新手司机,父母要做称职的副驾
- ·新产品来了!数字人民币创新应用落地不断
- ·新消费观察|2024中国厨卫展,智能、年轻、更具性价比
- ·人民日报刊文:让影视与文旅双向奔赴
- ·岁月不止,爱始终如一——青岛四方实验小学母亲节实践活动
- ·不要忽视青少年抑郁症,早期征兆很重要
- ·“旅游热”持续升温 这些关于景区的谣言别信
- ·关注!北京中招计划最新调整!释放出哪三个教育信号?
- ·《狐妖小红娘·月红篇》今晚开播,大家能否打个翻身仗?