首页 新闻 国内 聚焦 教育 关注 热点 要闻 民生 国际

您的位置:首页>新闻 >

推进云计算以及生成式AI,英伟达H100GPU已对亚马逊AWS云服务用户

来源:IT之家    发布时间:2023-07-30 08:00:58  阅读量:13820   

感谢IT之家网友 华南吴彦祖 的线索投递!

据介绍,该服务允许用户通过浏览器轻松扩展生成式 AI、高性能计算和其他应用。

NVIDIA H100 GPU 的一个重要特点是其对 Transformer 的优化,这是许多最新的先进 AI 应用所使用的关键技术,可确保 H100 在这些应用中提供更高的性能和效率。

IT之家查询发现,虽然 AWS 尚未就集成 AMD MI300 芯片到其云服务中作出任何公开承诺,但亚马逊弹性计算云副总裁 Dave Brown 证实 AWS 正在积极考虑这一方案。

英伟达表示,开发人员和研究人员几乎每天都在借助大型语言模型 发掘 AI 的新应用,而将这些新用例推向市场需要加速计算的效率。

NVIDIA H100 GPU 通过架构创新提供超级计算级性能,包括第四代 Tensor Cores、用于加速 LLMs 的新 Transformer 引擎以及最新的 NVLink 技术,可以带极其可观的性能。

据介绍,EC2 P5 实例非常适合训练和运行复杂 LLMs 和计算机视觉模型的推理。这些神经网络驱动着最复杂和计算密集型的生成式人工智能应用程序,包括问答、代码生成、视频和图像生成、语音识别等。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

关于我们 | 版权声明 | 客服中心 | 广告服务 | 网站地图

Copyright @2008- 中国经贸网 版权所有
本站点信息未经允许不得复制或镜像
营业执照公示信息