行业新闻 (News) 芯片封装主页/ 行业新闻 / Nvidia推出边缘计算平台,为行业带来实时AI
< 返回列表

Nvidia推出边缘计算平台,为行业带来实时AI

Nvidia宣布推出EGX,一种加速计算平台,使公司能够在边缘执行低延迟AI - 实时感知,理解并实时处理5G基站,仓库,零售店,工厂及其他地区之间的连续流数据。

Nvidia表示,EGX的创建是为了满足不断增长的需求,即在边缘创建数据的瞬间高吞吐量AI,保证响应时间,同时减少必须发送到云的数据量。

Nvidia表示,到2025年,1500亿台机器传感器物联网设备将传输需要处理的连续数据 - 比使用智能手机的个人今天产生的数量级更多。 像EGX平台那样的边缘服务器将分布在世界各地,以便从这些传感器实时处理数据。

“企业需要更强大的计算能力来处理他们的海洋原始数据 - 从与客户和设施的无数次互动中流入 - 以制定可以推动其业务的快速,人工智能增强的决策,”副总裁兼总裁Bob Pette说。 Nvidia的企业和边缘计算经理。 “像Nvidia EGX这样的可扩展平台使他们能够轻松部署系统,以满足他们在现场,云端或两者中的需求。”

可扩展性

该厂商表示,EGX从微型Nvidia Jetson Nano开始,它可以为几瓦特提供每秒半万亿次操作(TOPS)处理,用于处理图像识别等任务。 它一直延伸到全机架的Nvidia T4服务器,为实时语音识别和其他实时AI任务提供超过10,000 TOPS。

企业级

Nvidia与Red Hat合作,将Nvidia Edge Stack与领先的企业级Kubernetes容器编排平台OpenShift集成和优化。

Nvidia Edge Stack是一款优化软件,包括Nvidia驱动程序,CUDA Kubernetes插件,CUDA容器运行时,CUDA-X库和容器化AI框架和应用程序,包括TensorRT,TensorRT推理服务器和DeepStream。 Edge Stack针对经过认证的服务器进行了优化,可从NVIDIA NGC注册表下载。

“Red Hat致力于为从混合云到边缘的任何工作负载,占地面积和位置提供一致的体验,”Red Hat首席技术官Chris Wright说。 “通过结合使用Red Hat OpenShift和支持NVIDIA EGX的平台,客户可以通过一致,高性能,以容器为中心的环境更好地优化其分布式操作。”

一个'On-Prem AI Cloud-in-a-Box'

EGX将全系列Nvidia AI计算技术与Red Hat OpenShift和Edge Stack以及Mellanox和思科安全,网络和存储技术相结合。 这使得最大行业的公司 - 电信,制造,零售,医疗保健和运输 - 能够快速建立最先进,安全,企业级的AI基础设施。

“Mellanox Smart NIC和交换机为数据访问提供了理想的I / O连接,可从边缘数据中心扩展到超大规模数据中心,”Mellanox Technologies首席技术官Michael Kagan表示。 “高性能,低延迟和加速网络的结合提供了一个新的基础架构计算层,对于有效访问和提供在Nvidia EGX等边缘平台上推动下一代高级AI解决方案所需的数据至关重要。”

“思科很高兴与Nvidia合作,为我们的客户提供边缘到核心的全栈解决方案,利用思科支持EGX的平台与思科计算,结构,存储和管理软件以及我们领先的以太网和基于IP的网络技术, “思科计算系统副总裁Kaustubh Das说。

实现混合云和多云物联网

Nvidia AI计算由主要云提供,并且在架构上与EGX兼容。 在云中开发的AI应用程序可以在EGX上运行,反之亦然。 Edge Stack连接到主要的云IoT服务,客户可以从AWS IoT Greengrass和Microsoft Azure IoT Edge远程管理他们的服务。

“Azure IoT Edge可帮助客户快速安全地将云服务部署到其物联网设备,”Azure IoT Edge总监Sam George表示。 “我们期待在Azure IoT Edge设备上支持Nvidia的EGX边缘平台,以便客户可以部署针对EGX兼容硬件的AI工作负载。”

· 2019-05-27 21:15  本新闻来源自:digitimes,版权归原创方所有

阅读:995
  • 联系长芯

    重庆总部:重庆市长寿区新市街道新富大道5号佳禾工业园8栋2层
    电话:023 40819981 (前台)

    深圳办事处:深圳市南山区留仙大道 1213 号众冠红花岭工业南区 2 区 1 栋 1 楼
    电话:0755-26975877 (前台)

    电子邮件:sales@longcore.com

    网址:http://www.longcore.com