英伟达公司周一早些时候推出了新的英伟达EGX平台,将人工智能引入网络边缘,该平台能够实时感知、理解和处理数据,而无需首先将数据发送到云端或数据中心

英伟达宣布推出首款面向边缘设备的人工智能平台

将人工智能应用于智能手机、传感器和工厂机器等边缘设备是该技术不断发展的下一个阶段。最早的人工智能算法非常复杂,只能在云数据中心运行的强大机器上处理,这意味着需要通过网络发送大量信息。但这是不可取的,因为它需要大量带宽并导致更高的延迟,而且使得“实时”人工智能难以实现。

企业真正想要的是可以在数据产生的地方执行的人工智能,无论是制造工厂、零售商店还是仓库。几家科技公司都在试图解决这个问题,最近的尝试是英特尔公司今天推出的 “冰湖”芯片——这是该公司首款10纳米芯片,此外还有数十家创业公司也瞄准了这个领域。

但是英伟达进入人工智能边缘是值得注意的,因为该公司的图形处理单元被广泛认为是好的人工智能处理硬件。其中包括用于深度学习的Tesla V100和Quadro GV100,它可以实时进行光线跟踪,即创建逼真图像的过程。

新的英伟达EGX平台可以从基于Jetson Nano处理器的轻型服务器——能够以几瓦的功耗每秒钟处理0.5万亿次操作,扩展到基于边缘服务器NVIDIA T4机架的微型数据中心——可以每秒完成10,000万亿次操作。芯片的节能功能对于人工智能来说非常重要,因为传统的硬件运行此类任务时,耗电量非常巨大。

在媒体简报中,英伟达企业和边缘计算高级主管Justin Boitano表示,对NGX之类的平台的需求将会很大,因为到2025年,世界上将有大约1500亿台机器传感器和“物联网”设备。他表示有很多这样的传感器将被用于“智能城市”等计划,并将生成需要在现场进行处理的数据——这主要是出于更低延迟和实时响应的需求,数据主权法规的要求或对隐私问题的考虑。

Boitano表示: “人工智能确实是所有行业在视觉和言语方面的杀手级应用。”

如果真的想要充分利用这些芯片,合作伙伴关系也很重要。处于这个原因,英伟达正在整合NVIDIA Edge Stack软件,而不是让EGX运行在Red Hat的OpenShift Kubernetes容器编排平台上以实现与现代软件应用程序的兼容。

该平台还集成了Mellanox Technologies股份有限公司的安全、存储和网络技术,英伟达计划在年底前以69亿美元的价格收购Mellanox Technologies股份有限公司。

Mellanox首席技术官Michael Kagan 表示:“Mellanox Smart NIC和交换机为数据访问提供了理想的I / O连接,可从边缘扩展到超大规模数据中心。”

英伟达正在与至少13家不同的服务器制造商合作销售EGX平台,包括思科系统公司、戴尔EMC、惠普企业公司和联想集团控股有限公司等大牌制造商。

NGX还兼容运行在主要云基础架构服务(如Amazon Web Services和Microsoft Azure)上的人工智能应用程序,并且可以连接到物联网服务,例如AWS IoT Greengrass和Azure IoT Edge。  

【凡本网注明来源非中国IDC圈的作品,均转载自其它媒体,目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。】

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排 行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2024-05-08 16:41:16
大数据资讯 用天工AI搜索梳理《如懿传》触到了观众哪些“逆鳞”
在「增强」模式下,天工 AI 可以检索更多网页,提供全面个性化答案。 <详情>
2024-04-03 09:42:00
云资讯 浪潮海若大模型业务战略正式发布
伴随新一轮科技变革和产业变革深入发展,一大批新兴技术和产业如潮涌现,全球迎来了新一轮的发展机遇期。 <详情>
2024-03-20 10:12:12
市场情报 亚马逊云科技与英伟达扩展合作 持续推进生成式AI创新
亚马逊云科技将提供NVIDIA GB200 Grace Blackwell Superchip和 B100 Tensor Core GPU,这一举措延续了双方长期的战略合作伙伴关系,旨在为客户提供安全、先进的基础设施、 <详情>
2024-03-01 15:06:00
新闻动态 第二届北京人工智能产业创新发展大会成功举办 全市首个自主创新人工智能算力集群签约落地“京西智谷”
北京24家企事业单位联合发起“大模型应用产业联合体”,将依托华为软硬件底座,打造生态聚合的“AI原生应用引擎”平台。 <详情>