人工智能早已影响了人们工作生活的各个方面,人工智能需要数据的支持,而大数据处理早已进入需要云端支持的时代。因此面向云端数据中心的人工智能加速卡为数据处理提供了强大的算力。

继去年12月发布了首款面向数据中心的人工智能训练加速卡“云燧T10”后,今天燧原科技发布首款人工智能推理产品“云燧i10”,这正是一款面向云端数据中心的高性能推理卡,用以满足由于AI应用和落地场景迅速扩大,市场和客户对更高性价比以及国产化和差异化云端推理产品的需求。

燧原科技CEO赵立东表示,“当前全球科技产业特别是集成电路产业正在发生深刻变革,燧原科技会继续加速技术创新和产品迭代。”

与此同时,与上下游伙伴合作,加速业务落地,扩大市场规模。针对互联网数据中心、垂直行业(金融、保险、教育、医疗及运营商等)、新基建三大业务方向的应用场景,完善训练和推理软件栈、工具链和解决方案。通过产学研协作,共建国产化产业生态,助力中国人工智能和集成电路产业的发展。”

人工智能对于算力的要求非常高。云燧i10是单槽位标准卡,大大加快了人工智能的深度学习过程中的运算环节。支持PCIe 4.0,FP32算力达到17.6TFLOPS,BF16/FP16算力70.4TFLOPS。

据介绍,“云燧i10”拥有卓越的算力、出色的通用性以及优异的价值特性:高算力、多精度:FP32算力17.6TFLOPS,BF16/FP16算力70.4TFLOPS;采用自主指令集,支持从FP32到INT8等多种精度,而最大功耗仅为150W;高能效、高可靠性:采用动态调频调压(DVFS)技术,根据负载加速应用性能,支持RAS、ECC;设备虚拟化:实现多用户支持,最大可支持4个设备实例,具备计算与存储资源的独享性,多用户间安全隔离;单颗芯片上可同时部署不同的业务与负载,实现多任务并行,有效提高利用率;支持KVM、Xen等系统虚拟化平台;易编程、生态开放:开放C++和Python编程接口,支持CNN及NLP典型模型,支持主流机器学习框架,并通过SDK提供深度定制。

燧原科技COO张亚林介绍道:“云燧i10在多项基准测试中,性能领先,并已完成与浪潮、新华三及Supermicro等服务器厂商推理服务器的适配。可适用于视频图像、语音、自然语言处理、知识图谱等多种应用场景,并针对内容理解、推荐、识别等高精度场景做了优化。与此同时,面向多元的开发需求,我们提供不同层次的开发模式,针对客户定制化算法模型联合开发,从而实现与客户的双赢。”

除了硬件,燧原科技同时推出针对推理产品的高性能神经网络模型推理引擎“鉴算TopsInference”。通过计算图优化、算子融合、模型压缩、量化等优化技术,可以为深度学习应用提供低延迟、高吞吐率的推理性能。

通过TopsInference的推理加速,配合i10 的高算力及虚拟化技术,数据中心可以高性价比地部署计算密集型深度学习工作负载。此外TopsInference除TensorFlow、PyTorch模型格式外,还支持ONNX通用模型格式,借助燧原GCU-CARA架构的可编程性,可以应对未来深度神经网络日益多样化、复杂的增长趋势。云燧i10与云燧T10以及“驭算TopsRider”软件平台搭配,可实现算法模型在数据中心训推一体化的快速生产部署。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排 行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2020-12-22 09:33:05
云资讯 用数据驱动产业智能升级,看百度智能云数据众包如何带你一站“避坑”
如何才能更游刃有余地享用数据和人工智能的价值,完成产业智能化变革?一场不容错过的人工智能数据产业思想碰撞,等你来现场! <详情>
2020-12-21 14:12:39
大数据资讯 偶数科技荣登《2020爱分析·中国人工智能厂商全景报告》
在企业数字化转型和新基建政策驱动下,国内AI应用已经由技术尝试转入规模化应用。一方面,企业数字化转型催生了海量智能化应用场景,从企业的生产制造、供应链、营销与销售 <详情>
2020-12-17 22:00:09
国内资讯 推动人工智能迈向认知智能时代 中科院计算所率先提出全球首款图神经网络加速芯片设计
图神经网络被认为是推动认知智能发展强有力的推理方法,有望解决深度学习无法处理的关系推理、可解释性等一系列问题,让机器“能理解、会思考”。 <详情>
2020-12-17 11:54:03
国际资讯 斯图加特Hawk超级计算机添加192块英伟达GPU 助力人工智能
斯图加特高性能计算中心(又名HLRS,德语Hochstleistungsrechenzentrum Stuttgart的缩写)日前为中心的Hawk超级计算机添加了近200块英伟达图形处理器(GPU)。HLRS在此以前 <详情>
2020-12-16 15:40:57
大数据技术 阿里云贾扬清:人工智能是大数据业务发展的终极出口
云计算越来越趋于标准化对其自身发展非常有利。云上大量的开发技术体系日趋一致,这意味着大量云计算开发者熟悉这套体系后更容易把自己的应用变成云的一部分。 <详情>