您的位置:首页 > 行业资讯 > 技术前沿
Deep Vision发布低延迟AI处理器 利好注重实时性能的边缘计算应用
2020-11-19    来源:电子元件技术  浏览次数:
分享至:

Deep Vision 是一家致力于为边缘计算解决方案打造人工智能推理芯片、成立至今已有六年的初创企业。今日,该公司宣布推出了全新的 ARA-1 处理器,有望在低延迟、高效能、以及计算性能之间找到合适的平衡。Deep Vision 表示,该芯片可在相机传感器、到成熟的边缘计算服务器等领域发挥重要的作用。

 

得益于在实时视频分析方面的实力,该芯片主要面向智能零售领域的解决方案,比如无人收银的商店、智能城市、工业 4.0 / 机器人等领域。此外该公司海域汽车行业的供应商合作,主要围绕自动驾驶之外的车内监测,以避免驾驶员分心或疲劳驾驶。

 

在斯坦福大学的博士学位论文中,Hameed 和 Qadeer 介绍了他们开发的 Deep Vision 体系架构。

Deep Vision发布低延迟AI处理器 利好注重实时性能的边缘计算应用
采用 U.2 接口封装的 Deep Vision AI 处理器产品

 

该架构致力于最大程度地减少芯片内的数据移动,因而在 AI 工作负载上具有出色的每瓦特、每美元的性能和效率表现。不过在推出可用硬件之前,Deep Vision 很早就将精力集中到了构建自家的编译器上,以确保该公司的解决方案可真正满足客户需求,然后才完成最终的芯片设计。

 

Rehan Hameed 表示,Deep Vision 特别强调减少 AI 计算的延迟,而市面上许多解决方案更乐于宣传有多高的数据吞吐量。但是该团队认为,在边缘解决方案中,低延迟是一项更重要的性能指标。相比之下,吞吐量只有在数据中心等领域才显得有意义。

 

Deep Vision发布低延迟AI处理器 利好注重实时性能的边缘计算应用 

Deep Vision AI 处理器特写

 

Deep Vision 首席技术官 Rehan Hameed 解释称,那些追求数据吞吐量的架构,要求加速器同时来处理大量的数据流(无论是通过批处理、还是管道执行),以充分发挥硬件的性能。然而这也是竞争方案获得高吞吐量的唯一途径,且这么做会导致单个任务的延迟相当高,使之难以在更侧重于实时性能的边缘用例中发挥作用。

 

值得一提的是,Deep Vision 宣称其 AI 处理器的延迟要远低于谷歌 Edge TPU 和 Movidius 的 MyriadX 方案。除了通过硬件架构优化来将芯片上的数据移动降至最低,还利用软件层面的工作负载优化,来改善架构内的整体数据流动。