神经网络CPU性能比嵌入式解决方案快1000倍

2020-11-18 14:10:20

近日,英国半导体与软件设计公司Imagination Technologies宣布推出了新一代神经网络加速器——IMG Series4,可用于自动驾驶和高级辅助驾驶,为大型神经网络工作加速(可提供低带宽占用以及超低延迟性能)。据悉,IMG Series4将为汽车行业一级供应商、主机厂以及汽车软件服务商提供服务。

与此前的概念性产品不同,IMG Series4已经颇为成熟并获得相关机构许可,将于2020年12月推向市场。该加速器采用了低功耗NNA架构,可以最大限度地提高性能功耗比,增加能源利用率。

据Imagination Technologies介绍,IMG Series4具备以下五大特点,包括多核架构可扩展性与灵活性、超高性能、超低延迟、节省带宽、汽车安全。其中从性能上看,IMG Series4每核的算力达12.5 TOPS,能耗低于1瓦特。在AI推理方面,Series4 NNA的GPU性能比嵌入式解决方案快200倍;CPU性能比嵌入式解决方案快1000倍。

如今,自动驾驶的最大“敌人”就是高延迟,而在该领域,IMG Series4的所有核都可用于专门执行单个任务,可极大程度上减少延迟、减少响应时间。以8核集群为例,其反应速度可以比普通解决方案快8倍。从带宽上看,IMG Series4中采用了Tensor Tiling技术,可将输入的数据张量分割成多个块,以更高效地处理数据,从而解决带宽效率问题,最高可将带宽占用减少90%。

关闭