芯方案 | 以超高性价比打造轻量级方案,酷芯AR9341加速AI Box赋能千行百业
[会员动态]
2022-12-30 18:03:54 编辑:yl
对于中国市场,能够占领并融合纷繁多样的长尾市场并为客户带来快速的应用落地,形成具有规模的商业模式,便能更快完成人工智能在千行百业的渗透,实现长久盈利。
集微网消息,合肥酷芯微电子有限公司(下称“酷芯”)推出的高性能AI芯片AR9341,凭借强大的图像处理能力、视频编解码能力、AI算力以及完整的生态链,广泛适用于生活、教育、制造、出行、零售、社区、办公等各类智慧场景。AR9341既可以作为独立芯片直接用于智能终端设备,也可以作为高算力处理器,为小型服务器进行AI赋能。其中AI Box作为加持AI应用的重要载体之一,也是AR9341的重点耕耘领域,加速AI普惠化进程。
Q:在端侧AI能力持续加强的背景下,AI Box作为中间环节,酷芯AR9341为何兼顾这一细分场景,其将解决哪些场景下的应用痛点?在酷芯看来,当前行业正处在向数智化时代加速演进的进程之中,在系统架构中云、边、端相互协同,虽然在不同应用场景的要求下各有侧重,但云、边、端各自的AI能力是在同频不断增强的。对于酷芯来说,在2022年底这个时间点上面向行业推出基于自研AR9341芯片的AI Box整体解决方案,是基于以下几种因素的整体考量:
丰富应用场景:智能安防、智慧社区、智慧零售、明厨亮灶、智慧教育、智能工厂等场景下AI Box的整体实战应用已经得到行业的广泛验证,并且对产品工具链的易用性有新的需求;
时间节点利好:疫情放开,基建建设需求回归,中国经济提振需求强劲,2023年开始后续5年来看,AI Box市场将有一个稳定的增长态势;
痛点够“痛”,助力行业健康发展:设备采购、现场部署、系统集成、后续运维等的整体成本仍然较高,政府预算与企业投入有限的情况下,对TCO控制的要求会更高更灵活,行业更需要性能与性价比能够兼顾的好用的产品。
迭代过程中累积的扎实经验:第一代基于AR9201芯片的AI Box产品已经在智慧零售领域规模化应用;
基于酷芯Inside建立起的上下游生态合作体系,有利于行业发展预判、长期产品规划、有利于创新技术资源的流动;

Q:AI Box的另一核心是算法,AR9341将如何支持业内数量众多的算法植入?其算法生态(兼容性)如何?又将如何确保数据结构化的准确性?AR9341采用异构数据平台架构,集成有4颗四核A53处理器,一颗单核CEVA XM6@1GHz DSP以及一颗ISP。视频处理能力方面,AR9341在支持H.264、H.265编解码能力的同时,可同步处理8路1080P全高清实时视频流,AR9341还优化了3D降噪算法以及包括HDR在内迭代数据算法,不仅能提供高质量视频流处理能力,还支持900万@60fps等高端应用。针对AI Box的高算力需求,AR9341集成有一颗4 TOPS算力NPU,对数据处理采用的复用方法和压缩算法,能够大幅提升算力的利用效率,还降低了DDR的带宽需求,有利于提升AI应用的效能,并降低开发成本。NPU同时支持对量化中的卷积、激活、规划等操作进行加速,也支持对需要在DSP、CPU上运算的自定义算法进行加速,满足各类网络类型运算需求。以酷芯AR9341的AI支持能力为例,其基于异构架构,提供自研且完整的NPU工具链软件包:
支持Caffe、TensorFlow、Pytorch等所有主流的AI框架,同时还支持业界普遍采用的ONNX框架作为中间表示层,如果客户采用了一些当前工具链尚不支持的小众AI框架,只需要转换为ONNX模型,即可采用基于图形化界面的NPU工具链,一键部署到AR9341芯片上;
支持对AI算法部署的前向推理仿真,在实际部署到芯片之前就可以获得网络性能、DDR带宽需求、量化精度等客户关心的关键性能参数,确保客户的算法在芯片上实际运行的速度和精度满足客户预期。
Q:AI Box的安装环境往往较为恶劣,粉尘、潮湿、高温等场景较为多见,AR9341具有哪些针对性的功能支持?AR9341经受住了各类严苛的可靠性测试,如在HTOL老化测试中,历经500小时检测仍能正常运行,该指标能很好支撑AI Box在密闭、高温等恶劣环境中稳定运行,不仅能确保系统不间断工作,还大幅降低了故障率,从而大幅降低了智能系统的后期运维成本。Q:相比DSP、FPGA、GPU等方案,AR9341的价值有哪些?相比同类AI SoC产品,AR9341具有哪些特色优势?全自研&第一梯队:作为一家核心架构、IP等全自研的公司,酷芯AI芯片的性能已处于国产第一梯队;
落地应用广,需求洞察精准:AR9341芯片的应用满足国内市场对国内市场需求的国内市场对于端侧、边缘侧的应用需求对性价比、能效比、易用性、规模化的要求;
更符合中国“国情”:DSP信号处理能力有局限性、FPGA考验前期投入和开发周期、GPU专用性过强,都较难全面符合中国实际商业场景(智能安防、智慧社区、智慧零售、明厨亮灶、智慧教育、智能工厂等)的需求。
Q:对开发者来说,高性价比、易开发等需求是芯片选型的关键,对此,AR9341的表现是怎么样的?能给客户带来哪些软硬件方面的开发支持?
一站式解决方案:酷芯可以向客户提供功能以及接口完善的开发板、软件SDK、AI工具链、AI算法等一站式解决方案,从而支持客户快速根据业务场景需求完成产品的设计、开发、生产和后续迭代。
工具链:
-简洁易用的可视化图形界面,支持Pytorch/Tensorflow/Caffe等多种框架,并可自定义网络类型,用户可以迅捷的完成算法到芯片的部署工作;
- 将客户训练好的离线浮点模型量化为可在板端直接运行的定点模型,并采用图优化策略达到性能优化目的;
- 可在工具链端对量化精度以及上板性能进行仿真和测试,减少上板调试过程;
- 丰富的服务经验:服务的客户覆盖了安防、车载、热成像、图传、无人机、地面机器人、运动相机等行业的头部客户。
小视科技(江苏)股份有限公司(以下简称“小视科技”,官网www.minivision.cn)作为智慧视觉全场景生态服务商,拥有丰富AI算法及产品开发经验,其在给AI Box选型芯片时,主要从以下三方面进行考量:基于算法开发难度及成本、后期维护、版本升级等需求,对芯片的算法迁移是否友好进行考察;
经过严苛的测试评估,酷芯AR9341完全满足小视科技对AI SoC芯片的选型需求,不仅如此,小视科技还对酷芯AR9341给予了极高的评价:NPU处理能力要优于市面上大多数同规格芯片方案,对发挥算法优势能提供有力保障;
性价比方面,酷芯AR9341在ISP画质上表现优异,基于该芯片的高性能和高性价比,小视科技选定AR9341开发AI Box。
双方合作以来,小视科技已实现将旗下超30余种AI算法移植到AR9341平台上,且在开发过程中,AR9341极低的开发门槛以及极高的开发效率优势日渐凸显。据了解,基于AR9341进行AI移植,小视科技AI Box算法调试可靠性高、移植速度快。还能凭借其丰富的算法,为AI Box提供灵活化、场景化的边缘计算方案,加速AI在各行各业的普化应用。
酷芯AI SoC系列芯片支持方案商省时、省力开发AI应用的背后,离不开酷芯过去十多年的技术积累,形成强大生态矩阵:AI算法提供商:商汤科技、虹软、格灵深瞳、阿里达摩院等;
感知供应商:高德红外、睿创微纳、索尼、豪威科技等;
多行业头部厂商导入:智能安防、智能无人机、消费电子、热成像、无线图传等。
发展至今,酷芯仍在持续扩大生态体系,以更好满足各类AI需求,同时形成了智能感知、智能计算、智能传输3大技术支撑,并于年中顺势推出“酷芯Inside”生态品牌,旨在聚合产业链上下游企业共建AI生态服务体系,通过独创性、高品质、高价值的生态位,以及聚合酷芯的技术资源,为行业发展提供强有力的AI支撑,共同推动AI生态快速发展。凭借酷芯十多年的产品和行业经验,无论是在本身的芯片性能以及相关的工具链支持上,抑或是和合作伙伴共同攻克难题的高质高效的服务支持上,还是酷芯丰富的产品经验和生态合作资源上,都为小视在开发新产品时可以更好的整合增效,大幅提高产品化效率。
(来源:酷芯微电子)