随着人工智能、机器学习技术和物联网的兴起,应用开始向收集数据的网络边缘迁移。为缩小体积、减少产热、提高计算性能,这些边缘应用需要节能型的解决方案。microchip technology inc.(美国微芯科技公司)发布的智能嵌入式视觉解决方案,致力于让软件开发人员可以更方便地在polarfire®现场可编程门阵列(fpga)内执行算法,进而满足边缘应用对节能型推理功能日益增长的需求。作为microchip嵌入式解决方案组合的重要新成员,vectorblox加速器软件开发工具包(sdk)可帮助软件开发人员在不学习fpga工具流的前提下,利用microchip polarfire fpga创建灵活的低功耗覆盖神经网络应用。
fpga是边缘人工智能应用(例如功耗受限的计算环境下的推理功能)的理想选择,因为fpga拥有更高的运算能力(gops),能耗比中央处理器(cpu)和图形处理器(gpu)更优。但是,fpga需要操作人员具备专业的硬件设计技能。microchip的vectorblox加速器sdk可帮助开发人员在不具备fpga设计经验的前提下用c/c++语言进行编码,对节能神经网络进行编程。
这一高度灵活的工具包能够以tensorflow和开放神经网络交换(onnx)的格式执行模型,最大程度地提升框架的互操作性。onnx支持caffe2、mxnet、pytorch和matlab®等众多框架。与其他fpga解决方案不同的是,vectorblox加速器 sdk在linux®和windows®操作系统上均可使用,且包含精度达到比特级的模拟器。利用模拟器,用户可以在软件环境中验证硬件的精度。此外,利用vectorblox 加速器 sdk包含的神经网络ip,用户可在运行期间加载不同的网络模型。
microchip fpga事业部副总裁bruce weyer表示:“为确保软件开发人员能充分利用fpga的节能特点,我们应设法使开发人员不再需要学习新的fpga架构和专属工具流,同时让他们可以灵活地连接多框架和多网络解决方案。利用vectorblox 加速器 sdk和神经网络ip核,软件和硬件开发人员可以在polarfire fpga上部署极其灵活的覆盖神经网络卷积架构。通过polarfire fpga,他们可以更轻松地构建和部署在外形尺寸、产热和功耗方面达到一流水准的人工智能边缘系统。”
在边缘执行推理功能时,polarfire fpga的总功耗比同类竞争产品低50%,同时数学模块的容量比同类竞争产品高25%,每秒运算次数(tops)高达1.5万亿次。开发人员还可凭借polarfire fpga固有的易升级性和将不同功能集成至单个芯片上的能力,更好地实施定制,实现差异化。polarfire fpga神经网络ip有多种尺寸可供选择,可在性能、功耗和封装尺寸之间实现平衡和取舍,符合应用需求,最小封装尺寸可以达到11×11mm。
去年7月发布的microchip智能嵌入式视觉解决方案旨在为硬件和软件开发人员提供工具、知识产权(ip)核和电路板,以满足边缘应用对低发热和小封装的要求。相比其他解决方案,polarfire fpga的功耗更低。因此,客户不再需要在机壳内设置风扇。此外,客户在设计中利用polarfire fpga可实现功能整合。例如,在智能摄像头等应用中,polarfire fpga可以将传感器接口、ddr控制器、图像信号处理(isp)ip和网络接口集成至图像信号管中,并整合机器学习推理功能。
编辑:muyan来源:eeworld