AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

Google通过AIY项目套件向成千上万的人们介绍了人工智能和机器学习概念,例如带语音识别的AIY Voice Kit和用于计算机视觉应用的AIY Vision Kit。

AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

该公司现已进一步推出Edge TPU,它自己的专用ASIC芯片设计用于在边缘运行TensorFlow Lite ML模型,以及相应的AIY Edge TPU开发板,以及AIY Edge TPU加速器USB添加到任何USB兼容硬件。

Edge TPU是一款用于机器学习(ML)的小型芯片,针对每瓦性能和每美元性能进行了优化。 它既可以加速设备上的ML推理,也可以与Google Cloud配对,创建完整的云端到边缘ML堆栈。 在任何一种情况下,本地处理都可以减少延迟,消除对持久网络连接的需求,增加隐私,并使用更少的功率实现更高的性能。

AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

该芯片将支持新的Cloud IoT Edge软件,该软件允许您在Edge TPU或基于GPU和CPU的加速器上执行在Google Cloud中训练的ML模型。Cloud IoT Edge可以在Android Things或基于Linux OS的设备上运行。

它有三个主要组件:

具有至少一个CPU的网关类设备的运行时,用于在本地存储,转换,处理和从边缘数据中获取智能,同时与其余的Cloud IoT平台进行互操作。

Edge IoT Core运行时可以更安全地将边缘设备连接到云。

基于TensorFlow Lite的Edge ML运行时,使用预先训练的模型执行本地ML推理

用户在边缘做得越多越好,但对于像培训和更强大的框架这样的任务,仍然需要云。

谷歌还将提供一个带有系统级模块(SoM)的开发板,该系统将Edge TPU与NXP i.MX 8M处理器以及基板暴露端口和I/O相结合。

AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

该板采用Raspberry Pi的一些提示,信用卡外形和40针连接器,但连接器的位置不会使其与RPI配件兼容。

Edge TPU Dev Board将运行Debian Linux或Android Things,并支持TensorFlow Lite。

但是,如果您已经熟悉特定的开发板和环境,那么您可能不想再购买另一个,并再次学习。 就像英特尔的Movidius神经计算棒一样,AIY Edge TPU加速器是一种USB棒,旨在通过USB接口为现有主板增加机器学习加速功能。 但是,Edge TPU加速器不依赖于Myriad 2 VPU和USB 3.0 A型端口,而是配备了Edge TPU芯片和USB C型端口。

AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

AIY Edge TPU加速器规格:

ML加速器 - Google Edge TPU协处理器

连接器 - USB Type-C(数据/电源)仅与USB 2.0速度的Raspberry Pi板兼容

尺寸 - 65毫米x 30毫米

外壳包括用于连接主机板的安装孔,例如Raspberry Pi Zero,即将推出的Libre Computer AML-S805X-AC板或您的定制板。就像开发板一样,Edge TPU加速器可以与Debian,Android Things和TensorFlow Lite框架一起使用。

AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

TensorFlow目前还没有利用Broadcom VideoCore图形处理器的潜在ML功能,因为Nvidia使用更强大的Pascal GPU。他接着建议,可能有可能为单核Raspberry Pi Zero电路板开发一个特殊的GPU相关端口,但目前Pi的四个CPU内核上有足够的电量。谈到GPU的潜在钩子,他写道:“在最新的Pi上使用四核CPU和Neon,虽然在Pi Zeroes上仍然很有趣,但没有那么大的优势。”

AI芯片又一冲击!谷歌发布Edge TPU是为了AIY项目?

另一种解释是谷歌正在跳过 GPU,因为它希望 Raspberry Pi 用户和其他嵌入式开发商能够利用其最近宣布的,适用于 TensorFlow 的 Linux 友好型 Edge TPU ML 加速器芯片。今年秋季将推出 Edge TPU以及基于恩智浦 i.MX8M 的 Linux 开发套件和 Edge TPU加速器USB加密狗,它可以适用于包括Pi在内的任何Linux计算机。

Edge TPU是其企业级云量程处理单元(Cloud TPU)AI协处理器的轻量级嵌入式版本。与新的Cloud IoT Edge堆栈相结合,该芯片设计用于在基于ARM Linux或Android Things的物联网网关上运行TensorFlow Lite ML模型,这些网关连接到Google Cloud服务。

猜你喜欢

转载自blog.csdn.net/zswnews/article/details/83538991