基于Google Edge TPU的Coral USB加速棒体验

本博客转自:爱板网

还记得2018年谷歌发布的那个震撼全球的Edge TPU吗?现在基于Edge TPU的两款设备已经正式发售,爱板网第一时间带大家来感受下实际体验效果。

Coral USB加速棒

  曾经那个被命名为AIY Edge TPU加速棒的玩意如今被称作为Coral USB Accelerator,不清楚Coral的命名有何用意,可能是目前作为承接制造发售谷歌USB加速棒的公司,但显然这玩意的功能我们还是很清楚的,Coral USB Accelerator是一款USB设备,可为你的计算机或者是像树莓派那样的单板计算机提供Edge TPU作为协处理器用于加速机器学习模型的推理。

一面AIY Logo,一面Coral Logo,Coral USB加速棒(USB Type-C接口)

Coral USB加速棒特征

  • Google Edge TPU ML加速棒协处理器
  • USB 3.0 Type-C接口
  • 支持Debian Linux系统
  • 支持的框架:TensorFlow Lite

Coral USB加速棒大小仅为65mm*30mm,板载的Edge TPU是由Google设计的小型ASIC,可提供低功耗高性能ML推理

比如:它可以极低的功耗 执行 先进的移动视觉模型,例如100+ fps的MobileNet v2。

另外,除了Edge TPU协处理器,Coral USB加速棒还包括一个低功耗MCU(这也是之前没有曝光出来的),基于Arm Cortex-M0+处理器,主要用于在启动时执行USB PHY的复、中断和初始化寄存器等基本程序。

而且从下表也可以看到,Coral USB加速棒是支持USB3.1标准的,最高速率达5Gb/s。

上电使用

百闻不如一用,所以实际来感受下Coral USB加速棒的使用。

开发环境要求:

  • 一台带有USB端口的Linux计算机
  • 支持Debian 6.0或更高版本,或其衍生系统(如Ubuntu 10.0+)
  • x86_64或具有ARMv8指令集的ARM64系统架构

所以,从上面这几点要求来看,Coral USB加速棒支持Raspberry Pi。但是,必须是Raspberry Pi 2/3 Model B/B+且运行Raspbian系统(或其它Debian衍生系统)。

另请有一点用户要清楚,使用支持USB3.0端口的计算机才能获得最佳的推理速度(很显然,这对于目前的树莓派来说有心无力Raspberry Pi 2/3,Raspberry Pi 3B+以上的有USB3.0了)

硬件准备完毕,你只需要Python库下载到你将连接Coral USB加速棒的电脑上,然后通过几个简单的步骤就能开始运行TensorFlow Lite模型了。

  • 适用于Linux或Raspberry Pi的安装程序

安装Edge TPU Python库:

wget http://storage.googleapis.com/cloud-iot-edge-pretrained-models/edgetpu_api.tar.gz

tar xzf edgetpu_api.rar.gz

cd python-tflite-source

bash ./install.sh

使用USB Type-C接口线连接Coral USB加速棒。(如果你已将其插入,请重新插入,以便上面步骤安装的udev规则生效。)

  • 在Edge TPU上运行模型

完成上面的步骤说明你已经设置好了Coral USB加速棒,现在可以直接在Edge TPU上运行TensorFlow Lite的模型。

比如下面是使用下图中的parrot(鹦鹉)图像执行图像分类的演示:

结果如下:

这个过程就是通过Coral USB加速棒上的Edge TPU进行了推断。不难发现,使用官方创建的Python API可以轻松地在Edge TPU上执行图像分类或对象检测推理。

另外一点需要说下的是关于Coral USB加速棒的性能设置,首次使用Coral USB加速棒时,我们可以选择是使用默认还是大时钟频率,最大时钟频率为默认设置的2倍。如果要更改,需要卸载libedgetpu _ * .so文件,然后重新运行安装脚本,系统将提示你选择该设置。

小结

从2018年Edge TPU的发布到如今正式发售经历了漫长的半年时间,期间笔者甚至一度怀疑这个产品是否已经夭折,如今看来自己的担心是多余的。对于电工程师时来说,好消息是目前这个产品在贸泽电子国外的官网有售(搜索这个贸泽编号:212-842776110077);对于国内做边缘计算的AI芯片公司来说也有个好消息,目前Google没有对外发售这款Google Edge TPU coprocessor,不过,显然,给你们的时间已经不多了。

希望对你有帮助。

发布了178 篇原创文章 · 获赞 373 · 访问量 30万+

猜你喜欢

转载自blog.csdn.net/qq_41204464/article/details/103156388