描述

介紹

我最近買了一個我認(rèn)為真正代表人工智能未來的新玩具。這是來自谷歌的珊瑚芯片。谷歌憑借其 Tensorflow 平臺成為機器學(xué)習(xí)領(lǐng)域的領(lǐng)導(dǎo)者，現(xiàn)在他們正通過 Coral 芯片向機器學(xué)習(xí)的“邊緣”邁進(jìn)。這一點很重要，因為如果我們能夠購買能夠加速機器學(xué)習(xí)推理的低功耗、高性價比芯片，我們就可以以合理的價格在功耗極低的設(shè)備上運行 ML，例如無法運行機器學(xué)習(xí)的物聯(lián)網(wǎng)設(shè)備。云（例如，因為他們沒有連接，或者因為他們需要使用 ML 做出快速、自主的決策）。

谷歌將 Coral 芯片稱為 TPU，即張量處理單元，因為它是一種定制芯片，旨在本地處理張量，這就是數(shù)據(jù)在神經(jīng)網(wǎng)絡(luò)中的表示方式。因為它的設(shè)計正是為了做到這一點，所以在進(jìn)行神經(jīng)網(wǎng)絡(luò)“推理”所需的數(shù)學(xué)運算（即使用 ML 模型進(jìn)行預(yù)測）時，它比僅使用標(biāo)準(zhǔn) CPU 快得多。

購買和安裝 Google Edge TPU

我從Mouser訂購了 Coral USB 加速器。如果您喜歡機器學(xué)習(xí)，只需 60 美元就很有趣。當(dāng)然，Coral 的主要想法是硬件制造商會將其構(gòu)建到他們的產(chǎn)品中，但是使用 USB 加速器，您可以輕松地將其添加到您的 Pi 中。在這里，您可以看到我的 Pi 帶有通過 USB 連接的 USB 加速器。

?

要在 Raspberry Pi 上安裝 Edge TPU，請按照以下說明進(jìn)行操作。要查看的重要數(shù)字是運行 TFLITE 模型的時間，以毫秒為單位。

現(xiàn)在讓我們看看運行在 Edge TPU 上的 TFLITE 模型識別的金翅雀。哇！模型的每次調(diào)用都在 7 毫秒內(nèi)執(zhí)行！這是在 Raspberry Pi（低功耗）ARM 處理器上運行所需時間的 1/20。

只是為了好玩，我嘗試了谷歌警告我們的“最大工作頻率”運行時。它將我的 ML 模型的執(zhí)行時間縮短到 5 毫秒左右。因此，與標(biāo)準(zhǔn) Edge TPU 運行時相比，執(zhí)行時間減少了大約 25%，但與在 Pi 的 CPU 上運行模型的時間（140 毫秒）相比，在大多數(shù)情況下，節(jié)省 2 毫秒可能不值得額外的功耗。如果有機會，我會在“最大”運行時間運行一段時間后測量 TPU 的溫度。也許我可以用它煮一個雞蛋。