Cloud IoTを使ってedgeに人工知能を持ち込む

１．Cloud IoTを使ってedgeに人工知能を持ち込むまとめ

・IoTデバイスを設置した場所をedgeと言う
・edgeで人工知能を動かすと様々な利点がある
・Googleの新製品であるEdge TPUとCloud IoT Edgeはそれを可能にする

２．IoTのedgeで人工知能を動かすとは？

IoT(物のインターネット)は、空気の質の向上から交通機関の利便性の向上、水と電気の節約に至るまで、私たちの周りの世界にプラスの影響を与える巨大な機会を提供します。私達は、新しい方法で世界を測定し、世界をより良くしていく事ができます。

しかし、IoTによって増加するのは機会だけではありません。データも同様に増加します。 IDCは、接続されたデバイスから生成されるデータの総量が2025年までに40兆ギガバイトを超えると予測しています。高度なデータ分析とAIシステムはこの大量データから容易に素早く見識をとりだす事に役立つでしょう。

AIから得られる利益は他にも沢山あります。これらのデバイスを接続したポイント（edge:エッジと呼ばれます）で行うリアルタイムの意思決定などです。

製造業の会社は、高速に動作する組立ラインの異常をリアルタイムで検出できます。小売店は、棚に置いた品物が在庫切れになったらすぐに警告を受け取ることができます。自動車会社は、衝突回避、渋滞回避、視覚外物体検知システムなどをインテリジェントな技術によって安全性を高めることができます。

しかし、IoTシステムにおけるリアルタイムの意思決定は、コスト、フォームファクタの制限、待ち時間、消費電力、およびその他の考慮事項のために依然として困難です。我々はそれを変更したいのです。

機械学習をエッジに持っていく

本日、Googleは様々な規模で知的接続デバイスの開発と展開を支援する2つの新製品を発表しています。
・Edge TPU：新しいハードウェアチップ
・Cloud IoT Edge：Google Cloudの強力なAI機能をゲートウェイや接続デバイスにまで拡張するソフトウェアスタック

これにより、クラウド内に機械学習モデルを構築してトレーニングし、Edge TPUハードウェアアクセラレータの機能を使ってCloud IoT Edgeデバイスでこれらのモデルを実行することができます。

Edge TPU
エッジでTensorFlow Lite MLモデルを実行するように設計されたGoogleの専用ASICチップです。

Edge TPUを設計する際は、形状を小さく留めて「ワットあたりのパフォーマンス」と「1ドルあたりのパフォーマンス」を最適化する事に集中しました。エッジTPUはクラウドTPUを補完するように設計されているため、クラウドで学習させたモデルをエッジで実行し、驚異的な機械学習のパワーをエッジで実現できます。センサーはデータコレクター以上のものになり、ローカルでリアルタイムにインテリジェントな意思決定を行います。

Cloud IoT Edge
Google Cloudの強力なデータ処理および機械学習能力をゲートウェイ、カメラ、およびエンドデバイスにまで拡張し、IoTアプリケーションをよりスマートに、より安全に、より信頼性の高いものにするソフトウェアです。Google Cloudでトレーニングされた機械学習モデルをEdge TPUまたはGPUベースおよびCPUベースのアクセラレータで実行できます。Cloud IoT Edgeは、Android ThingsまたはLinux OSベースのデバイスで実行でき、その主要コンポーネントは次のとおりです。

・少なくとも1つのCPUを搭載したゲートウェイクラスデバイス用のランタイムで、エッジのデータに人工知能を適用したり、ローカルに格納、変換、処理する事が可能で、Cloud IoTプラットフォームの他のシステムとシームレスに相互運用できます。

・エッジデバイスをクラウドにより安全に接続し、ソフトウェアとファームウェアの更新を可能にし、Cloud IoTコアとのデータ交換を管理するEdge IoTコアランタイム

・クラウドでトレーニング済みのモデルを使用してエッジ環境で推論を実行できるEdge MLランタイムは、TensorFlow Liteベースので実現されており、推論の応答時間を大幅に削減し、エッジデバイスの汎用性を高めます。 Edge MLランタイムはTensorFlow Liteのインターフェイスを持つため、ゲートウェイクラスデバイス内のCPU、GPU、またはEdgeTPU、またはカメラなどのエンドデバイスで機械学習による推論を実行できます。
・

エッジでの機械学習はビジネスにどのように役立つか

企業は機械学習をいくつかの異なる方法で実現することで利益を得ることができます。

・動作信頼性の向上
エッジのデータから知的情報をローカルに保存、処理、および導出できるため、クラウド接続が途切れる事を心配することなく、堅牢なIoTソリューションを必要な場所に構築できます。これは、リアルタイム処理が必要なビデオやオーディオアプリケーションや、デバイスが外部ネットワークやインターネットに確実に接続できない場合に役立ちます。

・より迅速なリアルタイム予測
オンデバイスのマシンラーニングモデルを実行することにより、エッジTPUを備えたCloud IoT Edgeは、重要なIoTアプリケーションの予測を汎用IoTゲートウェイよりも大幅に高速に行い、データの機密性と機密性を確保します。さらに、CloudNetエッジとエッジTPUは、MobileNetやInception V3などのオープンソースリファレンスモデルをネイティブに実行するために幅広くテストされています。

・デバイスとデータのセキュリティの向上
Cloud IoT Edgeは、生データをクラウドに送信してから応答を待つのではなく、エッジデバイス上でローカルに画像、ビデオ、ジェスチャ、音響、モーションを処理して分析できます。このローカル処理は、特定の業界固有のコンプライアンスニーズに対応し、データプライバシーのリスクを低減します。 Cloud Io Edgeでは、JSON Webトークンを使用してエッジデバイスを認証し、プライベートキーがデバイスから離脱することはありません。

Edge TPU開発キットの紹介

一気にEdge TPUを使用して開発とテストを開始するために、開発キットを用意しました。このキットには、GoogleのエッジTPU、NXP CPU、Wi-Fi、およびマイクロチップのセキュアエレメントをコンパクトなフォームファクタで組み合わせたシステムオンモジュール（SOM）が含まれています。今年10月には開発者が利用できるようになります。 Edge TPU開発キットへの早期アクセスをリクエストするには、下記のフォームを使用して登録してください。

また、GoogleのIoTエコシステムパートナーと協力して、エッジでGoogle Cloud IoTの革新を活用できるインテリジェントデバイスを開発しています。半導体パートナーはEdge TPUチップを内蔵したSOMを作成します。ゲイトウェイデバイスメーカは、工場、機関車、石油リグなどで使われているような工業用IoTゲートウェイにSOMとEdge TPUを含めます。

Googleと共に働いているパートナー

半導体パートナー:
NXP, ARM

ゲイトウェイデバイスメーカ：
Accton, Harting, Hitachi Vantara, Nexcom, Nokia

Edge コンピューティング：
ADLINK Technology, Kelvin, Olea Edge Analytics, Smart Catch, Trax

お客様の声

「私たちのインテリジェント視覚検査ソリューションは、さまざまなLG製造部門のファクトリオペレーションにおける品質と効率の向上を実現します。 LG CNSのCTOであるShingyoon Hyunは、Google Cloud AI、Google Cloud Io Edge、Edge TPUを従来のMESシステムと長年の経験を組み合わせることで、スマートファクトリーがますますインテリジェントになり、繋げやすくなると確信しています。 「インテリジェント視覚検査では、より良い作業環境を作る事ができます。製品の品質を向上させ、毎年何百万ドルも節約しています。 LG CNSの専門知識を持つエキスパートとGoogle Cloud AIとIoTの技術はこれを可能にします。

「スマートパーキングは、我々の顧客に路上でも路上外でも無人の駐車サービスを導入、管理することを可能にさせるんだ。私たちは、クラウドIoTエッジとエッジTPUを使いこなして機械学習による駐車場管理システムを我々の顧客に提供できる事に興奮しているよ。」スマートパークのCTO、John Heard氏は言いました。「Smart Parkingでは、あらゆる顧客の駐車場体験を再発明することを使命としているんだ。Google Cloud IoTにより新しい手法でそれを提供する事が可能になるね。Google Cloud IoTは、当社のSmartSpotゲートウェイ製品の中に含まれているよ。」

XEEのCTOであるRomain Crunelleは次のように述べています。「XEEでは、当社のプラットフォームを車に接続する事で、よりシンプルで安全で経済的な運転を実現するよう努めております。Cloud IoT EdgeとEdge TPUは、運転分析、道路状況分析、タイヤの摩耗や裂傷などのユースケースを、リアルタイムかつコスト効率のよい信頼性の高い方法で解決するのに役立っております。エッジで機械学習による推論を可能にすることで、XEEプラットフォームは接続された車でより速く画像とレーダーデータを分析し、潜在的な危険を検出し、ドライバーにリアルタイム精度で警告することができるのです。」

TraxのGlobal Retailのゼネラルマネジャー、David Gottlieb氏は言います「Traxは、小売業者がデジタル変換のための堅実な基盤を構築するのを支援しているんだ。」と語り、「Cloud IoT Edge and Edge TPUは、OSA（陳列棚の空き状況）の改善や、やclick-and-collectプロセスの改善、ショッピング体験の近代化を解決するために役立っているんだ。このGoogleのテクノロジーは、エッジでの機械学習の実行を加速させていくよ。店内の映像を取り出してTraxプラットフォームに流し、Traxプラットフォームでは、デジタル化された棚の画像がますます高速に分析し、売業者にリアルタイムで陳列棚に発生している問題点や買い物客を常に満足させる機敏な対応を提供する事ができているんだ。」

始めるためには

クラウドIoTエッジ、エッジTPU、クラウドIoTコアは、IoTで全く新しい可能性を開拓しています。エッジで強力なデータ処理とML機能を使用することで、ロボットアーム、風力タービン、スマートカーなどのデバイスは、センサからのデータをリアルタイムで処理し、結果をローカルで予測できます。

IoTについてはこれが未来です。Googleは貴方がGoogle Cloud IoTを使用して何を構築するのか早く見たくて待ちきれません。

３．Cloud IoTを使ってedgeに人工知能を持ち込むまとめ

1)blog.google
Bringing intelligence to the edge with Cloud IoT