AI+IoTの高速化エッジAI開発
リアルタイム性に優れる
インテリジェントエッジコンピューティング開発を行います。
エッジAIとは
IoT+AIの高速処理
今までのIoT+AIの世界では、AIを処理するのにインターネットを介してクラウドに繋げ、データに参照し、実行を行っていました。
ただ、IoT機器から、クラウドに参照を行う事で、「1秒～3秒程のレスポンスタイム」と言う問題も同時に課題となっていました。
そこで登場したのが、「エッジコンピューティング」と言う概念です。
IoT機器と物理的距離の近い場所にAIを処理する小型のサーバを置く事で、インターネットを介さずに処理を行います。
エッジAIは、エッジコンピューティングにおいて、機械学習などの学習済み処理を施す事で、IoT＋AIをローカルでの高速処理を行う事ができます。
IoT+AIのローカル処理
今までIoTセンサーなどで入手した情報は、インターネットを介してクラウドに保存する事が一般的でした。
ただ、「IoTデータの通常接続に因るネットワークコスト」と言う問題も同時に課題となっていました。
「エッジコンピューティング」ではその課題も解決します。
リアルタイム性を必要とするデータ、セキュリティ上クラウドに上げたくないデータ、保存する必要のないゴミデータのフィルタ機能をエッジ側で処理し、
蓄積したデータサマリを後ほど閲覧したり分析するデータはクラウド側に保存する、と言った求められる役割のスピードとデータ容量の分散により、膨大なデータの最適化を行います。
エッジAIが活きる場面
リアルタイム画像解析
エッジAIでよく使われる場面は、リアルタイム画像解析です。
リアルタイム制御を必要とする自動運転や自律走行技術、工場でのベルトコンベアーで運ばれる商品の欠損を視認するカメラ映像解析などがあり、
次々に判別・認識し、リアルタイムに処理する必要のある場面で威力を発揮します。
また、セキュリティ観点からクラウドに上げたくないお客様情報などが混ざる画像情報処理などもエッジAIが活きる場面となります。
アクティビティセンシング
映像と共に使われる場面は、行動を認識する必要のあるセンサー情報のリアルタイム処理です。
自律走行時の衝突回避や、スポーツでのリアルタイムデータ化と機械学習に因る予測、無人店舗におけるユーザ行動に伴う無人デジタル接客など、
リアルタイムでのセンサー情報のインプットとAIによるアウトプットの組み合わせで効果を発揮します。
当社ができること
映像解析エッジAI on Jetson
エッジAIでは高性能なGPUを必要とされましたが、展開に比例して増大するデバイスコストがボトルネックとなっていました。
エヌビディア社が提供するJetsonシリーズはコストパフォーマンスにおいて、エッジAIプロジェクトのPoC後における複数展開において非常に有効な選択肢となります。
当社では、ソフトウェア側の処理をTinyMLを利用して軽量化し、CUDAプログラム、TensorRT化、DeepStreamによるパイプライン処理、TAO Toolkitによる転移学習などを行っております。
音声エッジAI
今まで、音声認識において、クラウドのSpeech-To-TextやスマートフォンOS標準搭載の音声認識を利用する事がありましたが、
スマートフォンを音声認識に使わないようなスマートストアやスマートコンビニにおいて、エッジデバイス＋音声認識の必要性が発生します。
また、IoT型スマートストアにおいて、多店舗展開に比例して増大するクラウド利用コストがボトルネックとなっていました。
当社では、店舗接客時にどのような接客が行われているかをエッジ音声認識でデータを取得し、重要キーワードをセグメントして分析に必要となるデータを分析基盤に送る音声エッジAIを提供しております。
軽量エッジAI on ラズパイの
稼働実績1000台以上
今まで、エッジAIでは高性能なGPUを必要とされましたが、展開に比例して増大するデバイスコストがボトルネックとなっていました。
Raspberry Piはコストパフォーマンスにおいて、エッジAIプロジェクトのPoC後における複数展開において非常に有効な選択肢となります。
当初ラズパイにおいてはアクセラレータボードでマシンパワーを補完しておりましたが、現在はアクセラレータ無しでラズパイのみで稼働する軽量なエッジAI実装を行っており、
既に1000台以上のデバイスで稼働実績があります。
事例
株式会社日宣様
キャクキャッチャー技術協力
AIキャラクターが店頭で客引きなど集客を行う「キャクキャッチャー」の技術協力を行いました。
AIと画像認証機能を使い、デジタルサイネージの前を通ったユーザーに反応してオリジナルAIキャラクターが呼び込みを行います。 声をかけたユーザーの顔を読み取り、年齢・性別を識別し、ユーザーに合わせたクーポンを表示いたします。呼び込みの効率化と、パーソナライズされた情報の提供が可能になります。
Raspberry Pi3 ×
ディープラーニング推論
アクセラレータボード
Raspberry Piと言うARMプロセッサを搭載した小さなコンピュータに、
Intel Movidiusをベースとした、加賀電子株式会社が販売する「ディープラーニング推論アクセラレータボード」で、マシンの性能を強化し、
エッジ端末としてAIが機能する小さなコンピュータを用意しました。
※現在は主にアクセラレータボードを利用せずにRaspberry Pi4のみでエッジアプリ開発を行っています。
赤外線センサーと画像情報で
Pushでパーソナルに声掛け
サイネージ上の2Dキャラクターが、「目の前にいる人を呼び止め」「近くに呼び寄せて」「発話コンテンツを再生」と言う体験を作りました。
赤外線センサーなど複数のセンサーとWebカメラで「人物との距離を識別」し、「パーソナル特徴を掴んで呼びかけ」を行っています。
エッジによるリアルタイム性の高い呼びかけにする事で、ユーザが気付かずに通り過ぎてしまう事を防いでいます。
※現在はTOFセンサーでイベントトリガーを引いています。
NCSDK/Caffeによる
リアルタイム映像推論AI
リアルタイム映像の推論AIで、帽子をかぶっているなど、人物の特徴を導き、その特徴で2Dキャラクターがお声掛けを行います。
転移学習（とある領域で学習させたモデルを別の領域に適応する事）を用いる事で、AIの学習期間を短縮しつつ、精度が出ないリスクヘッジを取り
フレームワークにはTensorFlow/Yolo/Caffeの中で一番パフォーマンスが出たCaffeを選定しました。
※現在リアルタイム映像推論はTinyYOLOを多く使用しています。
会話中に性別・年齢識別して
ターゲット毎のクーポンを配布
リアルタイム性を要する呼びかけはエッジ処理を行いましたが、会話中での性別・年齢識別はAzure AIを使い、クラウド側で処理を行っており、
2Dキャラクターが話しながら間を持たせる事で、遅さの体感を軽減させています。
その後、ユーザターゲットに合わせたクーポンを配布し、店舗誘導の為のインセンティブを用意しています。
※現在はAzure AI利用時でもエッジアプリ化を行っています。
プライバシーエッジ
エッジ処理でプライバシー画像カット
「comieru Live」は、株式会社セキュアと株式会社ヘッドウォータースが共同で開発しているAI技術で、来店客を自動でイラストに置き換え、 空席＆混雑状況視覚的に見えるようにしたソリューションです。来店客のプライバシーを保護しながら、混雑状況をより具体的に見える化することが可能になります。
人物情報に該当する画像は「NVIDIA Jetson Nano」上で処理させる事で、インターネットを使わずにセキュリティ観点を考慮し、検出座標のみをクラウドで処理する事でログ収集を行っています。
エッジAI水平展開には「Azure IoT Edge」、ログ収集・可視化に「SyncLect」を利用しています。
エッジセキュリティ＆軽量化ML
SyncLect TinyML
Azure Sphereによるデバイスセキュリティと
ハードスペックに捉われない軽量機械学習
企業にリスクをもたらすIoTデバイスを狙った攻撃は近年急増しており、その解決策として当社が提供しているのがAzure Sphereを利用したSyncLect TinyMLです。
マイクロソフトのセキュリティテクノロジーを搭載したMCUと10年間のOSアップデート、10年間のデバイス証明書ベースでの認証をつけたエッジデバイスと、そのエッジ上でもこうレスポンスに動く軽量AI、管理画面上でのリモートコントロールとデプロイ環境をセットにしたエッジAI開発を提供しております。
エッジ映像解析
セルフアノテーションMLOps
映像解析エッジAIの
運用コストを削減するMLOps
AIプロジェクトの約80%はデータの整備とラベリングに費やされているのが実状です。
この非コア作業にデータサイエンティストの時間を使ってしまう事がAIプロジェクトの価格高騰を招いている課題解決として注目されているのがデータアノテーションツールです。
当社では、AI＋IoTを一括管理できる「SyncLect CL Dashboard」上で、アノテーション作業を誰でもノーコードでできるインソースモードと、数円単位から外部依頼できるアウトソースモードを搭載したMLOps、映像解析エンジン「SyncLect Detection」の学習済みモデルにノーコードで転移学習、任意のAI学習モデルをIoTエッジデバイスにリモートで入替・アップデートを実現しています。
エッジAIプラットフォーム
SyncLect Digital Twin
エッジ＋クラウド＋IoT＋コンテナの
ハイブリッドプラットフォーム
エッジAIが活きる領域はリアルタイム性、ローカル処理、オフライン環境ですが、
水平展開を考えるとエッジ端末のハードコストは展開数に比例してコストが上がる課題があり、いかに低コストの端末を利用するか、いかに低容量で済ますか、いかにクラウドを利用するかを考える必要があります。
また、今後5G通信が浸透すれば高速処理もインターネットでできるようになっていく為、エッジとクラウドを柔軟に対応するシステム構成が必要になります。
スマートシティ、スマートストア、スマートコンストラクション、スマートマニュファクチャリング領域におけるエッジAIプラットフォームが「SyncLect Digital Twin」です。
これにより、画像解析時の容量圧縮、低スペックエッジ端末利用による全体コストダウンと、通信環境に合わせたエッジとクラウドの切り分け、デジタルツインとの共存、一部のエッジ端末を法人既存資産であるPC端末利用とする事を可能とします。
