AI+IoTの高速化エッジAI開発
リアルタイム性に優れる
インテリジェントエッジコンピューティング開発を行います。
エッジAIとは
IoT+AIの高速処理
今までのIoT+AIの世界では、AIを処理するのにインターネットを介してクラウドに繋げ、データに参照し、実行を行っていました。
ただ、IoT機器から、クラウドに参照を行う事で、「1秒～3秒程のレスポンスタイム」と言う問題も同時に課題となっていました。
そこで登場したのが、「エッジコンピューティング」と言う概念です。
IoT機器と物理的距離の近い場所にAIを処理する小型のサーバを置く事で、インターネットを介さずに処理を行います。
エッジAIは、エッジコンピューティングにおいて、機械学習などの学習済み処理を施す事で、IoT＋AIをローカルでの高速処理を行う事ができます。
IoT+AIのローカル処理
今までIoTセンサーなどで入手した情報は、インターネットを介してクラウドに保存する事が一般的でした。
ただ、「IoTデータの通常接続に因るネットワークコスト」と言う問題も同時に課題となっていました。
「エッジコンピューティング」ではその課題も解決します。
リアルタイム性を必要とするデータ、セキュリティ上クラウドに上げたくないデータ、保存する必要のないゴミデータのフィルタ機能をエッジ側で処理し、
蓄積したデータサマリを後ほど閲覧したり分析するデータはクラウド側に保存する、と言った求められる役割のスピードとデータ容量の分散により、膨大なデータの最適化を行います。
エッジAIが活きる場面
リアルタイム画像解析
エッジAIでよく使われる場面は、リアルタイム画像解析です。
リアルタイム制御を必要とする自動運転や自律走行技術、工場でのベルトコンベアーで運ばれる商品の欠損を視認するカメラ映像解析などがあり、
次々に判別・認識し、リアルタイムに処理する必要のある場面で威力を発揮します。
また、セキュリティ観点からクラウドに上げたくないお客様情報などが混ざる画像情報処理などもエッジAIが活きる場面となります。
アクティビティセンシング
映像と共に使われる場面は、行動を認識する必要のあるセンサー情報のリアルタイム処理です。
自律走行時の衝突回避や、スポーツでのリアルタイムデータ化と機械学習に因る予測、無人店舗におけるユーザ行動に伴う無人デジタル接客など、
リアルタイムでのセンサー情報のインプットとAIによるアウトプットの組み合わせで効果を発揮します。
当社ができること
生成AI×エッジAI活用の
SLM/VLM
ヘッドウォータースでは、生成AI×エッジAI領域の取り組み強化を目的に、日本マイクロソフトのSLM「Phi-2/Phi-3」と、Meta社の「LLaMA」をベースとしたオープンソースSLM「TinyLlama」、ならびにVLM「LLaVA」をNVIDIAの「NVIDIA® Jetson Orin™ Nano」上で検証することによって、エッジAIと生成AIを組み合わせたビジネス活用方法の整理と活用拡大に向けたアーキテクチャー構築を行っています。
エッジAIセンシングプラットフォーム「AITRIOS™」
&インテリジェントビジョンセンサー「IMX500」
ソニーセミコンダクタソリューションズ社が提供する
「AITRIOS」は、AI処理機能を搭載したインテリジェントビジョンセンサー「IMX500」や、AIカメラなどのエッジデバイスを活用したセンシングソリューションの効率的な開発・導入を可能にするプラットフォームです。
当社では、「AITRIOS」や「IMX500」と「SyncLect」を連携させたエッジAIソリューションは、エッジAIデバイスで収集した大量のデータを画像解析することで、店舗における商品管理やお客様の属性検知、設備メンテナンスを行うためのデジタルツイン、製造ラインにおける不良品検知といった様々な活用シーンで高い成果を出すことが期待でき、既に複数の顧客企業へ導入が進んでおります。
映像解析エッジAI on Jetson AGX Orin
NVIDIA社が提供する「NVIDIA Jetson AGX Orin™」は、は、2022年3月に販売開始された世界で最も強力かつコンパクトでエネルギー効率の高い AI スーパーコンピューターです。その前身である「Jetson AGX Xavier™」の 約8倍となる毎秒最大 275兆回の処理能力を誇ります。
当社では、「NVIDIA Jetson AGX Orin™」と「SyncLect」を連携させ、スマートシティ、スマートストア、スマートビルディングにおいて複数のカメラ画像解析やセンジング処理の機能を持つエッジAIシステムの導入をすぐに進めることが可能です。
エッジでの軽量マルチモーダル生成AIを実現する
LLaVA Edge Vision
「LLaVA Edge Vision」は、半導体や自動車などの製造工場向けエッジ生成AIソリューションです。生成AIが製造ラインのカメラ画像に対してキャプションを生成し、作業員のタブレットやスマートフォンに作業指示や危険予知を通知することで、業務効率や安全性の向上に貢献いたします。また、エッジAI上でローカル VLM「LLaVA」( Large Language-and-Vision Assistant )を稼働させることで、生成速度や精度の向上を実現しております。
AITRIOS×棚分析/行動解析を活用したローソン店舗DX
ヘッドウォータースは、ソニーセミコンダクタソリューションズ株式会社、画像認識のコア技術開発とエッジAIカメラソリューションを提供するAWL株式会社とともに、株式会社ローソンの店舗におけるAI活用による個店最適化への貢献をめざし、エッジAI技術搭載デバイスなどを活用した店舗運営支援のための実証実験を、2023年3月から8月まで東京都・神奈川県内の7店舗で実施しました。
AITRIOSならびにマイクロソフト社のMicrosoft Azure（クラウドプラットフォーム）を用いることで商品棚の状況を効率的に自動検知し可視化したほか、顧客の店内動線や滞留時間などの行動データをAI技術により解析し、これらのデータを店舗施策の改善に活用するためのプロセス構築に取り組みました。
セブン‐イレブンなどコンビニ500店舗への
視認検知ソリューション
「AITRIOS™」とインテリジェントビジョンセンサー「IMX500」を活用した視認検知ソリューションの導入支援サービスの提供を行い、コンビニエンスストア500店舗へ導入しています。同ソリューションは、来店客のデジタルサイネージ（看板）に向けられた視認を自動検知し、視聴人数や視聴率を把握するソリューションです。センサーのAI機能で検知エリアに入った買い物客の数、看板を見たかどうか、看板を見るために立ち止まった人の数、どのくらいの時間見ていたかなどのデータポイントを収集します。個人を特定できる画像データを出力しないため、プライバシーを守りながら、洞察力に富んだ測定が可能です。
Azure Sphereによるデバイスセキュリティと
ハードスペックに捉われない軽量機械学習
企業にリスクをもたらすIoTデバイスを狙った攻撃は近年急増しており、その解決策として当社が提供しているのがAzure Sphereを利用したSyncLect TinyMLです。
マイクロソフトのセキュリティテクノロジーを搭載したMCUと10年間のOSアップデート、10年間のデバイス証明書ベースでの認証をつけたエッジデバイスと、そのエッジ上でもこうレスポンスに動く軽量AI、管理画面上でのリモートコントロールとデプロイ環境をセットにしたエッジAI開発を提供しております。
映像解析エッジAI on Jetson Nano
エッジAIでは高性能なGPUを必要とされましたが、展開に比例して増大するデバイスコストがボトルネックとなっていました。
エヌビディア社が提供するJetsonシリーズはコストパフォーマンスにおいて、エッジAIプロジェクトのPoC後における複数展開において非常に有効な選択肢となります。
当社では、ソフトウェア側の処理をTinyMLを利用して軽量化し、CUDAプログラム、TensorRT化、DeepStreamによるパイプライン処理、TAO Toolkitによる転移学習などを行っております。
音声エッジAI
今まで、音声認識において、クラウドのSpeech-To-TextやスマートフォンOS標準搭載の音声認識を利用する事がありましたが、
スマートフォンを音声認識に使わないようなスマートストアやスマートコンビニにおいて、エッジデバイス＋音声認識の必要性が発生します。
また、IoT型スマートストアにおいて、多店舗展開に比例して増大するクラウド利用コストがボトルネックとなっていました。
当社では、店舗接客時にどのような接客が行われているかをエッジ音声認識でデータを取得し、重要キーワードをセグメントして分析に必要となるデータを分析基盤に送る音声エッジAIを提供しております。
軽量エッジAI on ラズパイの
稼働実績1000台以上
今まで、エッジAIでは高性能なGPUを必要とされましたが、展開に比例して増大するデバイスコストがボトルネックとなっていました。
Raspberry Piはコストパフォーマンスにおいて、エッジAIプロジェクトのPoC後における複数展開において非常に有効な選択肢となります。
当初ラズパイにおいてはアクセラレータボードでマシンパワーを補完しておりましたが、現在はアクセラレータ無しでラズパイのみで稼働する軽量なエッジAI実装を行っており、
既に1000台以上のデバイスで稼働実績があります。
エッジ処理でプライバシー画像カット
「comieru Live」は、株式会社セキュアと株式会社ヘッドウォータースが共同で開発しているAI技術で、来店客を自動でイラストに置き換え、 空席＆混雑状況視覚的に見えるようにしたソリューションです。来店客のプライバシーを保護しながら、混雑状況をより具体的に見える化することが可能になります。
人物情報に該当する画像は「NVIDIA Jetson Nano」上で処理させる事で、インターネットを使わずにセキュリティ観点を考慮し、検出座標のみをクラウドで処理する事でログ収集を行っています。
エッジAI水平展開には「Azure IoT Edge」、ログ収集・可視化に「SyncLect」を利用しています。
映像解析エッジAIの
運用コストを削減するMLOps
AIプロジェクトの約80%はデータの整備とラベリングに費やされているのが実状です。
この非コア作業にデータサイエンティストの時間を使ってしまう事がAIプロジェクトの価格高騰を招いている課題解決として注目されているのがデータアノテーションツールです。
当社では、AI＋IoTを一括管理できる「SyncLect CL Dashboard」上で、アノテーション作業を誰でもノーコードでできるインソースモードと、数円単位から外部依頼できるアウトソースモードを搭載したMLOps、映像解析エンジン「SyncLect Detection」の学習済みモデルにノーコードで転移学習、任意のAI学習モデルをIoTエッジデバイスにリモートで入替・アップデートを実現しています。
エッジ＋クラウド＋IoT＋コンテナの
ハイブリッドプラットフォーム
エッジAIが活きる領域はリアルタイム性、ローカル処理、オフライン環境ですが、
水平展開を考えるとエッジ端末のハードコストは展開数に比例してコストが上がる課題があり、いかに低コストの端末を利用するか、いかに低容量で済ますか、いかにクラウドを利用するかを考える必要があります。
また、今後5G通信が浸透すれば高速処理もインターネットでできるようになっていく為、エッジとクラウドを柔軟に対応するシステム構成が必要になります。
スマートシティ、スマートストア、スマートコンストラクション、スマートマニュファクチャリング領域におけるエッジAIプラットフォームが「SyncLect Digital Twin」です。
これにより、画像解析時の容量圧縮、低スペックエッジ端末利用による全体コストダウンと、通信環境に合わせたエッジとクラウドの切り分け、デジタルツインとの共存、一部のエッジ端末を法人既存資産であるPC端末利用とする事を可能とします。
エッジAIのデータ収集、アノテーション、再学習、再配布を全自動化して運用コスト削減
エッジAI活用においては機械学習による推論精度の向上が重要であり、そのための各プロセス（データ収集→アノテーション→再学習→再配布）にはデータサイエンティストやエンジニアなどの専門人材による作業が必要となります。
しかし、市場で不足する専門人材を採用することは難しく、また採用後も高額な作業費が長期間にわたって発生するため、エッジAIを導入する企業にとって大きな負担となっているのが実情です。専門人材の不足やコスト負担の課題を解決するため、エッジAIの機械学習プロセスを全自動化する「SyncLect Edge AI Automation」を開発しました。
Microsoft AI Innovation Partner of the Year 2024
「AI イノベーション パートナー オブ ザ イヤー アワード」は、マイクロソフト製品の活用によってAI分野で革新を起こしたパートナーに贈られるアワードとして2024年に新設され、ヘッドウォータースは同分野において最も優れた実績をあげたとの評価を受けた結果、初代受賞パートナーとなりました。
当社では、生成AIを積極的に導入して豊富な案件実績と先進的な事例公開、並びにAIの活用支援サービスのラインナップも拡充しております。
上位パートナー認定資格「Microsoft Azure の AI and Machine Learning」 Specialization取得
マイクロソフトのソリューションパートナーの中でも、特定のソリューション分野において高度な専門性と豊富な実績を有するパートナーに与えられる上位認定資格である「Specialization」は、第三者機関の監査を経て、その専門性をマイクロソフトが認定するプログラムです。
「Microsoft Azure の AI および Machine Learning」は、Microsoft Azure クラウドおよび機械学習サービスに対して、戦略や計画、ガバナンス、その後の開発管理や評価、運用など多岐に渡る監査項目が対象のSpecializationとなっており、同分野における当社の専門性と技術力の強さが証明されています。
