セキュアなGPTモデル生成AIアプリ開発
生成AIを活用した
対話型AIアプリケーション開発を行います

生成AI(Generative AI)とは

人が今までに生み出したテキストや画像を学習し、
独自にコンテンツを生み出すAI

生成AIとは、「Generative Artificial Intelligence」の略で、日本語では「生成系AI」とも呼ばれます。AIが新しいテキスト、画像、音声、動画などのコンテンツを生成する技術のことを指します。

労働力不足を課題とする企業にとって、業務効率化への活用期待が高まっており、業務活用を検討する法人が増えています。
生成AIの世界市場規模は、2030年時点で約1兆4700億円に達し、年間平均成長率53.3%の成長率で市場が拡大し、約2030年までに約32兆円に達すると予測されており、特に、製造、金融、通信・放送、流通、医療・介護などの業界での成長が特に見込まれています。

生成AIは、新しいアイデアの創出、製品やサービスの自動開発、コンテンツのローコスト作成、早期のプロトタイプ作成、自動応答チャットボットの構築など、ビジネスやクリエイティブな分野で幅広く活用されています。

pixta_113961709_S.jpg

LLMアプリ開発

ChatGPTのような大規模言語モデルを
企業向けにカスタム開発

LLM(Large Language Models)は、大量のデータを活用して精度を高めた自然言語処理(NLP)モデルのことです。テキスト情報を含む大規模データをもとに学習し、億単位を超えるパラメータ数を有することで、文法や意味、文脈を理解してより自然な人間のような会話や文章生成が可能となります。

LLMのAPIを利用することで、より人間に近い自然な言語処理能力をアプリケーションに組み込むことが可能になり、チャットボット、コンテンツ生成ツール、カスタマーサポートシステムなど、高度なNLP機能をアプリケーションに組み込む事ができます。
当社では、「Azure OpenAI Service」や「Azure AI Studio」を活用した「GPT-3.5およびGPT-4」「GPT-4o」「Llama」、「Whisper」を活用したカスタム開発、RAGシステム、「LangChain」を活用した生成AIアプリケーション、チャットUIフレームを活用したWebアプリ開発、エッジLLM、ロボティクス連携、マルチLLM、マルチプラットフォーム対応など様々なLLMアプリ開発を行っています。

pixta_102065209_S.jpg

マルチモーダルLLM(MLLM)

テキスト/音声/画像/映像形式に捉われない
シームレスな生成AI

当社ではマルチモーダルAIアプリケーション開発や共同R&Dを行っています。

マルチモーダルAIとは、様々な種類の情報を利用して高度な判断を行うAIを指します。大規模言語モデルは、「GPT-4o」に代表されるマルチモーダルAIモデルによってテキストの枠を超え、ユーザーはテキスト、音声、画像、動画をベースに新しいコンテンツを生成できるようになりました。
これにより、画像、テキスト、音声などのデータを高度なアルゴリズムと組み合わせ、社内ドキュメントの画像情報を読み込んだ上で回答する生成AIボットを構築したり、デザインアイデアを画像で生成AIに読み込ませて別のデザインアイデアを生成する事が可能になります。
マルチモーダルAIの世界市場は、2023年の10億米ドルから、2028年には45億米ドルに成長すると予測されています。予測期間中のCAGRは35.0%と予測されています。


pixta_55070303_S.jpg

RAGシステム開発

生成AIに業務ナレッジを追加する
検索拡張生成

RAG(Retrieval Augmented Generation)とは、大規模言語モデル(LLM)と外部のデータベースや情報源を結びつけるための新しい技術です。人間がWeb検索などで知識を取り入れるように、生成AIも外部の知識ソースを検索し、より強化した文章生成を行うため、独自に企業ナレッジを生成AIに学習させる際に使われる技術として、近年注目を浴びています。

当社では、年間100社以上から生成AIのご相談を受け、企業がRAGを安全に使うためのプラットフォーム「SyncLect Generative AI」を用意しており、短期間で独自RAGを構築可能としています。
Copilotアプリケーションを実現するエンタープライズセキュアな Microsoft Azure 環境のIaC構築とともにCopilot Stackな生成AIアプリケーション開発、RAGのレスポンススピードやコスト最適化を図るアーキテクチャ設計支援を行っています。

pixta_109832518_S.jpg

VLM(視覚言語モデル)

画像とテキストの統合理解を行う
視覚言語モデル

VLM(Vision and Language Model:視覚言語モデル)とは、画像とテキストを複合して扱うモデル全般を指す言葉です。VLMは、画像からのテキスト生成や、テキストに忠実な画像の生成など、マルチモーダルなデータを扱う特性があります。

画像や映像に含まれる情報をテキストに落としたり判定したりする特性があることから、画像を使った質問に回答させたり、デザインアイデアをサジェストするAIや、画像情報から商品説明を自動生成するAIを用意することが可能です。
代表的なVLMモデルは、「GPT-4V」「LLaVa」「DALL·E3」「Stable Diffusion」などが挙げられます。

pixta_84211800_M.jpg

SLMアプリ開発

ChatGPTなどのOpenAIモデルを
Azure上でセキュアに提供

SLM(小規模言語モデル)は、LLM(大規模言語モデル)よりもサイズが小さく軽量化された言語モデルです。高速なトレーニングと推論が可能で、リソース効率も高まり、コストパフォーマンスに優れています。
また、リソースに制約のあるデバイスやエッジコンピューティングに適しており、セキュアで機密性が高いと言った様々な特徴があります。より小型となる言語モデルの可能性が生成AIカテゴリーで注目されており、小規模言語モデルの採用が増加しています。
代表的なSLMとして「Phi-3」「TinyLlama」「Mistral 7B」が挙げられます。

当社ではオンデバイスSLM(ローカル/エッジ/モバイルで動く生成AI)を目的にPhiシリーズを検証に取り込んでおり、SLMとVLMを統合した小規模画像モデルである「Phi-3 Vision」「nanoVLM」「Live LLaVA」にも取り組んでおります。

pixta_94419803_S.jpg

プロンプトエンジニアリング

生成AIに対して指示や命令を行い
目的に沿った生成出力を施す手法

プロンプトエンジニアリングとは、生成AIに対して提示する質問や命令、つまり「プロンプト」と呼ばれるテキストをより効果的に設計する手法のことを指します。AIが学習した知識を最大限に引き出し、目的に沿った応答を得られるようにするため、質問の仕方や命令の文脈を工夫することが非常に重要です。

プロンプトエンジニアリングは、AIの応答をユーザーの要求に合わせて最適化することで、AIの利用効率を向上させるとともに、より信頼性の高い結果を得ることが可能になります。例えば、より具体的な情報をプロンプトに含めることで、AIはより精度の高い、目的に沿った出力を提供することができます¹。
当社ではユーザープロンプトのプロンプトテンプレート作成、システムプロンプトチューニング、ファインチューニング、インストラクションチューニング、エージェント化、RAGデータチューニングなど生成AIの業務活用における微調整支援を行っています。

ChatGPT_pc_color600_362.png

当社について

Microsoft ソリューションパートナー
Data&AI/Digital &App Innovation取得

当社はAzure PaaS開発、クラウドネイティブ、マネージドサービスの提供を行っております。
Microsoft ソリューションパートナーとは、日本マイクロソフトが提供する「Microsoft Azure」の展開において、優れた技術力、専門性、販売実績を証明する称号です。

当社では、Azure Active Directory、Azure Container、Azure Data Factory、Azure Storage、Azure SQL Database、Azure AI、Azure DevOpsを使ったソリューションを多く提供しており、 Azure ADソリューションを組み合わせた開発を行っております。

Azure PaaS開発を詳しく見る



Solution Partner.png

Azure OpenAI Service
リファレンスアーキテクチャAdvancedパートナー

当社はAzure OpenAI Serviceリファレンスアーキテクチャ賛同プログラムのAdvancedパートナーに認定されております。
「Azure OpenAI Service リファレンスアーキテクチャ」とは、Microsoft社が推奨する Azure OpenAI Service の活用シナリオ例と、そのシナリオに沿ったアプリケーションデモ動画やアーキテクチャ構成を詳しく説明しており、賛同パートナーには、マイクロソフト社からリファレンスアーキテクチャの情報が素早く共有され、技術支援やマーケティング支援を提供するプログラムが展開されます。

当社では、Azure OpenAI Serviceを使ったソリューションを多く提供しており、生成AIとAzureを組み合わせたソリューション開発を行っております。

Azure OpenAI Serviceリファレンスアーキテクチャ
Advancedパートナーのニュースを見る



GPT_AI_Technology_image640.jpg

データブリックス
SIコンサルティングパートナー

当社はデータ&AIカンパニー Databricks Inc.のSIコンサルティングパートナーに認定されています。
大手企業においては全組織横断型のDX推進や各事業で生成AI活用での大規模なデータ&AI利活用が本格化していますが、こうした取り組みには大量データを効率的に処理できるデータ分析のプラットフォーム構築が重要となります。
当社では、「Azure Databricks」を導入し、大規模データの管理・分析、並びにAzure OpenAI Service活用を可能にするデータ基盤プラットフォームの構築支援やエッジAI技術を用いた商品棚分析や顧客行動分析による運営効率化を実現するシステムの構築支援を行っています。

データブリックスパートナーについて







databricks_headwaters_logo.png

当社の生成AIソリューション

独自データ学習の生成AI活用プラットフォーム
SyncLect Generative AI

SyncLect Generative AIは、ChatGPT単体ではできない機能課題に対する強化・拡張を行うためのLLMライブラリ「LangChain」をMicrosoft Azure環境に最適化したプラットフォームで、ChatGPTカスタム済みの機能を提供します。また、本サービスの利用者はチャット画面上からモード切替を選択することで、独自学習済みの対話エージェントを呼び出して利用することも可能になります。

SyncLect Generative AIを詳しく見る

Synclect_generative_ai_outline_650_288.png

生成AI×エッジAI活用の
SLM/VLM

ヘッドウォータースでは、生成AI×エッジAI領域の取り組み強化を目的に、日本マイクロソフトのSLM「Phi-2/Phi-3」と、Meta社の「LLaMA」をベースとしたオープンソースSLM「TinyLlama」、ならびにVLM「LLaVA」をNVIDIAの「NVIDIA® Jetson Orin™ Nano」上で検証することによって、エッジAIと生成AIを組み合わせたビジネス活用方法の整理と活用拡大に向けたアーキテクチャー構築を行っています。

生成AI×エッジAIのTopicsを見る

EdgeGenAI_Image.png

RAGがうまくいかない企業向けの
「Advanced RAG」

当社では、生成AIの業務活用における「RAGがうまくいかない」企業向けに、「Microsoft Fabric」をデータプラットフォームとした「Advanced RAG」サービスを提供しています。

高度な検索拡張生成 (Advanced RAG) は、より洗練されたデータ処理を使用して検索品質を向上させる生成 AI 技術で、主に「検索読み取り」プロセスを伴う「Naive RAG」 の問題に対処し、検索前の最適化(Pre-Retrieval)や検索後の最適化(Post-Retrieval)などコンテキストと関連性の重みづけを行います。
現在多くの企業で利用しているMicrosoft Office 365 ファイルを簡単に取り込めるデータプラットフォームは、「Microsoft Fabric」であり、様々な「Advanced RAG」を必要とする生成AIシナリオに対応します

Advnaced RAGを詳しく見る

Advanced_RAG_image.jpg

生成AI×モバイルアプリ
マルチモーダル AI Mobile App Copilot

「マルチモーダルAI Mobile App Copilot」は、BtoCビジネス企業に対して、企業独自のデータを学習したRAG型Copilotをエンドユーザー向けモバイルアプリに搭載する開発支援サービスです。 アプリユーザーの「副操縦士(Copilot)」として、企業独自Copilotエージェントがマルチターンで会話を行い、複雑なタスクの手助けをしてくれるモバイルアプリとUX、モバイルバックエンドを一気通貫で提供いたします。

マルチモーダル AI Mobile App Copilotを詳しく見る

generativeai_mobile_copilot_sample_image_3_part1.png

テキスト、音声、画像・映像の複合的な生成AI支援
マルチモーダルAIラボ

マルチモーダルAIとは、様々な種類の情報を利用して高度な判断を行うAIを指します。大規模言語モデルは、マルチモーダルAIモデルによってテキストの枠を超え、ユーザーはテキスト、音声、画像、動画をベースに新しいコンテンツを生成できるようになりました。
業務活用のため企業内に眠る様々なファイル形式のデータを生成AIに学ばせて、企業の独自ナレッジを利用した生成AIのカスタムニーズに対応いたします。

マルチモーダルAIラボを詳しく見る

prompt_engeering_labo_service_image_524_300.png

エッジでの軽量マルチモーダル生成AIを実現する
LLaVA Edge Vision

「LLaVA Edge Vision」は、半導体や自動車などの製造工場向けエッジ生成AIソリューションです。生成AIが製造ラインのカメラ画像に対してキャプションを生成し、作業員のタブレットやスマートフォンに作業指示や危険予知を通知することで、業務効率や安全性の向上に貢献いたします。また、エッジAI上でローカル VLM「LLaVA」( Large Language-and-Vision Assistant )を稼働させることで、生成速度や精度の向上を実現しております。

LLaVA Edge VisionのTopicsを見る

azure_sphere_diagram_image600.png

LLM技術のナレッジシェアと伴走支援を行う
プロンプトエンジニアリングラボ

 当社の生成AIエンジニアやプロンプトエンジニアを本サービスの利用顧客向けに個別体制を構築し、法人顧客のAzure OpenAI ServiceやChatGPTの活用習熟度に合わせ、伴走型支援を行うサービスです。
生成AIやプロンプトエンジニアリングの基礎知識を提供するワークショップやハンズオン形式セミナーの開催、1日から始められる「Power Platform×Azure OpenAI Service」チャットボットの試験導入、業務活用に向けた企画支援、プロトタイプアプリ構築、プロンプトエンジニアによるテクニカルアドバイザリー、高セキュリティを実現するエンタープライズ向けAzureアーキテクチャの設計構築支援、社内データを横断検索しAzure OpenAI モデルに回答を学ばせるCognitive Searchモデルや専用Web UI、外部データ利用モデルの構築を提供します。

プロンプトエンジニアリングラボを詳しく見る

prompt_engeering_labo_service_image_524_300.png

Azure OpenAI Serviceを1日から始められる
Power Platform向けAIチャットボット

 多くの企業から、 「Azure OpenAI Serviceを導入してみたいが、何から始めたら良いか判らない」 「画面開発が必要ではないか」 「コストや期間がどれぐらいかかるか判らない」 「情報がどのように扱われるのか心配で、セキュリティにこだわりたい」 など多くの声を受け、Microsoft365利用企業向けに「Power Apps」「Power Automate」を活用した社内利用向けのチャットボットを提供することとなりました。
お客様のMicrosoft365環境に専用のPowerAppsテンプレートを最短1日で用意でき、Microsoft Teams上でも利用可能、Microsoft365標準のセキュリティが前提となり安心頂けます。

PowerAppsボットを詳しく見る

https://www.headwaters.co.jp/2023/06/06/images/PowerPlat_AOAI_image.png

Azure OpenAI Service × 音声

自動音声認識(Automated Speech Recognition:ASR)でユーザーの質問内容をテキスト変換し、「Azure OpenAI Service」に繋げることで「音声認識×GPT」を今までよりも素早く提供できるようになりました。
「音声認識×GPT×音声合成による音声対話」や「音声認識後のGPT活用」を行うAIシステムの提供を行っており、 業界の専門用語が数多く出る場面においては「Azure Custom Voice」を利用することで業界の専門用語をAzure上でカスタムトレーニングし、「SyncLect」が持つマルチプラットフォーム機能により、任意のWebやアプリから「音声認識×GPT」機能を追加することができます。 入力デバイスとなるマイクもPCやスマートデバイス、エッジデバイスに接続された任意のマイクが利用でき、モバイル、車載、店頭、オフィス、デジタルサイネージなど様々なシーンで利用可能です。

「Azure OpenAI Service ×音声」を詳しく見る

https://www.headwaters.co.jp/2023/07/27/images/pixta_41575509_S.jpg

Azure OpenAI Service
ハンズオンワークショップ

「生成AIやChatGPTができることやできないことが分からない」
「生成AIやChatGPTのビジネス活用イメージを湧かない」
このような法人企業様を対象とした、Azure OpenAI Serviceワークショップを行っております。
最新のAI技術であるChatGPTの得意分野と課題について学び、実際にChatGPTを操作しながら、質問の方法や回答の違いを直接体験できるカリキュラムを用意しており、 実際のビジネスシーンや日常業務での活用シーンを交えてご紹介しております。

digital_skill_training_image640_345.jpg

生成AI事例

西日本旅客鉄道株式会社(JR西日本)様
「Copilot for 駅員」

 ヘッドウォータースは、LLM(大規模言語モデル)・RAG(Retrieval Augmented Generation)システムに関する技術力を生かし、駅員向け生成AIアシスタント「Copilot for 駅員」の開発支援を行っております。
駅員がお客様対応の際、多くの営業規則や商品から必要な情報を探すのに時間が掛かる課題を解決するため、AIアシスタントを用いた即時的な情報取得により、お客様1人あたりの対応時間削減を目指しています。
また、生成AI基盤「SyncLect Generative AI」上でAzure OpenAI ServiceやMicrosoft Fabricを連携させる開発支援を行っています。

JR西日本様事例プレスリリースを詳しく見る

virtual_office_image617_346.png

伊藤忠商事株式会社様
生成AI及び Fabric等のデータプラットフォーム活用支援

「生成AIを活用したビジネスの創造」プロジェクトが開始されるにあたって、ヘッドウォータースの生成AI活用に関する技術力や実績(※3)が評価されプロジェクトパートナーに選定され、ヘッドウォータースは、Azure OpenAI ServiceやMicrosoft Fabric(※4)等のデータ基盤プラットフォームの活用に向けたMVP(Minimum Viable Product:成果をより早く簡単に得られるようにする仕組み)の構築を支援しました。

伊藤忠商事様事例プレスリリースを詳しく見る

virtual_office_image617_346.png

ヤマハ発動機株式会社様
音声対話×歌生成AI搭載型ロボット

ジャパンモビリティショー2023に展示するAIロボット「Charlie(チャーリー)」において、rinna株式会社と共同で、歌生成AI・音声認識AI・知識検索AI・応答生成AI(Chat GPT)を組み合わせたデモアプリケーションの開発支援を行いました。
AIロボット「Charlie」がユーザ(来場者)からの質問(音声入力)に対して関連する知識を検索し、Chat GPTで応答文を生成、それを歌生成AIが歌声に変えて回答いたします。

ヤマハ発動機様事例プレスリリースを詳しく見る




virtual_office_image617_346.png

株式会社マネジメントソリューションズ様
Azure OpenAI Serviceの機能追加統合支援

お客様社内に蓄積するプロジェクトマネジメントに関するナレッジをAzure OpenAI Serviceに組み込むべく、プロンプトエンジニアリング手法検証を行っております。

回答してほしくない内容のフィルタリング、ハルシネ―ション(ChatGPTが嘘をつく事)の防止、プロンプトインジェクション対策(ハッキング対策)、キャラクター設定、データの取り込み方や、コスト減のためのトークンを抑えたデータ連携などを行い、お客様のナレッジを学習させ、サービスリリースに耐えられるようなAzure OpenAI Service統合支援を行いました。

AOAI_case1_PMTool_image_611_300.png