セキュアなGPTモデルRAGシステム開発
生成AIを活用した
対話型AIアプリケーション開発を行います
RAGとは
生成AIに外部ナレッジベースを追加する
検索拡張生成
RAG(Retrieval Augmented Generation)とは、大規模言語モデル（LLM）と外部のデータベースや情報源を結びつけるための新しい技術です。人間がWeb検索などで知識を取り入れるように、生成AIも外部の知識ソースを検索し、より強化した文章生成を行うため、独自に企業ナレッジを生成AIへ学習させる技術として、近年注目を浴びています。
当社では、年間100社以上から生成AIのご相談を受け、企業がRAGを安全に使うためのプラットフォーム「SyncLect Generative AI」を用意することで短期間に独自RAGを構築可能としています。
Copilotアプリケーションを実現するエンタープライズセキュアな Microsoft Azure 環境のIaC構築とともにCopilot Stackな生成AIアプリケーション開発、RAGのレスポンススピードやコスト最適化を図るアーキテクチャ設計支援を行っています。
当社のRAGソリューション
RAGコンサルティング
当社では、RAGシステムの開発と精度改善を2023年より繰り返し、30社以上の生成AIプロジェクトが進行しています。
「よくわからないから、とりあえずRAGをPoCしよう」というお客様はどの会社もうまくいかない事が多く発生しており、助けて欲しいと当社にお問い合わせ頂く顧客が多くあります。（※当社ではRAG正答精度90％以上の実績があります）
当社では、「RAGがうまくいかない」お客様のために、RAGコンサルティングを実施しており、RAG精度向上施策チェックリストによるRAG導入アセスメントや、データサイエンスアドバイザリー、精度改善プランニング、RAGの勉強会を実施しています。また、プロジェクトのゴールに合わせたRAGパターンの提案、ハルシネーションを抑えるRAG、レスポンススピードを向上させるRAGやコストパフォーマンスを改善するRAGアーキテクチャ、RAGと連携するデータプラットフォームの提案から導入・実装までを手掛けています。
独自データ学習の生成AI活用プラットフォーム
SyncLect Generative AI
SyncLect Generative AIは、エンタープライズセキュアなMicrosoft Azure環境に最適化したRAGプラットフォームで、RAGで使われる機能コンポーネントをマイクロサービスとしてカスタム提供します。また、本サービスの利用者はチャット画面上からモード切替を選択することで、独自学習済みの対話エージェントを呼び出して利用することも可能になります。
RAGがうまくいかない企業向けの
「Advanced RAG」
当社では、生成AIの業務活用における「RAGがうまくいかない」企業向けに、「Microsoft Fabric」をデータプラットフォームとした「Advanced RAG」サービスを提供しています。
高度な検索拡張生成 (Advanced RAG) は、より洗練されたデータ処理を使用して検索品質を向上させる生成 AI 技術で、主に「検索読み取り」プロセスを伴う「Naive RAG」 の問題に対処し、検索前の最適化（Pre-Retrieval）や検索後の最適化(Post-Retrieval)などコンテキストと関連性の重みづけを行います。
現在多くの企業で利用しているMicrosoft Office 365 ファイルを簡単に取り込めるデータプラットフォームは、「Microsoft Fabric」であり、様々な「Advanced RAG」を必要とする生成AIシナリオに対応します
SLM/LLMのハイブリッド型
「Specurative RAG」
「Phi-3」、「Llama-3」、並びに「GPT-4o mini」を中心とした小規模言語モデルを使用して、生成AIの回答精度を向上させるサービスを提供しています。
SLMの主な特徴は、「LLMの軽量化」にありますが、その他の特徴として「扱うデータ量が少ない」事にあります。
SLMの学習データとして「業界固有の用語やニュアンス」や「間違ってはいけない回答」など「他のナレッジよりも優先するべきナレッジ」をSLMに用意することで、不正確さや無関係な情報を生成するリスクを最小限に抑える事ができます。
さらにSLMはLLMと比較してコンピューティングリソースが抑えられる為、運用コスト効率が高く、応答時間の短縮や消費エネルギー削減と言ったメリットがあります。
RAGパイプライン自動評価
RAGをとりあえずやってみる検証プロジェクトでは「何を以て評価するか」という観点が抜けがちであり、かつ、評価を行う事自体に工数負荷がかかる課題があります。
そのため当社では、RAG評価のためにragasを用いてRAG精度に関連する「忠実度」「回答の関連性」「コンテキストの精度」「コンテキストの再現性」「コンテキストの関連性」を評価するための数値化を行っております。通常は評価に工数がかかるものですが、当社では評価システム自体を生成AIで自動化し、API提供でチェックができる仕組みを構築しており、検証サイクルを高速化しています。
ナレッジグラフを応用した
Graph RAG
GraphRAGは、Microsoftが2024年2月に発表した先進的なRAG（Retrieval Augmented Generation）技術であり、ナレッジグラフと生成AIを組み合わせで従来のRAGの課題を克服します。
GraphRAGの特徴は、インデックス作成時にLLMを使用してノードやエッジの要約を生成し、近接するグラフをグループ化して「コミュニティ」を形成することであり、要約を活用して質問に関連する情報を効率的に探索し、全体把握や特定話題の詳細な探索が可能になります。
個人情や購買履歴をナレッジグラフとしたレコメンドシステム、過去の問い合わせ履歴を基にしたAIカスタマーサポート、組織コミュニティや製品カテゴリを加味した企業内情報検索エンタープライズサーチなど情報の構造化と生成能力を組み合わせることで、状況に応じた柔軟で深い回答を実現します。
AIエージェントと業務データ連携による自律思考型AI
Agentic RAG
「Agentic RAG」は、大規模言語モデル（LLM）がタスクに応じて "自ら考え、何を検索し、どのように活用するか" を判断する仕組みを取り入れたRAG技術です。
従来の「Naive RAG」では、単一ステップの検索結果を元に応答を行うため、目的に応じて追加情報を取りに行く再検索や、部分的に不足したドキュメントを補完するといった作業を十分にカバーできない場合がありました。
これに対してAgentic RAGでは、下記のような多段階・自律的なプロセスを実装することで、より高度なクエリや柔軟な業務要件にも対応できるようになっています。
当社では、AIエージェントとRAGのハイブリッドモデルである多段階検索と自律的推論プロセスを併せ持つAgentic RAGテクノロジーを提供しています。
「GPT-4o Realtime API」を活用したAIエージェント
Agentic Voice RAG
「GPT-4o Realtime API」を活用し、生成AIとの音声対話を日常の対話と同じスピードで回答する「リアルタイムスピーチ」にAgentic RAGを統合することで、「生成AIリアルタイム音声対話×企業独自ナレッジを付与した根拠のある応答」のAIエージェントを提供することが可能となりました。
これにより当社が提供する音声対話コンタクトセンターソリューション、デジタルヒューマンソリューション、対話型ロボティクスソリューション、車載エッジAIソリューションを進化させ、人との対話のような自然な生成AI体験だけでなく、AIエージェントにタスクを自動実行させるソリューションを提供します。
当社について
Microsoft AI Innovation Partner of the Year 2024
「AI イノベーション パートナー オブ ザ イヤー アワード」は、マイクロソフト製品の活用によってAI分野で革新を起こしたパートナーに贈られるアワードとして2024年に新設され、ヘッドウォータースは同分野において最も優れた実績をあげたとの評価を受けた結果、初代受賞パートナーとなりました。
当社では、生成AIを積極的に導入して豊富な案件実績と先進的な事例公開、並びにAIの活用支援サービスのラインナップも拡充しております。
上位パートナー認定資格「Microsoft Azure の AI and Machine Learning」 Specialization取得
マイクロソフトのソリューションパートナーの中でも、特定のソリューション分野において高度な専門性と豊富な実績を有するパートナーに与えられる上位認定資格である「Specialization」は、第三者機関の監査を経て、その専門性をマイクロソフトが認定するプログラムです。
「Microsoft Azure の AI および Machine Learning」は、Microsoft Azure クラウドおよび機械学習サービスに対して、戦略や計画、ガバナンス、その後の開発管理や評価、運用など多岐に渡る監査項目が対象のSpecializationとなっており、同分野における当社の専門性と技術力の強さが証明されています。
Azure OpenAI Service
リファレンスアーキテクチャAdvancedパートナー
当社はAzure OpenAI Serviceリファレンスアーキテクチャ賛同プログラムのAdvancedパートナーに認定されております。
「Azure OpenAI Service リファレンスアーキテクチャ」とは、Microsoft社が推奨する Azure OpenAI Service の活用シナリオ例と、そのシナリオに沿ったアプリケーションデモ動画やアーキテクチャ構成を詳しく説明しており、賛同パートナーには、マイクロソフト社からリファレンスアーキテクチャの情報が素早く共有され、技術支援やマーケティング支援を提供するプログラムが展開されます。
当社では、Azure OpenAI Serviceを使ったソリューションを多く提供しており、生成AIとAzureを組み合わせたソリューション開発を行っております。
データブリックス
SIコンサルティングパートナー
当社はデータ&AIカンパニー Databricks Inc.のSIコンサルティングパートナーに認定されています。
大手企業においては全組織横断型のDX推進や各事業で生成AI活用での大規模なデータ＆AI利活用が本格化していますが、こうした取り組みには大量データを効率的に処理できるデータ分析のプラットフォーム構築が重要となります。
当社では、「Azure Databricks」を導入し、大規模データの管理・分析、並びにAzure OpenAI Service活用を可能にするデータ基盤プラットフォームの構築支援やエッジAI技術を用いた商品棚分析や顧客行動分析による運営効率化を実現するシステムの構築支援を行っています。
GitHub
テクノロジーパートナー
ヘッドウォータースでは、法人顧客に対するDX支援の一環としてGitHubを活用し、顧客の開発チームと共にアジャイル開発やDevOpsサービスを利用しています。また、CI/CDによるワークフローの自動化を通じて、ソフトウェア開発サイクルの改善も図っています。
さらに、コード生成AIによる開発者の労働生産性向上と技術力向上を目的に、AIプログラミングアシスタント「GitHub Copilot」を全社導入し、「Copilot内製化支援サービス」を開始するなど、GitHubに関わる最新技術の活用を推進しています。
Elasticsearchパートナーによる
オンプレミスRAG
ヘッドウォータースは今回のElasticsearch K.K.とのパートナー連携によって、生成AI案件で検索/分析エンジン「Elasticsearch」を使用するオンプレミスRAGソリューションの提供を強化しています。
オンプレミスRAGとは、大規模言語モデル（LLM）にローカルデータ（自社サーバや社内ネットワーク環境下にあるデータベースなど）への検索機能を組み合わせる技術です。これにより、生成AIはクラウドを介さずに社内データベースや文書から必要な情報を取得し、正確な回答を生成することが可能となります。
オンプレミスで実装することによって、セキュリティやデータプライバシーを確保しながら社内情報を活用し、精度の高いAIによる回答を実現します。さらにElasticsearchのAI機能を活用することで、RAGはオンプレミスとクラウド上のデータを横断的に検索可能となり、企業はより柔軟かつ安全にデータを活用できるようになります。
当社のできること
生成AI×モバイルアプリ
マルチモーダル AI Mobile App Copilot
「マルチモーダルAI Mobile App Copilot」は、BtoCビジネス企業に対して、企業独自のデータを学習したRAG型Copilotをエンドユーザー向けモバイルアプリに搭載する開発支援サービスです。
アプリユーザーの「副操縦士（Copilot）」として、企業独自Copilotエージェントがマルチターンで会話を行い、複雑なタスクの手助けをしてくれるモバイルアプリとUX、モバイルバックエンドを一気通貫で提供いたします。
テキスト、音声、画像・映像の複合的な生成AI支援
マルチモーダルAIラボ
マルチモーダルAIとは、様々な種類の情報を利用して高度な判断を行うAIを指します。大規模言語モデルは、マルチモーダルAIモデルによってテキストの枠を超え、ユーザーはテキスト、音声、画像、動画をベースに新しいコンテンツを生成できるようになりました。
業務活用のため企業内に眠る様々なファイル形式のデータを生成AIに学ばせて、企業の独自ナレッジを利用した生成AIのカスタムニーズに対応いたします。
LLM技術のナレッジシェアと伴走支援を行う
プロンプトエンジニアリングラボ
当社の生成AIエンジニアやプロンプトエンジニアを本サービスの利用顧客向けに個別体制を構築し、法人顧客のAzure OpenAI ServiceやChatGPTの活用習熟度に合わせ、伴走型支援を行うサービスです。
生成AIやプロンプトエンジニアリングの基礎知識を提供するワークショップやハンズオン形式セミナーの開催、1日から始められる「Power Platform×Azure OpenAI Service」チャットボットの試験導入、業務活用に向けた企画支援、プロトタイプアプリ構築、プロンプトエンジニアによるテクニカルアドバイザリー、高セキュリティを実現するエンタープライズ向けAzureアーキテクチャの設計構築支援、社内データを横断検索しAzure OpenAI モデルに回答を学ばせるCognitive Searchモデルや専用Web UI、外部データ利用モデルの構築を提供します。
Azure OpenAI Serviceを1日から始められる
Power Platform向けAIチャットボット
多くの企業から、
「Azure OpenAI Serviceを導入してみたいが、何から始めたら良いか判らない」
「画面開発が必要ではないか」
「コストや期間がどれぐらいかかるか判らない」
「情報がどのように扱われるのか心配で、セキュリティにこだわりたい」
など多くの声を受け、Microsoft365利用企業向けに「Power Apps」「Power Automate」を活用した社内利用向けのチャットボットを提供することとなりました。
お客様のMicrosoft365環境に専用のPowerAppsテンプレートを最短1日で用意でき、Microsoft Teams上でも利用可能、Microsoft365標準のセキュリティが前提となり安心頂けます。
Azure OpenAI Service × 音声
自動音声認識(Automated Speech Recognition：ASR)でユーザーの質問内容をテキスト変換し、「Azure OpenAI Service」に繋げることで「音声認識×GPT」を今までよりも素早く提供できるようになりました。
「音声認識×GPT×音声合成による音声対話」や「音声認識後のGPT活用」を行うAIシステムの提供を行っており、
業界の専門用語が数多く出る場面においては「Azure Custom Voice」を利用することで業界の専門用語をAzure上でカスタムトレーニングし、「SyncLect」が持つマルチプラットフォーム機能により、任意のWebやアプリから「音声認識×GPT」機能を追加することができます。
入力デバイスとなるマイクもPCやスマートデバイス、エッジデバイスに接続された任意のマイクが利用でき、モバイル、車載、店頭、オフィス、デジタルサイネージなど様々なシーンで利用可能です。
Azure OpenAI Service
ハンズオンワークショップ
「生成AIやChatGPTができることやできないことが分からない」
「生成AIやChatGPTのビジネス活用イメージを湧かない」
このような法人企業様を対象とした、Azure OpenAI Serviceワークショップを行っております。
最新のAI技術であるChatGPTの得意分野と課題について学び、実際にChatGPTを操作しながら、質問の方法や回答の違いを直接体験できるカリキュラムを用意しており、
実際のビジネスシーンや日常業務での活用シーンを交えてご紹介しております。
Azure OpenAI Service事例
大和証券様
「大和証券AIオペレーター」
大和証券AIオペレーターは、ログイン手続きやNISA関連等の一般的な内容に関する電話お問い合わせに応対するサービスで、広範に応対可能なAIオペレータ―サービスをお客様に提供するのは国内大手金機関初の試みとなります。
当社は、プライムベンダーとして生成AIに関する高い技術力と数多くの知見を駆使して、ユーザー体験を最大化するためのAIコアエージェントとアプリケーションを開発しました。AIコアエージェントは、タスクを高速かつ効率的に処理し、リアルタイムで正確なマーケット情報の提供と、迅速で信頼性の高い事務手続きに関する問い合わせ対応を実現しています。
西日本旅客鉄道株式会社(JR西日本)様
「Copilot for 駅員」
ヘッドウォータースは、LLM（大規模言語モデル）・RAG（Retrieval Augmented Generation）システムに関する技術力を生かし、駅員向け生成AIアシスタント「Copilot for 駅員」の開発支援を行っております。
駅員がお客様対応の際、多くの営業規則や商品から必要な情報を探すのに時間が掛かる課題を解決するため、AIアシスタントを用いた即時的な情報取得により、お客様1人あたりの対応時間削減を目指しています。
また、生成AI基盤「SyncLect Generative AI」上でAzure OpenAI ServiceやMicrosoft Fabricを連携させる開発支援を行っています。
伊藤忠商事株式会社様
生成AI及び Fabric等のデータプラットフォーム活用支援
「生成AIを活用したビジネスの創造」プロジェクトが開始されるにあたって、ヘッドウォータースの生成AI活用に関する技術力や実績（※３）が評価されプロジェクトパートナーに選定され、ヘッドウォータースは、Azure OpenAI ServiceやMicrosoft Fabric（※４）等のデータ基盤プラットフォームの活用に向けたMVP（Minimum Viable Product：成果をより早く簡単に得られるようにする仕組み）の構築を支援しました。
ヤマハ発動機株式会社様
音声対話×歌生成AI搭載型ロボット
ジャパンモビリティショー2023に展示するAIロボット「Charlie（チャーリー）」において、rinna株式会社と共同で、歌生成AI・音声認識AI・知識検索AI・応答生成AI（Chat GPT）を組み合わせたデモアプリケーションの開発支援を行いました。
AIロボット「Charlie」がユーザ（来場者）からの質問（音声入力）に対して関連する知識を検索し、Chat GPTで応答文を生成、それを歌生成AIが歌声に変えて回答いたします。
株式会社マネジメントソリューションズ様
Azure OpenAI Serviceの機能追加統合支援
お客様社内に蓄積するプロジェクトマネジメントに関するナレッジをAzure OpenAI Serviceに組み込むべく、プロンプトエンジニアリング手法検証を行っております。
回答してほしくない内容のフィルタリング、ハルシネ―ション（ChatGPTが嘘をつく事）の防止、プロンプトインジェクション対策（ハッキング対策）、キャラクター設定、データの取り込み方や、コスト減のためのトークンを抑えたデータ連携などを行い、お客様のナレッジを学習させ、サービスリリースに耐えられるようなAzure OpenAI Service統合支援を行いました。
