HOME/ビジネス/AIソリューション/オープンウェイトモデル
OPEN-WEIGHT MODEL / 自社で管理するAI

オープンウェイトモデル(LLM)
自社で管理でき業務に合わせて仕上げられるAI活用支援

オープンウェイトモデルは、AIの中身にあたる「重み」が公開され、自社のサーバーや端末で動かして調整できるAIモデルです。
当社はモデルの選定から、業務に合わせた調整、端末や社内環境への組み込み、評価と運用まで、使い続けられる状態をつくります。

01/概要

オープンウェイトモデルとは:重みが公開され、自社の環境で動かして調整できるAIモデル

オープンウェイトモデルとは、AIの頭脳にあたる「重み」(学習で得られた数値のかたまり)が公開され、ライセンスの範囲で自社のサーバーやPCにダウンロードして動かせるAIモデルです。言語を扱う大規模言語モデル(LLM)のほか、小型のSLMや画像を扱うモデルも含みます。外部のAIサービスに質問を送って答えを受け取る方式と違い、モデルそのものを自社の管理下に置いて使えます。

「オープンソース」と同じ意味ではありません。国際団体のOSIが定めるオープンソースAIの定義では、重みに加えて、学習データの情報と学習・⁠実行用のコードも公開することが求められます。多くのオープンウェイトモデルは、重みだけを公開しています。そのため、使う前に利用条件(ライセンス)を確認することが欠かせません。

小さなモデルを指すSLM(小規模言語モデル)とも、別の軸の言葉です。「小さいこと」と「重みが公開されていること」は独立した性質で、PhiやLlamaのように、その両方を満たすモデルもあります。

次の図は、AIモデルを使う3つの方法を、何が手元に届くかで比べたものです。真ん中が、この記事で扱うオープンウェイトです。

AIモデルを使う3つの方法
APIで使う
自社のアプリ↓ インターネット経由提供会社が管理するAI
重みは非公開。手軽に使えるが、調整や置き場所の自由度は小さい
オープンウェイトで使う
自社のアプリ↓ 自社の管理下手元に置いた重みのモデル
重みを手元に置いて動かす。調整・⁠配置・⁠更新の時期を自社で決められる
オープンソースAIとして使う
自社のアプリ↓ 全体を入手重み+学習データの情報+コード
OSIの定義を満たす、最も開かれた形。該当するモデルは限られる
参考:OSI「Open Source AI Definition 1.0」(2024年10月)。多くのオープンウェイトモデルは、この定義が求める学習データの情報やコードまでは公開していません。

オープンウェイトモデルを使うメリット

メリット
内容
業務での使い道
データを自社の管理下に置ける
入力した文書や回答を、社外のAIサービスに送らずに処理する構成が取れます
契約書、設計情報、顧客情報を含む業務
業務に合わせて調整できる
追加学習(ファインチューニング)で、専門用語や言い回し、出力の型を覚えさせられます
社内用語の多い問い合わせ対応、定型の報告書づくり
動かす場所を選べる
端末、社内サーバー、自社のクラウドから選べます。通信のない現場でも動かせます
工場、機内、閉域ネットワーク
使う量が増えても費用が読みやすい
処理量に応じた従量課金ではなく、設備と運用の費用で見積もれます
毎日大量に繰り返す定型処理
更新の時期を自社で決められる
使うモデルのバージョンを固定し、評価してから入れ替えられます
品質確認が必要な業務、監査への説明
ただし、設備の償却、保守、評価、運用の人手まで含めた総費用で比べる必要があります。「想定ROI」で試算を示します。

02/注目される背景

公開されたモデルが広がり、AIを動かす場所を選べる時代に

会議室でノートPCと資料を見ながら話し合う社員
写真はイメージです

生成AIの業務利用が広がるなか、「どのデータをAIに入れてよいか」と「AIをどこで動かすか」を、企業が自分で決める場面が増えています。公開されたモデルを使う動きに対し、国内外の公的な文書や標準団体の定義が整ってきました。

米国商務省のNTIA(電気通信情報局)は、2024年7月の報告書で、重みが広く公開されたAIモデルについて、現時点で公開を制限する根拠は示されていないとしました。そのうえで、悪用などのリスクの監視を続けるべきだと結論づけています。

2024年10月には、OSIがオープンソースAIの定義1.0を公表し、どこまで公開されていれば「開かれたAI」と呼べるかの物差しが示されました。

日本でも、経済産業省と総務省のAI事業者ガイドラインが、AIを開発・⁠提供する事業者に加えて、利用する事業者の役割も整理しています。

使う側の企業には、公開モデルの利用条件の確認、データの置き場所の判断、品質の確かめ方が求められます。Microsoft 365 CopilotやCopilot Studioのようにすぐ使える手段と、重みを手元に置くオープンウェイトを、業務ごとに選び分けることが現実的な選択肢になっています。

出典:NTIA「Dual-Use Foundation Models with Widely Available Model Weights Report」(2024年7月30日)、OSI「Open Source AI Definition 1.0」(2024年10月28日)、経済産業省・⁠総務省「AI事業者ガイドライン」

03/仕組み

業務アプリ・⁠動かす基盤・⁠モデル・⁠動かす場所の4層構成

サーバーラックに接続されたネットワークケーブル
写真はイメージです

次の図は、オープンウェイトモデルを業務で使うときの全体像を4つの層で示したものです。層が分かれているため、モデルを入れ替えても業務アプリを作り直さずに済みます。

業務アプリ
社員が使う画面。社内への問い合わせ、文書の要約、報告書の下書きなどに使います。
社内チャット文書の要約報告書の下書き
動かす基盤
モデルを読み込み、質問を受けて回答を返す仕組み。複数のモデルを切り替えられます。
推論サーバーFoundry LocalAzure Machine Learning
オープンウェイトモデル
重みが公開されたモデル。追加学習や軽量化で、業務向けに仕上げます。
PhiLlamaQwenMistralgpt-oss
動かす場所
データの置き場所と通信の有無で選びます。端末と社内サーバーは、クラウドに出せないデータにも向きます。
PC・⁠タブレット社内サーバー自社のクラウド

モデルを業務向けに仕上げる4つの工程

次の図は、公開されたモデルを「そのまま動かす」のではなく、業務で使える品質に仕上げるまでの流れです。工程ごとに、確かめる観点が変わります。

選ぶ業務データで候補を比べ、利用条件も確認する
→
調整する追加学習(LoRAなど)で専門用語や出力の型を覚えさせる
→
軽くする量子化でモデルを小さくし、端末のメモリに収める
→
評価する精度・⁠速度・⁠安全性を測り、基準を満たすか確かめる

04/使いどころ

データを外に出せない業務と、通信が届かない現場

工場でタブレットを見ながら設備を確認する作業員
写真はイメージです

オープンウェイトモデルが力を発揮するのは、クラウドに送れないデータを扱う業務、通信が不安定な現場、同じ処理を毎日大量に繰り返す業務です。想定される使いどころを業界ごとに整理しました。

業界
使いどころ
ポイント
製造
設備の点検記録の下書き、作業手順の問い合わせ、画像を見ての状況説明
工場内の閉域ネットワークや端末の中で完結させる
航空・⁠運輸
機内など通信のない場所での報告書づくりや翻訳
軽量化して、タブレットで動く品質に仕上げる
自動車・⁠移動体
走行中の音声操作、車載端末での応答
通信が途切れても動くよう、端末の中で処理する
金融・⁠法務
契約書や社内規程の一次確認、問い合わせ回答の下書き
社外に出せない文書を自社の環境で扱う
自治体・⁠公共
閉域網の中での文書の要約や検索
持ち出しを制限したデータを、組織の中で処理する

05/当社の支援内容

適用診断から、調整、実装、社内への定着まで

当社は、モデルを動かして終わりにせず、業務で使える品質に仕上げ、使い続けられる状態にするまでを支援します。支援は4つの段階で組み立てます。現場に入って進める体制はX-Tech FDE、組織への定着はAI Agent CoEと組み合わせられます。

入口:適用診断
対象業務、データの種類、動かす場所、利用条件を確認し、オープンウェイトを使うべきか、クラウドのAIで足りるかを判断します。
業務の選定データ分類ライセンス確認
調整:選定と仕上げ
候補のモデルを業務データで比べ、追加学習と軽量化で、使える品質に仕上げます。
Phi・⁠LlamaLoRA/QLoRA量子化
実装:組み込み
端末、社内サーバー、クラウドへ組み込みます。通信のない環境で動くアプリの開発にも対応します。
オフライン対応エッジへの配信Azure
定着:評価と運用
評価の基準を決め、更新のたびに確かめます。手順書と研修で、技術を社内に残します。
評価設計運用手順書研修

06/当社の特長

モデルを動かすだけでなく、業務の端末で使える品質まで仕上げる

当社の強みは、公開されたモデルを動かすことよりも、業務の条件に合わせて調整し、端末や社内環境で使える形に仕上げるところにあります。

モデルを業務向けに調整するPhi・⁠Llamaなどを対象に、専門用語や業務の言い回しに合わせる調整を支援しています。詳しくはSLMアプリ開発をご覧ください。
小さな端末で動く品質に仕上げる量子化(モデルを軽くする処理)で、タブレットやエッジ機器に収めます。機種ごとの動作や品質の違いも確かめます。
クラウドから端末まで届けるAzureで調整したモデルを、IoT Edgeなどで端末へ配信する流れまで、共同検証で確かめています。
評価と運用の手順を残す評価の基準、配信と更新の手順、教材を整え、お客様の担当者が自分たちで続けられる状態にします。

07/取り組み事例

業務端末で動く生成AIの共同実証と、エッジ配信の検証

次の3件は、当社または共同で公開している取り組みです。実施内容は各発表の範囲で記載し、効果の数値は載せていません。いずれも、重みが公開されたモデルを、業務の端末や現場の環境に合わせて仕上げる点が共通しています。

JAL

日本航空:機内オフラインで動く報告書づくり

機内のオフライン環境を想定し、客室乗務員がタブレット上で引き継ぎレポートを作るプロトタイプを、富士通と共同で開発しました。富士通が過去のレポートでPhiを業務向けに調整し、当社がオフライン対応アプリの開発、量子化による端末での動作の最適化、業務の流れの分析、実証の実施と評価を担当しました。実証では、作成時間と修正の発生率を減らせることを確認しています。

発表を見る →

東京エレクトロン デバイス

東京エレクトロン デバイス:調整からエッジ配信までの共同検証

Microsoft Oliveによる量子化とLoRA/QLoRAでの調整、Azure VMでの学習、IoT Edgeによる端末への配信を組み合わせ、テキストと画像を扱うPhi系モデルで検証しました。異なるハードウェアでの動作も確かめています。

発表を見る →

パイオニア

パイオニア:車載端末で動くSLMエージェント

SLMを使ったAIエージェントを開発し、端末の中で処理して、走行中も音声で操作できる仕組みを検証しました。通信が不安定な移動中でも応答できることをねらっています。

SLMのページを見る →

08/顧客価値

課題から価値までのつながり

オープンウェイトモデルの価値は、モデルが無料で手に入ることよりも、データ・⁠調整・⁠配置・⁠更新を自社で決められることにあります。よくある課題から、得られる価値までを整理しました。

よくある課題
オープンウェイトでの対応
得られる価値
機密データを外部のAIに入れられず、生成AIを使えない業務が残る
自社の管理下でモデルを動かす
使える業務が広がり、AI活用から取り残される部署が減る
汎用のAIでは、専門用語や社内の言い回しが合わない
業務データで追加学習して仕上げる
手直しが減り、定型の文書づくりが速くなる
通信のない現場や端末でAIを使いたい
モデルを軽くして端末に組み込む
電波に左右されず、現場でその場で使える
利用が増えるほど、AIの費用が読めなくなる
設備と運用の費用で見積もれる構成にする
大量・⁠定型の処理で、費用を計画しやすくなる
モデルを入れ替えると品質が変わらないか不安
評価の基準を決め、更新の前に確かめる
品質を保ったまま、新しいモデルへ乗り換えられる

09/想定ROI

社外に出せない文書への問い合わせ対応を下書きする場合の試算

社外に出せない社内規程や契約書のひな形をもとに、現場からの問い合わせへ回答する業務を想定します。200人が月5件ずつ回答を作り、AIの下書きを担当者が確認・⁠修正する流れに変えた場合を比べます。

次の表は、時間と費用の前提を置いて計算した結果です。

項目
現在
オープンウェイト導入後
1件あたりの回答作成
30分
12分(AIの下書きを担当者が確認・⁠修正)
月の回答作成時間(200人×月5件)
500時間
200時間
月の削減時間
-
300時間
年間の効果額(時間単価4,000円)
-
1,440万円
年間の費用(初年度)
-
960万円(初期構築600万円+運用360万円)
初年度の収支とROI
-
480万円、ROI 50%(約7か月で回収)
2年目以降の収支とROI
-
1,080万円、ROI 300%(運用費のみ)
前提を置いた試算であり、実測値ではありません。件数、時間単価、費用はお客様の条件に置き換えて算出します。費用には、設備の償却、保守、評価、運用の人手を含めています。

10/導入ステップ

適用診断から社内展開までの5つのステップ

導入の流れ
1
STEP 1 業務・⁠データ・⁠利用条件の棚卸し対象業務、扱うデータの種類、動かす場所、モデルの利用条件を確認します。
業務の選定データ分類ライセンス確認
2
STEP 2 モデルの選定と比較候補のモデルを、実際の業務データで比べます。クラウドのAIとの使い分けもここで判断します。
候補の比較精度と速度費用の見積もり
3
STEP 3 調整と軽量化追加学習で業務に合わせ、必要に応じて量子化で小さくします。
追加学習量子化指示への追従性
4
STEP 4 実装と評価アプリや環境へ組み込み、精度・⁠速度・⁠安全性を、決めた基準で評価します。
アプリ開発評価の基準安全対策
5
STEP 5 展開と運用手順書と研修を整え、モデルの更新のたびに評価できる体制にします。
運用手順書研修更新の確認

11/他の手段との違い

データの置き場所・⁠調整の自由度・⁠運用の手間で選び分ける

どの方法が優れているかではなく、業務ごとに、データの置き場所、調整の自由度、運用の手間の3つの軸で選びます。次の表は、AIを使う方法ごとの向き・⁠不向きです。

方法
動く場所
向いている使い方
注意点
クラウドのAIサービス(Microsoft 365 Copilot、Copilot Studio、Microsoft Foundryのモデルなど)
クラウド
すぐ使い始めたい業務、大きなモデルが必要な分析や文章作成
データをクラウドに渡す前提。調整の自由度は製品ごとに異なる
オープンウェイトを社内サーバー・⁠自社クラウドで動かす
社内サーバー、自社のクラウド
機密文書、大量の定型処理、業務向けの調整
設備と運用の体制が必要。評価と更新を自社で行う
オープンウェイトを端末の中で動かす
PC・⁠タブレット・⁠エッジ機器
通信のない現場、速い応答、端末だけで完結する処理
端末の性能に収める必要があり、小さなモデルが中心
追加学習した専用モデルを持つ
上記のいずれか
専門用語や出力の形式が決まっている業務
学習データの用意と、更新のたびの再評価が必要
モデルごとにライセンスが異なります。商用利用、再配布、用途の制限などを、導入前に確認します。

12/ガバナンス・⁠運用

自社で管理するAIを、安全に使い続けるための決めごと

鍵のかかった盾を表すセキュリティのイメージ
写真はイメージです

モデルを自社で持つと、データの持ち出しは減る一方、利用条件の確認や更新の判断も自社の責任になります。導入時に、次の決めごとを整えます。

項目
決めること
使う仕組みの例
利用条件の確認
商用利用、再配布、用途の制限を確認し、記録に残す
モデルの台帳、法務・⁠知財部門の確認
モデルの出所と検証
入手元を限り、導入前に動作と安全性を確かめる
社内のレジストリ(Azure Container Registryなど)
評価と安全対策
精度、速度、不適切な出力を測る基準と、出力を制限する仕組みを決める
Azure Machine Learning、Microsoft Foundryの評価機能
バージョンの管理
使うモデルを固定し、入れ替えは評価のあとに行う
モデルの版管理、IoT Edgeなどでの配信
アクセスと鍵の管理
モデルや入出力の記録に触れる人を決め、鍵を守る
Microsoft Entra ID、Azure Key Vault

13/当社について

Microsoft AI Innovation Partner of the Year 2024 受賞

Microsoft AI Innovation Partner of the Year 2024 受賞

Microsoftのパートナーとして、Azureを中心にAIの設計・⁠⁠実装・⁠⁠運用を支援しています。

お知らせを見る →

AzureのSpecialization認定

AzureのAI PlatformなどのSpecialization認定

AI基盤の構築と開発の生産性向上の分野で、Microsoftの専門性認定を取得しています。

お知らせを見る →

X-Tech FDEによる、現場起点のAI実装

X-Tech FDEによる、現場起点のAI実装

現場に入り込むエンジニアが、課題の発見から実装・⁠⁠定着までを伴走します。

X-Tech FDEを見る →

14/はじめ方

適用診断と、小さな試作から

まずは対象にしたい業務を1つ選び、扱うデータ、動かす場所、使いたいモデルの条件を確認します。そのうえで候補のモデルを業務データで比べ、小さな試作で品質を確かめます。クラウドのAIで足りるのか、オープンウェイトを使うべきかも、この段階で判断します。現場に入って進める場合はX-Tech FDEをご利用いただけます。

15/関連ソリューション

モデル、基盤、現場、運用をつなぐ関連サービス

オープンウェイトモデルの活用は、モデルの調整だけでは完結しません。小さなモデルの活用、動かす基盤、現場への入り込み、組織への定着、費用の管理を、関連するサービスで支えます。

SLMアプリ開発

SLM(小規模言語モデル)アプリ開発

小規模言語モデルを使った対話型AIアプリの開発と、業務に合わせた追加学習を支援します。

SLMアプリ開発を見る →

Microsoft Foundry

Microsoft Foundry開発

クラウドでAIエージェントを開発・⁠評価・⁠運用する基盤の構築を支援します。

Microsoft Foundry開発を見る →

エッジAI開発

エッジAI開発

AIを軽量化し、IoT機器の近くで低遅延に処理するエッジAIアプリを開発します。

エッジAI開発を見る →

X-Tech FDE

X-Tech FDE

現場に入り込むエンジニアが、課題の発見から実装・⁠定着までを伴走します。

X-Tech FDEを見る →

AI Agent CoE

AI Agent CoE

AIの活用を組織に広げるための体制づくりと、運用の仕組みを支援します。

AI Agent CoEを見る →

AI FinOps

AI FinOps

AIの利用量と費用を可視化し、使い方と予算を管理する仕組みを整えます。

AI FinOpsを見る →

16/よくあるご質問

Q.オープンウェイトモデルとは何ですか。
A.オープンウェイトモデルとは、AIの重みが公開され、ライセンスの範囲で自社のサーバーやPCにダウンロードして動かせるAIモデルです。大規模言語モデル(LLM)も、小型のSLMも含まれます。データを社外に出さずに使え、業務に合わせた追加学習もできます。
Q.オープンソースのAIとは違いますか。
A.違います。OSIの定義では、重みに加えて学習データの情報とコードの公開も求められます。多くのオープンウェイトモデルは重みだけを公開しており、利用条件もモデルごとに異なります。
Q.商用利用できますか。
A.モデルごとのライセンスによります。商用利用、再配布、用途の制限、事業の規模に応じた条件が定められている場合があります。当社は、利用条件の確認を適用診断に含めています。
Q.Microsoft 365 CopilotやクラウドのAIとは、どう使い分けますか。
A.すぐに使い始めたい業務や大きなモデルが必要な業務は、クラウドのAIが向きます。社外に出せないデータ、通信のない現場、大量の定型処理は、オープンウェイトが向きます。両方を組み合わせる構成も多くあります。
Q.SLMとは何が違いますか。
A.SLMはモデルの大きさに着目した呼び方で、オープンウェイトは重みが公開されているかに着目した呼び方です。PhiやLlamaのように、両方に当てはまるモデルもあります。
Q.費用はどのくらいかかりますか。
A.モデルの利用料がかからない場合が多い一方、設備、調整、評価、運用の費用が必要です。件数や使う場所によって変わるため、前提を伺って試算します。
Q.どこまで対応できますか。
A.端末・⁠エッジ・⁠社内環境で動かす規模のモデルを中心に、選定、追加学習、軽量化、アプリへの組み込み、評価に対応します。大規模モデルの分散学習や、多数のGPUでの高負荷な運用は、条件を伺ったうえで可否をお答えします。
Q.精度は業務に足りますか。
A.モデルと業務によって異なります。業務データで比較し、決めた基準で評価してから判断します。軽量化で下がる品質や、追加学習による改善も、この段階で確かめます。

オープンウェイトモデルの活用を、適用診断から相談する

次のようなときは、お気軽にご相談ください。

・⁠機密データを扱う業務で、生成AIを使えるようにしたい・⁠通信のない現場や端末で、AIを動かしたい・⁠オープンウェイトとクラウドのAIの、使い分けを決めたい・⁠モデルの利用条件や、評価の進め方を整理したい・⁠公開モデルを業務向けに調整し、社内に定着させたい
お問い合わせ