ストックマークのStockmark LLM(一から学習させた日本語の大規模言語モデル) Stockmark LLM (Stockmark-2-100B-Instruct)
Stockmark LLMは、ストックマークが既存モデルを使わずに一から学習させた日本語の大規模言語モデル(LLM)のシリーズだ。最新のStockmark-2-100B-Instructは960億パラメーターで、約2兆トークンを学んだ。2025年7月にMITライセンスで無償公開した。9月25日からはエヌビディアのAIモデル実行用ソフトウエア「NIM」でも提供している。経済産業省と新エネルギー・産業技術総合開発機構(NEDO)の事業「GENIAC」の支援で作った。
詳細解説
- シリーズ
- 14億パラメーター(2023年8月)、stockmark-13b(2023年10月)、stockmark-100b(2024年5月)、Stockmark-2-100B-Instruct-beta(2025年3月)、Stockmark-2-100B-Instruct(2025年7月) stockmark.co.jp
- GENIACとの関係
- stockmark-100bはGENIAC(経済産業省とNEDOの生成AI開発支援事業)第1期、Stockmark 2は第2期の支援で作った stockmark-tech.hatenablog.c…
- 公開の形
- ハギングフェイスでMITライセンスで公開し、商用でも使える huggingface.co
- NIMでの提供
- 2025年9月25日、Stockmark-2-100B-Instructが、AIモデルを手軽に動かすためのエヌビディアのソフトウエア「NVIDIA NIM マイクロサービス」で提供され始めた stockmark.co.jp
- 共同開発
- 2024年7月、パナソニックホールディングスとの協業を発表した。stockmark-100bにパナソニックグループの社内情報を追加で学ばせ、Panasonic-LLM-100bを開発する stockmark.co.jp
- 共同開発の進み具合
- 経済産業省のGENIAC通信(2025年6月6日)で、パナソニックHDは2024年3月に開発を始め、事業所や工場で試行導入していると説明した。対応は文字の入力だけだ meti.go.jp
- 製品での利用
- ストックマークは、LLM開発の技術をAconnectに生かしていると説明する。どの製品がどのモデルで回答を作るかは公表されていない stockmark.co.jp
🏭 製造工場
この製品を作る工場と、それぞれの役割。会社の発表・有価証券報告書・官公庁の資料で確かめた拠点だけを載せた。
| 工場 | 所在地 | 役割 | 備考 | 出所 |
|---|---|---|---|---|
| GENIAC第1期の学習(stockmark-100b) | 所在地は公表されていない | エヌビディアの画像処理半導体(GPU)H100を8個積んだ「a3」インスタンス48台で、約7週間学習させた。グーグル・クラウドは自社の事例紹介で、第1期の参加企業にGPUを提供したと紹介している | huggingface.co | |
| GENIAC第2期の学習(Stockmark 2) | 所在地は公表されていない | アマゾン・ウェブ・サービス(AWS)の学習用サービスAmazon SageMaker HyperPodで、H100を使って学習した | stockmark-tech.hatenablog.c… | |
| stockmark-13bの学習 | 所在地は公表されていない | AWSの学習用半導体Trainiumで学習した。AWSのLLM開発支援プログラムの対象になった | huggingface.co |
⚙️ 技術・仕組み
どう動くか。方式・構造・制御・材料を、会社の技術資料と特許・論文で確かめた範囲で書いた。
- 一からの事前学習
- 既存モデルの重みを使わずに学習させる。Stockmark 2は英語60%・日本語30%・コード10%の約2兆トークンで事前学習した huggingface.co
- 学習の監視
- 本番と同じデータで150億パラメーターのモデルを先に学習させ、1,000億パラメーター級のモデルが各時点でその性能を上回るかを確かめながら進めた stockmark-tech.hatenablog.c…
- 追加学習
- 教師あり学習(SFT)を数学・コードと一般の課題の2段階で行い、その後に人の好みに合わせる学習(DPO)をした。合成データはアリババのQwen2.5-32B-Instructで作った stockmark-tech.hatenablog.c…
- 好みのデータの作り方
- 学習中のモデル自身に複数の答えを出させ、Qwen2.5-32B-Instructで点を付けて最良と最悪の答えを組にした。DPOで日本語MT-Benchが0.3〜0.4ポイント上がった stockmark-tech.hatenablog.c…
- 日本語のデータ
- stockmark-100bの日本語データは、自社収集のビジネス関連ウェブ文書88億トークン、特許375億トークン、ウィキペディア15億トークンだ。ウェブの公開データ集のmC4が526億トークン、CommonCrawlが2,037億トークンだ huggingface.co
- 学習のソフトウエア
- 事前学習にエヌビディアのライブラリーMegatron-LM、追加学習にハギングフェイスのTRLを使った huggingface.co
主要諸元
| 項目 | 値 | 出所 |
|---|---|---|
| パラメーター数 | 960億(Stockmark-2-100B-Instruct) | huggingface.co |
| 層の数とアテンション | 86層。クエリのヘッド72、キーとバリューのヘッド8のGQA(グループ化クエリアテンション) | huggingface.co |
| コンテキスト長(一度に扱える文章の長さ) | 3万2,000トークン(前の版から伸ばした) | huggingface.co |
| 対応言語 | 日本語と英語 | huggingface.co |
| 日本語MT-Bench(対話の性能を測る評価)の平均 | 7.87(ベータ版は7.71)。いずれもストックマークの評価 | huggingface.co |
| ビジネスの知識の問題(Stockmark Business Questions) | ベータ版の正解率90%、オープンAIのGPT-4oは88%(ストックマークの評価) | stockmark-tech.hatenablog.c… |
| stockmark-100bの規模 | 1,000億パラメーター、約9,100億トークンで学習(2024年5月公開) | huggingface.co |
| stockmark-100b-instructの推論速度 | 日本語100字の生成に1.86秒(AWSのInferentia2で測定)。gpt-3.5-turboは2.15秒、gpt-4-turboは5.48秒で、同じ機械での測定ではない。ストックマークの評価 | huggingface.co |
| 軽量版 | ベータ版を4ビットに量子化した版(AWQ)を2025年4月に公開した | huggingface.co |
🔩 各部品と部品メーカー
部品は諸元表と発表で存在を確かめたものを並べ、メーカーは会社か部品メーカーの発表、有価証券報告書、分解調査の報道で供給元を確かめられたときだけ社名を書いた。確かめられない部品は「公表されていない」。載っていない会社は「関与していない」ではなく「公表資料で確かめられていない」。確度 A は会社の一次資料、B は報道。
| 部品 | 品名・型式 | メーカー | 銘柄 | 国・製造拠点 | 根拠 |
|---|---|---|---|---|---|
| 計算資源(第1期) | H100を8個積んだa3インスタンス48台 グーグルの事例紹介はベンダー側の記述。エヌビディアは米国ナスダック上場 |
エヌビディア 画像処理半導体、GPU)、グーグル・クラウド(クラウド |
— | 米国 公表されていない |
stockmark-100bのモデル公開ページと、グーグル・クラウドの導入事例 A |
| 計算資源(第2期) | Amazon SageMaker HyperPodのH100 親会社のアマゾン・ドット・コムは米国ナスダック上場 |
エヌビディア GPU)、アマゾン・ウェブ・サービス(クラウド |
— | 米国 公表されていない |
ストックマークの技術ブログ A |
| 学習のソフトウエア | Megatron-LM オープンソース |
エヌビディア | — | 米国 | モデル公開ページの「学習に使ったライブラリー」 A |
| 合成データの生成 | Qwen2.5-32B-Instruct Apache 2.0で公開されたモデル。アリババはニューヨークと香港に上場 |
アリババ | — | 中国 | ベータ版のモデル公開ページと技術ブログ A |
🔗 部品製造サプライチェーン
材料から部品・組み立て・販売までを、上流から下流の順に並べた。
- 1計算資源の補助GENIACで、NEDOが「ポスト5G情報通信システム基盤強化研究開発事業」で計算資源の利用料を補助する企業: 経済産業省・NEDO
- 2学習の計算資源第1期はa3インスタンス(グーグル・クラウドがGPUを提供)、第2期はAWSのAmazon SageMaker HyperPodを使った企業: グーグル、アマゾン・ウェブ・サービス
- 3研究の助言産業技術総合研究所と共同研究をしており、第2期のプロジェクトで助言を受けた企業: 産業技術総合研究所
- 4提供ハギングフェイスでの無償公開、エヌビディアのNIMでの提供、AWS Marketplaceでのstockmark-13bの提供企業: ハギングフェイス、エヌビディア、アマゾン・ウェブ・サービス
🏗️ 製造ライン
工場の中でこの製品がどう作られるか。工程の順に、ラインの構成・設備・自動化・検査・生産能力を、会社の発表と工場見学の記録で確かめた範囲で書いた。
- 1製造ラインはないモデルは事前学習、教師あり学習、好みに合わせる学習、評価、公開の順に作る。物の製造の工程はない
💴 販売価格と補助金
| 型番・グレード | 税込価格 (円) | 時点 | 出所 |
|---|---|---|---|
| 公開モデル(ハギングフェイス) | 無料(MITライセンス) | 2026-11-13 | huggingface.co |
| NVIDIA NIMでの利用 | ストックマークは料金を公表していない。ストックマークは、NIMがエヌビディアのソフトウエア群「NVIDIA AI Enterprise」の一部だと説明する | 2025-09-25 | stockmark.co.jp |
| AWS Marketplaceのstockmark-13b | 公表されていない | 2026-01-27 | stockmark.co.jp |
| 企業向けの追加学習(パナソニックHDのような共同開発) | 公表していない。案件ごとに決める | 2026-11-13 | stockmark.co.jp |
| 項目 | 額 (円) | 備考 | 出所 |
|---|---|---|---|
| GENIACの計算資源の補助 | 第1期(開発期間2024年2〜8月)と第2期(開発期間2024年10月〜2025年4月)に採択された。補助の金額は公表されていない | NEDOのポスト5G情報通信システム基盤強化研究開発事業(JPNP20017)。期間は経済産業省の発表 | meti.go.jp |
🛒 購入方法
| 経路 | 内容 | 出所 |
|---|---|---|
| ハギングフェイス | モデルの重みをダウンロードし、利用者のコンピューターで動かす。vLLMで4個のGPUに分けて動かす例を示す | huggingface.co |
| NVIDIA NIM | エヌビディアのbuild.nvidia.comに掲載され、国内外のデータセンターやオンプレミスで動かせるとストックマークは説明する | stockmark.co.jp |
| AWS Marketplace | ストックマークはstockmark-13bをAWS Marketplaceで提供している(2026年1月27日の発表時点) | stockmark.co.jp |
| 直販(個別開発) | 企業専用のモデルの開発はストックマークに問い合わせて契約する | stockmark.co.jp |
🛠️ アフターサービス・保守サービス
| 項目 | 内容 | 出所 |
|---|---|---|
| 公開モデル | MITライセンスの公開モデルに、保証や保守の契約は付かない | huggingface.co |
| NIMでの運用 | NIMでは、エヌビディアが環境の構築と最適化を済ませたコンテナ(ソフトウエアの実行単位)で動かすとストックマークは説明する。保守の条件はエヌビディアとの契約による | stockmark.co.jp |
🌏 海外輸出
| 仕向け地 | 内容 | 出所 |
|---|---|---|
| 国・地域を限らない | ハギングフェイスでの公開とNIMでの提供は、国・地域を限っていない。輸出規制の対象かどうかは公表されていない | huggingface.co |
📈 販売の実績
| 期間 | 指標 | 値 | 単位 | 備考 | 出所 |
|---|---|---|---|---|---|
| 2026年11月13日時点 | ハギングフェイスでの公開モデル数(ストックマーク全体) | 14 | 本 | 文書を読む視覚言語モデル(VLM)と、量子化した軽量版を含む | huggingface.co |
💰 金額
| 項目 | 値 | 備考 | 出所 |
|---|---|---|---|
| Stockmark 2の事前学習のデータ | 約2兆トークン(ベータ版は1.5兆トークンの時点のモデル) | stockmark-tech.hatenablog.c… | |
| stockmark-100bの学習期間 | 約7週間 | huggingface.co | |
| GENIACの補助額 | 公表されていない | stockmark-tech.hatenablog.c… |
解析 — 部品・製造・販売の特徴
ストックマークは1,000億パラメーター級の日本語LLMを一から2回学習させた。1回目は約9,100億トークン、2回目のStockmark 2は約2兆トークンで学習した。ストックマークは学習の条件を、モデル公開ページと技術ブログで公開している。
性能の比較は自社の評価だ。ストックマークは、国内で一から作った公開モデルを上回ったと技術ブログに書く。一方で、オープンAIなどの非公開のモデルや、アリババのQwen、中国のディープシークのモデルとはまだ差があると認めている。
提供の面では、無償の公開に加え、Stockmark-2-100B-Instructが2025年9月からエヌビディアのNIMに載った。NIMは国内外のデータセンターや自社の設備で動かせる。
2026年に出した文書読解のモデルは、他社の公開モデルを土台にした。ストックマークは、製品は自社のLLM開発の技術に支えられると説明するが、1,000億パラメーター級のモデルを製品に載せたかは公表していない。
公表されていないこと
- Stockmark-2-100B-Instruct(正式版)の日本語MT-Benchの採点に使ったモデル
- GENIAC第1期と第2期の補助の金額
- NIMでの利用の件数と、ストックマークに入る収入の有無
- Panasonic-LLM-100bの本格導入の時期
出所
- Stockmark-2-100B-Instruct モデル公開ページ (2025-07-08)
- Stockmark-2-100B-Instruct-beta モデル公開ページ (2025-03-05)
- Stockmark-2-100B-Instruct-beta-AWQ モデル公開ページ (2025-04-03)
- stockmark-100b モデル公開ページ (2024-05-13)
- stockmark-13b モデル公開ページ (2023-10-21)
- Stockmark 2の開発と公開(技術ブログ) (2025-03-06)
- Stockmark-2をNVIDIA NIMで提供開始 (2025-09-25)
- AWSと戦略的協業契約(AWS Marketplaceの記述) (2026-01-27)
- パナソニックHDとPanasonic-LLM-100bを開発 (2024-07-02)
- GENIAC通信 Use Case vol.1 パナソニックHD×ストックマーク (2025-06-06)
- 経済産業省 GENIAC第4期の採択(過去の期の開発期間) (2026-06-04)
- グーグル・クラウド 経産省・NEDOの導入事例 (2026-11-13)
- ストックマーク ハギングフェイスの一覧 (2026-11-13)
- Stockmark LLM(研究開発のページ) (2026-11-13)
- ストックマーク 沿革 (2026-11-13)
- AnewsをAconnectへ改称 (2025-07-01)
出所との照合日: 2026年11月13日。数字は出所の書類のまま。株価・時価総額は扱わない。
ストックマーク のほかの製品
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)