言語モデル
Language Models
言語モデルの記事。モデルの学習方法の変化、研究の潮流、AIを支える6つの層の構造を、論文と各社の技術資料から読み解く。学習データの変化と推論コストの関係も、公開された数字で検算する。
📰 関連ニュース
AIは「書かれたコード」ではなく「直し方」を学び始めた ― Grok 4.5と作業軌跡という新しい燃料
SpaceXAIとCursorの共同モデルが映す、計算からデータまでの垂直統合と、コードを書く力がそのまま攻撃を書く力になるという難題
AIの研究アイデアは、なぜどれも「つないで統合する」型になるのか
シカゴ大・エール大が9つの言語モデルを1万1683本で検証 ― 推論を効かせるほど偏りは鋭くなり、モデル同士は互いに似てくる
AIは六つの層でできている — 検索アプリから半導体まで、積み木を一段ずつ開ける
私たちが打った一文が答えに変わるまで、AIは六つの層を上から下へ通り抜ける。各層の役割と、それを支えるたった一つの仕組みを、上から順に開けていく。
AIの基盤を体系解説、Transformerと運用エコシステムの全体像
2017年に確立した自己注意の数理から、分散学習・推論最適化・モデル評価とブロックチェーン融合まで
Anthropic、元OpenAIカルパシー氏獲得 AI自己進化で開発競争激化
OpenAI対抗軸、2026年IPOを控え頭脳獲得競争が新局面へ
AI学習コスト6割減の新手法「TST」、Nous Researchが発表
トークン重ね合わせで計算効率2.5倍、大規模モデル開発のコスト構造を覆す可能性
DeepSeekの「奇妙な応答」、原因はLLMの構造的特性と判明
特殊トークンが誘発する予期せぬ出力はデータ漏洩ではなく、AIの確率的生成モデルの仕組みを可視化する現象だ。
統合API「WorldRouter」登場、LLM利用料の価格破壊に繋がるか
複数LLMを単一APIで提供、高騰する「AI通行料」問題に一石を投じるも透明性に課題
中国AI大手2社、評価額が急騰
Moonshot AIとDeepSeek、国家系ファンドや大手企業から巨額資金調達
AIコスト増「中国語税」Claudeで最大2.7倍に
なぜ中国語は英語より高コストなのか？LLMの言語格差とトークナイザーの仕組みを解説
GPT-5、「ゴブリン」比喩が175%増。AI制御の限界が課題に
人格設定プロンプトの意図せぬ副作用が、AIの出力品質を損なうリスクを浮き彫りにした。
NVIDIA、中国DeepSeekのAIモデル2種に対応 最新基盤Blackwellで
1.6兆パラメータのモデルなどをサポート。開発者はNIMマイクロサービス経由で利用可能に。
Meta、143億ドル投じ新型AI『Muse Spark』発表 計算効率10倍、不正問題から再起図る
過去の不正から再起を図り、計算効率を新たな競争軸に拠えるMetaのAI戦略転換。
AlibabaのAI責任者、林俊ヤン氏が退職 LLM「Qwen（通義千問）」開発を主導
32歳の最年少幹部が突然の退職。中国AI業界における人材獲得競争の激化を浮き彫りにした。
Google、次世代AI「Gemini 3.1 Pro」プレビュー版を発表
複雑なタスク処理能力を大幅向上、科学研究や3D分野での応用目指す
Google「Gemini 1.5 Pro」公開、AI市場の価格破壊を加速
100万トークン処理と性能向上を両立、AIのコモディティ化が新たな局面へ
Google、新AIモデル「Gemini 3.1 Pro」発表 高性能ベンチマークで競合超え
開発者向けにAI StudioとVertex AIで提供開始。従来モデル比で性能が2倍以上に向上。
Anthropic、新AI「Sonnet 4.6」発表 中価格帯で上位モデルに迫る性能
価格拠え置きで性能向上。金融分析など特定タスクで最上位モデルを凌駕し、企業のAI導入コスト削減に貢献する。
ByteDance、新AI「豆包2.0」発表 数学性能でGPT-4o超え
Pro版は数学・推論能力で世界トップ級を達成し、競合の100分の1以下の低コストを両立する。
中国AI、業務自動化で新局面 LLM応用競争と「データ品質」の壁
Alibaba、バイドゥらが企業向けAIで鎬を削る一方、高品質データ不足が構造的課題として浮上
Meta、次期LLM「Llama 4」でスコア操作か ルカン氏が内部問題を指摘
CEOの圧力でベンチマーク結果を調整か。特別版モデルで高スコアを狙ったとの疑惑が浮上。
DeepSeek新技術「HC」の全貌、ResNet超えでAI学習コスト2割減か
NVIDIA製GPUでのメモリ消費21%減、LLM開発でMeta・Googleに迫る新興勢力が描く次世代アーキテクチャの実態
LLMに精神疾患の兆候、新研究が指摘 GPT-4o、Geminiで検証
AIの「精神状態」を評価する初の試み。GoogleのGeminiに重度の不安や強迫観念の兆候が示される。
Google、高速・低コストな新AI「Gemini 1.5 Flash」を発表
上位モデル「1.5 Pro」に匹敵する性能を、低コストかつ高速で実現し、AI開発の常識を覆す
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)