タグ: #text-generation
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 2 件
テキスト生成オープンモデルをサイズ別に選ぶ
オープンなテキスト生成モデルを選ぶとき、サイズは性能の等級ではなく配置の制約です。この記事はオンデバイス向けの小型、GPU1枚に載せる中型、サーバが必要な大型に分け、各区分で実際に確認したモデルのパラメータ、コンテキスト、ライセンスを整理し、MoEのメモリ計算がなぜ違うのか、コンテキスト拡張がなぜ無料ではないのか、カードが要求する実行条件を無視すると何が壊れるのかを説明します。オープンモデルガイドシリーズ第2回です。
2026-08-12 · 11 分で読めます #ai#llm#huggingface#open-source-llm#text-generationDiffusion LMの台頭 — 自己回帰の代替になり得るか
2026年6月、GoogleがDiffusionGemmaを公開し、テキスト拡散モデルがGeekNewsとHacker Newsを賑わせています。自己回帰生成の構造的限界、マスキングに基づくデノイジングの原理、ブロック単位の並列生成、4倍速いという主張の実態と品質トレードオフまで批判的に分析します。
2026-06-12 · 30 分で読めます #llm#diffusion#text-generation#gemma#inference