Transformerアーキテクチャの全体像をわかりやすく解説
Transformerは、2017年にGoogleの研究チームがNeurIPS論...
拡散モデル（DDPM）の理論をわかりやすく解説
拡散モデル（Diffusion Model）は、近年の画像生成 AI の中核をな...
GAN（敵対的生成ネットワーク）の理論をわかりやすく解説
GAN（Generative Adversarial Networks、敵対的生...
言語モデルとパープレキシティを理解する
言語モデル（Language Model）は、テキストの確率分布をモデル化する機...
交差エントロピー損失の数学的導出とNLPへの応用
交差エントロピー（Cross-Entropy）は、自然言語処理における最も基本的...
In-Context Learningを理解する — LLMはなぜ文脈から学べるのか
In-Context Learning（ICL）は、大規模言語モデル（LLM）が...
【実践】LoRA/PEFTで効率的にLLMをファインチューニングする
LoRA（Low-Rank Adaptation）は、大規模言語モデルを効率的に...
埋め込みベクトルと類似度検索の理論とPython実装
埋め込みベクトル（Embedding）は、テキストや画像などのデータを高次元のベ...
KVキャッシュの仕組み — LLM推論を高速化する基本技術
KVキャッシュ（Key-Value Cache）は、大規模言語モデル（LLM）の...
【大規模モデル】Tensor/Pipeline並列化の理論と実装
大規模言語モデル（LLM）は数十億から数千億のパラメータを持ち、単一のGPUメモ...