交差エントロピー誤差(クロスエントロピー)— 定義・情報理論・勾配・実装を完全解説 2026年6月26日 分類 ニューラルネットワークで「この画像は猫か犬か鳥か」を分類するとき、モデルの良し悪... KLダイバージェンスクロスエントロピーソフトマックス交差エントロピー損失関数深層学習
交差エントロピー損失の数学的導出とNLPへの応用 2026年6月21日 NLP 交差エントロピー(Cross-Entropy)は、自然言語処理における最も基本的... 交差エントロピー分類損失関数深層学習自然言語処理言語モデル
Focal Lossとは?クラス不均衡に強い損失関数を導出から実装まで完全解説 2026年6月21日 分類 「99%が背景、1%が検出したい物体」——物体検出ではこんな極端なクラス不均衡が... Focal LossRetinaNetクラス不均衡損失関数深層学習物体検出
DPO(Direct Preference Optimization)— 報酬モデルなしでLLMをアライメントする 2026年6月7日 Transformer ChatGPTが「有害な回答を避ける」「ユーザーの意図に沿った回答を生成する」こ... DPOLLMRLHFアライメント強化学習損失関数