CNN

CNNはなぜ並列計算できて、なぜ長距離依存が苦手なのか

2026年7月1日 CNN

同じ深層学習モデルでも、RNN（再帰型ニューラルネットワーク）は「学習が遅い」と...

CNN RNN Transformer 並列計算受容野畳み込み長距離依存

InfoNCE損失とは — NCEからの系譜と相互情報量の下界を導出で理解する

2026年6月27日 CNN

SimCLRもCLIPもMoCoも、自己教師あり学習の主要手法はみな同じひとつの...

InfoNCE NCE 対照学習相互情報量自己教師あり学習表現学習

埋め込みのアライメントとは — Alignment と Uniformity で対照学習の良さを測る

2026年6月27日 CNN

「良い埋め込み」とは何でしょうか。対照学習で得たベクトルが「良い」とき、私たちは...

Alignment Uniformity 埋め込み対照学習自己教師あり学習表現学習

過学習の対策まとめ — Dropout・正則化・Early Stopping・Data Augmentation

2026年6月21日 CNN

深層学習モデルは数百万〜数十億のパラメータを持ち、訓練データに対してはほぼ完璧な...

Data Augmentation Dropout Early Stopping 機械学習正則化深層学習過学習

モダン活性化関数の完全ガイド — SiLU・GELU・Mishを数式から理解する

2026年6月21日 CNN

GPTやBERTのようなTransformerの中身を覗くと、ReLUではなくG...

GELU Mish SiLU 機械学習活性化関数深層学習

対照学習(Contrastive Learning)の理論と実装

2026年6月13日 CNN

はじめに — なぜ対照学習が重要なのか深層学習の成功は、大量のラベル付きデータ...

Contrastive Learning SimCLR 対照学習自己教師あり学習表現学習

転移学習の理論と実践 — 事前学習モデルの活用戦略

2026年6月10日 CNN

深層学習で高い性能を得るには大量のデータが必要ですが、医療画像や衛星画像などの専...

ファインチューニング事前学習機械学習深層学習特徴抽出転移学習

BatchNorm vs LayerNormの理論と使い分け

2026年6月7日 CNN

深層ネットワークの学習で、ある層のパラメータが更新されると、次の層への入力の分布...

BatchNorm LayerNorm 内部共変量シフト機械学習正規化深層学習

Early Stoppingの理論 — L2正則化との等価性を導出する

2026年6月7日 CNN

早期終了（Early Stopping）は、検証誤差の推移を監視し、過学習が始ま...

早期終了機械学習正則化深層学習過学習

データ拡張の手法一覧 — 画像・テキスト・時系列への適用

2026年6月7日 CNN

データ拡張（Data Augmentation）は、既存の訓練データに変換を加え...

データ拡張機械学習深層学習画像処理自然言語処理

[data-arkb-linkbox]{cursor:auto}[data-arkb-link][aria-hidden="true"]{visibility:visible;color:transparent;z-index:0;width:100%;height:100%;pointer-events:auto}a.arkb-boxLink__title{text-decoration:underline}