深層学習 | 機械学習と情報技術

双方向RNN（Bidirectional RNN）の理論と実装を解説

2026年2月25日 RNN

単方向のRNNは、系列を左から右へ順に処理するため、時刻 $t$ の隠れ状態 $...

BiLSTM BiRNN NLP 双方向RNN 深層学習系列ラベリング

拡散モデル（DDPM）の理論を導出して理解する

2026年2月25日生成モデル

拡散モデル（Diffusion Model）は、画像にノイズを段階的に加えていく...

DDPM デノイジングマルコフ連鎖拡散モデル深層学習生成モデル

Attention Is All You Need（Transformer原論文）を徹底解読

2026年2月25日 Transformer

2017年に Vaswani et al. が発表した論文「Attention ...

Encoder-Decoder Self-Attention Transformer マルチヘッド位置エンコーディング深層学習

深層学習による異常検知手法を体系的に解説

2026年2月25日異常検知

異常検知（Anomaly Detection）は、正常なパターンから逸脱したデー...

GAN オートエンコーダサーベイ深層学習異常検知自己教師あり

位置エンコーディング（Positional Encoding）の仕組みをわかりやすく解説

2026年2月19日 Transformer

位置エンコーディング（Positional Encoding）は、Transfo...

NLP Self-Attention Transformer 位置エンコーディング深層学習

Layer Normalizationの仕組みとBatch Normalizationとの違い

2026年2月19日 Transformer

深層学習において、正規化（Normalization）は学習の安定化と高速化に欠...

Batch Normalization Layer Normalization Transformer 正規化深層学習

TransformerのFeed-Forward Network（FFN）の役割と実装

2026年2月19日 Transformer

TransformerアーキテクチャにおいてSelf-Attentionと並んで...

Feed-Forward Network GELU Transformer ニューラルネットワーク深層学習

Transformer Decoderの構造とMasked Self-Attentionの仕組み

2026年2月19日 Transformer

Transformer Decoderは、系列を自己回帰的に生成するためのアーキ...

Cross-Attention Decoder Masked Attention Transformer 深層学習

Transformer Encoderの構造と実装を完全理解する

2026年2月19日 Transformer

Transformer Encoderは、入力系列を双方向に処理し、文脈を反映し...

Encoder NLP Self-Attention Transformer 深層学習

BERTの仕組みと双方向Transformerの理論と実装

2026年2月19日 Transformer

BERT（Bidirectional Encoder Representatio...

BERT Transformer マスク言語モデル事前学習深層学習自然言語処理

[data-arkb-linkbox]{cursor:auto}[data-arkb-link][aria-hidden="true"]{visibility:visible;color:transparent;z-index:0;width:100%;height:100%;pointer-events:auto}a.arkb-boxLink__title{text-decoration:underline}