文章を読んでいるとき、私たちは無意識に「注目すべき場所」を切り替えています。たと...
私たちが文章を読むとき、無意識のうちに複数の視点から情報を処理しています。たとえ...
ニューラルネットワークの中で、時系列データ や 自然言語 のような系列的なデータ...
RNN(再帰型ニューラルネットワーク)は系列データを扱う強力なアーキテクチャです...
RNN(Recurrent Neural Network)の大きな課題であった勾...
自然言語処理における機械翻訳、テキスト要約、対話システムなど、多くのタスクでは「...
単方向のRNNは、系列を左から右へ順に処理するため、時刻 $t$ の隠れ状態 $...
拡散モデル(Diffusion Model)は、画像にノイズを段階的に加えていく...
2017年に Vaswani et al. が発表した論文「Attention ...
Transformer は自然言語処理(NLP)において革命的な成果を挙げたアー...