NLP

Re-ranking の理論と実装 — Cross-Encoder と ColBERT で検索精度を引き上げる

2026年4月28日 NLP

検索システムに「Pythonでデータベースに接続する方法」と問い合わせたとき、ベ...

Bi-Encoder ColBERT Cross-Encoder RAG Re-ranking 情報検索

Hybrid Search — 密ベクトル検索とBM25スパース検索の融合

2026年4月28日 NLP

「営業部の第3四半期レポートを探して」と検索システムに聞いたとき、意味的には正し...

BM25 Hybrid Search RAG Reciprocal Rank Fusion 密ベクトル検索

ベクトルデータベースの仕組み — FAISS・HNSWの理論とPython実装

2026年4月28日 NLP

RAG（Retrieval-Augmented Generation）をはじめと...

FAISS HNSW IVF RAG ベクトルデータベース近似最近傍探索

DPO（Direct Preference Optimization）の数学的導出と実装

2026年4月28日 NLP

LLMを人間の好みに沿うように調整する手法として、DPO（Direct Pref...

LLM アライメント強化学習機械学習自然言語処理

ファインチューニングと転移学習の理論を解説

2026年3月15日 NLP

転移学習（Transfer Learning）とファインチューニング（Fine-...

BERT GPT NLP ファインチューニング事前学習特徴抽出転移学習

トークナイゼーション（BPE/WordPiece/SentencePiece）を解説

2026年3月15日 NLP

自然言語処理（NLP）において、テキストをモデルに入力するための最初のステップが...

BPE NLP SentencePiece WordPiece サブワードトークナイゼーション

Word2Vec（Skip-gram/CBOW）の理論と実装を解説

2026年3月15日 NLP

Word2Vec は、2013年に Mikolov らが提案した単語の分散表現（...

CBOW NLP Skip-gram Word2Vec 分散表現単語埋め込み

GPTのアーキテクチャと自己回帰生成を解説

2026年3月15日 NLP

GPT（Generative Pre-trained Transformer）は...

GPT NLP Transformer Decoder 事前学習自己回帰言語モデル

GloVeの理論と単語ベクトルの導出を解説

2026年3月15日 NLP

GloVe（Global Vectors for Word Representa...

GloVe NLP 共起行列分散表現単語埋め込み行列分解

BERTのアーキテクチャと事前学習を解説

2026年3月15日 NLP

BERT（Bidirectional Encoder Representatio...

BERT MLM NLP NSP Transformer ファインチューニング事前学習

[data-arkb-linkbox]{cursor:auto}[data-arkb-link][aria-hidden="true"]{visibility:visible;color:transparent;z-index:0;width:100%;height:100%;pointer-events:auto}a.arkb-boxLink__title{text-decoration:underline}