【LaTeX】転置記号の書き方|^T・^\top・^\mathsf{T} の違いをコピペ実例で解説

行列の式を書いていて、転置をどう打つか一瞬迷った経験はないでしょうか。A^T と打てば $A^T$ は出ます。ですが同じ論文の別の場所で A^{\top} と書いてしまい、あとから「どっちが正しいのか」と気になり始める——転置記号は、LaTeXで最も流儀が分かれる記号のひとつです。

しかもこれは趣味の問題ではありません。たとえば信号処理で自己相関行列を

$$ \bm{R} = \frac{1}{T}\int_0^{T} \bm{x}(t)\,\bm{x}(t)^T\,dt $$

と書いたとします。この式には $T$ が3回出てきますが、上付きの $T$ だけが「転置」で、残り2つは「観測時間」です。字形が同じなので、読者は文脈から推測するしかありません。転置を $\top$ で書けばこの曖昧さは消えます。

本記事では転置記号の字形選択という一点だけを掘り下げます。行列そのものの組版(pmatrixbmatrix の使い分け、行列式、逆行列の書き方)は別記事にまとめてあるので、そちらと合わせて読むと隙間なく埋まります。

画像なし
【LaTeX】行列の書き方まとめ|pmatrix・転置・逆行列・行列式
pmatrix / bmatrix / vmatrix 環境の使い分け、省略記号、ブロック行列、拡大係数行列まで行列組版を網羅

この記事が役立つ場面は2つあります。ひとつは論文・修士論文の執筆。投稿先の分野慣習に合わせて記法を選び、原稿全体で統一する必要があります。もうひとつはブログ・Webでの数式表示。KaTeXやMathJaxでは使えるコマンドが本家LaTeXと微妙に違うため、どれが通るかを事前に知っておく必要があります。

本記事の内容

  • やりたいことから引ける逆引き早見表
  • 転置の数学的な意味(行と列の入れ替え)と $(AB)^\top = B^\top A^\top$ の導出
  • 6つの転置記法の字形比較とそれぞれの向き・不向き
  • $\top$(⊤)と $\perp$/$\bot$(⊥)の違い——形が似ていて最も混同される
  • 共役転置($A^\dagger$ / $A^{\mathsf{H}}$ / $A^{*}$)の分野別慣習
  • ベクトルの転置と、内積を $\bm{x}^\top\bm{y}$ と書く記法
  • \newcommand で字形を一元管理する実務テクニック
  • KaTeX対応可否の表(KaTeX 0.16.3 で実際に描画確認)
  • よくある間違いとその修正

前提知識

この記事を読む前に、以下の記事を読んでおくと理解が深まります。


転置は行と列の入れ替え:2×3行列が3×2行列になる様子と、正方行列を主対角線で折り返す図解

記号の話に入る前に、転置そのものを絵で確認しておきましょう。左のパネルでは $2 \times 3$ 行列の1行目(青)と2行目(茶)が、転置後には1列目・2列目として縦に立ち上がっています。右のパネルは正方行列の場合で、主対角線を鏡にして上三角と下三角が入れ替わり、対角成分($5$)だけが動きません。この「鏡映」というイメージが、あとで出てくる $\top$(⊤)という記号の直感的な意味にもつながります。


逆引き早見表:やりたいことからコマンドを引く

細かい説明の前に、全コマンドをここから引けるようにしました。表示例はこのブログのKaTeXでそのままレンダリングしたものです。

やりたいこと コマンド 表示 条件・備考
転置(最推奨) \bm{A}^{\top} $\bm{A}^{\top}$ 記号として正しい。KaTeX対応
転置(サンセリフ立体) \bm{A}^{\mathsf{T}} $\bm{A}^{\mathsf{T}}$ ML・統計の論文で人気
転置(素の T) \bm{A}^{T} $\bm{A}^{T}$ 手軽だが斜体で変数 $T$ と紛らわしい
転置(intercal) \bm{A}^{\intercal} $\bm{A}^{\intercal}$ amssymb由来。KaTeX標準で使える
転置(ローマン体) \bm{A}^{\mathrm{T}} $\bm{A}^{\mathrm{T}}$ 教科書的な立体
転置(フランス式・左上) {}^{t}\!\bm{A} ${}^{t}\!\bm{A}$ 仏語圏の教科書で見る
逆行列の転置 \bm{A}^{-\top} $\bm{A}^{-\top}$ $(\bm{A}^{-1})^\top$ の略記
転置の積の展開 (\bm{A}\bm{B})^{\top} = \bm{B}^{\top}\bm{A}^{\top} $(\bm{A}\bm{B})^{\top} = \bm{B}^{\top}\bm{A}^{\top}$ 順序が逆になる
共役転置(物理) \bm{A}^{\dagger} $\bm{A}^{\dagger}$ ダガー。量子力学の標準
共役転置(信号処理) \bm{A}^{\mathsf{H}} $\bm{A}^{\mathsf{H}}$ Hermitian の H
共役転置(数学) \bm{A}^{*} $\bm{A}^{*}$ 複素共役だけを表す流儀もあり注意
直交する(関係) \bm{x} \perp \bm{y} $\bm{x} \perp \bm{y}$ ⊥。転置の ⊤ とは別物
直交補空間 V^{\perp} $V^{\perp}$ ⊥ を上付きに載せる
ベクトルの内積 \bm{x}^{\top}\bm{y} $\bm{x}^{\top}\bm{y}$ 行ベクトル × 列ベクトル
対称行列の条件 \bm{A}^{\top} = \bm{A} $\bm{A}^{\top} = \bm{A}$
直交行列の条件 \bm{Q}^{\top}\bm{Q} = \bm{I} $\bm{Q}^{\top}\bm{Q} = \bm{I}$
字形をマクロ化 \newcommand{\T}{^{\mathsf{T}}} LaTeXのプリアンブルに書く

迷ったら \bm{A}^{\top} を選んでください。理由は本文で順に説明します。まずは転置という操作そのものを数式で押さえるところから始めましょう。


1. 転置の数学的な意味

直感:行と列の役割を交換する

行列を「表」だと思ってください。売上表なら、行が「月」、列が「商品」だとします。転置はこの表の縦横を入れ替える操作です。行が「商品」、列が「月」になった表を作り直す——中身のデータは一切変わらず、並べ方だけが変わります。

転置が便利なのは、同じデータを別の視点から扱いたいときです。「月ごとの合計」を出したいときと「商品ごとの合計」を出したいときで、同じ和の計算を使い回せるようになります。機械学習でデータ行列を $\bm{X} \in \mathbb{R}^{n \times d}$($n$ サンプル × $d$ 次元)と置いたとき、$\bm{X}^\top\bm{X}$ が「次元 × 次元」の共分散構造を、$\bm{X}\bm{X}^\top$ が「サンプル × サンプル」の類似度構造を与えるのは、まさにこの視点の切り替えです。

定義

$m \times n$ 行列 $\bm{A}$ の $(i, j)$ 成分を $a_{ij}$ と書くとき、転置行列 $\bm{A}^\top$ は $n \times m$ 行列で、その $(i, j)$ 成分は次で与えられます。

$$ \begin{equation} \left(\bm{A}^{\top}\right)_{ij} = a_{ji} \end{equation} $$

添字の順序をひっくり返すだけ、というのが定義の全部です。具体的に $2 \times 3$ 行列で書き下すと次のようになります。

$$ \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix}^{\top} = \begin{pmatrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{pmatrix} $$

$$
\begin{pmatrix}
1 & 2 & 3 \\
4 & 5 & 6
\end{pmatrix}^{\top}
=
\begin{pmatrix}
1 & 4 \\
2 & 5 \\
3 & 6
\end{pmatrix}
$$

\end{pmatrix} の直後に ^{\top} を付けるだけで行列全体の転置になります。ここで \top を波括弧 {} で囲んでおくのが大事です。あとから ^{-\top}(逆行列の転置)のように上付きに2つ以上の要素を載せたくなったとき、囲んでおけばそのまま拡張できます。

転置の基本性質

転置には次の性質があります。どれも定義(添字の入れ替え)から直接出ます。

$$ \begin{align} \left(\bm{A}^{\top}\right)^{\top} &= \bm{A} \\ (\bm{A} + \bm{B})^{\top} &= \bm{A}^{\top} + \bm{B}^{\top} \\ (c\bm{A})^{\top} &= c\,\bm{A}^{\top} \quad (c \text{ はスカラー}) \\ (\bm{A}\bm{B})^{\top} &= \bm{B}^{\top}\bm{A}^{\top} \end{align} $$

上の3つは「そうなるだろう」と予想がつく素直な性質です。4番目だけが例外的で、積の順序が逆になります。この非対称性は転置を使うすべての式変形に効いてくるので、次のセクションできちんと確認します。


2. なぜ $(AB)^\top = B^\top A^\top$ で順序が逆になるのか

形(サイズ)から考えると必然

$\bm{A}$ を $2 \times 3$、$\bm{B}$ を $3 \times 4$ としましょう。積 $\bm{A}\bm{B}$ は「内側の $3$ が一致する」ので定義でき、結果は $2 \times 4$ です。これを転置すると $4 \times 2$ になります。

では右辺の候補を2つ試します。$\bm{A}^\top$ は $3 \times 2$、$\bm{B}^\top$ は $4 \times 3$ です。

  • $\bm{A}^\top \bm{B}^\top$ は $(3 \times 2)(4 \times 3)$ で、内側が $2$ と $4$。積そのものが定義できません
  • $\bm{B}^\top \bm{A}^\top$ は $(4 \times 3)(3 \times 2)$ で、内側が $3$ と $3$。定義でき、結果は $4 \times 2$

つまり形が合うのは逆順の場合だけです。順序を入れ替えるのは「そういう規則だから」ではなく、それ以外に形が合う組み合わせが存在しないからなのです。

(AB)^\top = B^\top A^\top を行列の形状で示す図:順序が逆になる理由

図の4段を上から追うと、順序反転が必然だとわかります。①で $2\times3$ と $3\times4$ の積が $2\times4$ になり、②でそれを転置して $4\times2$ に。③の $\bm{B}^\top\bm{A}^\top$ は内側が $3=3$ で揃うため積が定義でき、しかも結果の形が $4\times2$ で②と一致します。④の $\bm{A}^\top\bm{B}^\top$ は内側が $2 \neq 4$ で食い違い、そもそも計算できません。形の議論だけで答えが一つに絞られるわけです。

成分計算で証明する

形が合うことは必要条件にすぎないので、成分が実際に一致することも確認しましょう。示したいのは、両辺の $(i, j)$ 成分が等しいことです。

まず左辺です。転置の定義 $\left(\bm{M}^\top\right)_{ij} = m_{ji}$ を $\bm{M} = \bm{A}\bm{B}$ に適用すると

$$ \left[(\bm{A}\bm{B})^{\top}\right]_{ij} = (\bm{A}\bm{B})_{ji} $$

となります。ここで行列積の定義 $(\bm{A}\bm{B})_{ji} = \sum_k a_{jk} b_{ki}$ を代入します。

$$ \left[(\bm{A}\bm{B})^{\top}\right]_{ij} = \sum_{k} a_{jk} b_{ki} $$

次に右辺を計算します。$\bm{B}^\top\bm{A}^\top$ に行列積の定義を使うと

$$ \left(\bm{B}^{\top}\bm{A}^{\top}\right)_{ij} = \sum_{k} \left(\bm{B}^{\top}\right)_{ik} \left(\bm{A}^{\top}\right)_{kj} $$

ここで各因子に転置の定義をもう一度使い、添字をひっくり返します。

$$ \left(\bm{B}^{\top}\bm{A}^{\top}\right)_{ij} = \sum_{k} b_{ki}\, a_{jk} $$

スカラーの積は交換できるので $b_{ki} a_{jk} = a_{jk} b_{ki}$ です。したがって

$$ \left(\bm{B}^{\top}\bm{A}^{\top}\right)_{ij} = \sum_{k} a_{jk} b_{ki} = \left[(\bm{A}\bm{B})^{\top}\right]_{ij} $$

となり、全成分で一致しました。証明の核心は「転置を2回使って添字をひっくり返し、スカラー積の可換性で並べ替える」という2手だけです。

3つ以上の積でも同じ規則が順番に適用されます。

$$ (\bm{A}\bm{B}\bm{C})^{\top} = \bm{C}^{\top}\bm{B}^{\top}\bm{A}^{\top} $$

「全部ひっくり返して逆順に並べる」と覚えておけば十分です。転置の意味と性質を押さえたところで、いよいよ本題の記号の話に入りましょう。


3. 転置記法は6つある——どれを選ぶべきか

なぜ選択肢が増えたのか

転置を表す記号が乱立している理由は歴史的なものです。手書きの時代には $A^T$ のように「T の文字」を添えるのが自然でした。ところが $T$ は温度・周期・時刻・時間などによく使われる変数名でもあります。組版が印刷技術に依存するようになると、「転置の T は変数ではないのだから立体(イタリックでない字形)で組むべきだ」という考え方が出てきます。さらに「そもそも文字ではなく専用の記号を使えばいい」という立場から $\top$ が採用されました。この3つの立場が、それぞれ生き残ったのが今の状況です。

以下の図が本記事の核心です。6つの記法の字形を並べて拡大しました。

6つの転置記法の字形比較:A^T・A^\top・A^{\mathsf{T}}・A^{\intercal}・A^{\mathrm{T}}・{}^tA

字形の違いを見ていきましょう。左上の $A^T$ は上付きの $T$ が明らかに斜体(イタリック)で、$A$ 本体と同じ傾きです。これが変数と見分けがつかない原因です。上段中央の $A^\top$ は横棒に縦棒が下がった専用記号で、文字とは明確に区別できます。上段右の $A^{\mathsf{T}}$ はサンセリフ(ひげのない)立体の T、下段中央の $A^{\mathrm{T}}$ はセリフ(ひげのある)立体の T で、どちらも傾いていません。下段左の $A^{\intercal}$ は $\top$ より細く縦棒が長い別記号です。下段右の ${}^tA$ だけは記号を左上に置く流儀で、位置そのものが違います。

各記法を順番に見ていきます。

A^T — 素直だが T が斜体になる

最も手軽な書き方です。

$$ \bm{A}^T \bm{A}, \quad \bm{x}^T \bm{y} $$

$$
\bm{A}^T \bm{A}, \quad \bm{x}^T \bm{y}
$$

問題は $T$ が数式モードのイタリック(変数用の字形)で組まれることです。転置は操作を表す記号であって変数ではないので、字形の上では嘘をついています。この嘘が実害になるのは、同じ式のなかで $T$ を変数としても使う場面です。

素の^Tが変数Tと紛らわしい実例:観測時間Tと転置Tが同じ字形になる自己相関行列の式

上段(NG)の式には $T$ が3回登場します。分母の $1/T$ と積分の上端 $T$ は観測時間、$\bm{x}(t)^T$ の $T$ だけが転置です。字形が完全に同じなので、読者は「上付きだから転置だろう」と位置から推測するしかありません。下段(OK)のように転置だけを $\top$ にすると、字形の違いで一瞬に判別できます。信号処理の自己相関行列、熱力学の温度 $T$、制御工学のサンプリング周期 $T$——$T$ を変数に使う分野ではこの衝突が日常的に起こります。

なお ^T^{T} はまったく同じ表示になります。上付きが1文字のときは波括弧を省略できるという LaTeX の一般規則です。ただし2文字以上(^{-1}^{\mathsf{T}})では波括弧が必須なので、常に付ける習慣にしておくほうが事故が減ります。

A^\top — 記号として正しく、最も推奨できる

$\top$ は数学記号(Unicode U+22A4, DOWN TACK)です。文字ではないので変数と衝突しません。

$$ \bm{A}^{\top}\bm{A}, \quad \bm{Q}^{\top}\bm{Q} = \bm{I}, \quad \bm{x}^{\top}\bm{y} $$

$$
\bm{A}^{\top}\bm{A}, \quad \bm{Q}^{\top}\bm{Q} = \bm{I}, \quad \bm{x}^{\top}\bm{y}
$$

\top はLaTeXの標準コマンドで、追加パッケージは要りません。KaTeXでもそのまま使えます。書きやすさ・正しさ・環境依存の少なさのバランスが最もよいので、特別な理由がなければこれを選んでください

$\top$ という記号は「上(top)」を表す記号でもあり、束論では最大元、論理では真を意味します。転置に使う流儀は本来の意味とは無関係ですが、上付きに小さく置いたときの見た目が T に近く、かつ文字と混ざらないという実用上の都合で定着しました。

A^{\mathsf{T}} — サンセリフ立体。ML・統計で人気

\mathsf はサンセリフ体(ひげのない書体)を指定するコマンドです。転置に使うと、立体の細い T が得られます。

$$ \bm{X}^{\mathsf{T}}\bm{X}, \quad \bm{\Sigma} = \frac{1}{n}\bm{X}^{\mathsf{T}}\bm{X} $$

$$
\bm{X}^{\mathsf{T}}\bm{X}, \quad \bm{\Sigma} = \frac{1}{n}\bm{X}^{\mathsf{T}}\bm{X}
$$

機械学習・統計の論文でよく見かけます。$\top$ よりも「T の文字である」という見た目を保ちつつ、立体なので変数と区別できる——という中間的な立場です。数式の見た目にこだわる著者に好まれます。

A^{\intercal} — amssymb由来の専用記号

$\intercal$(Unicode U+22BA, INTERCALATE)は、amssymb パッケージで提供される記号です。名前は「intercalate(挿入する)」に由来し、本来は転置用に作られた記号ではありませんが、$\top$ より細くて上付きに載せたときのバランスがよいという理由で使う人がいます。

$$ \bm{A}^{\intercal}\bm{A}, \quad \bm{v}^{\intercal}\bm{w} $$

% LaTeX ではプリアンブルに追記
\usepackage{amssymb}

$$
\bm{A}^{\intercal}\bm{A}, \quad \bm{v}^{\intercal}\bm{w}
$$

KaTeX 0.16.3 で確認したところ、\intercal は追加設定なしでそのまま描画されます(このブログの数式は KaTeX でレンダリングしているので、上に表示されている $\intercal$ がその証拠です)。ただしLaTeXでPDFを作る場合は \usepackage{amssymb} が必要なので、\top と比べると環境依存が1段増えます。

A^{\mathrm{T}} — ローマン体(セリフ立体)

\mathrm はローマン体(本文と同じセリフ付きの立体)を指定します。

$$ \bm{A}^{\mathrm{T}}\bm{A} $$

$$
\bm{A}^{\mathrm{T}}\bm{A}
$$

「操作を表す記号は立体で組む」という国際単位系(SI)流の考え方に沿った選択です。\mathsf より本文の字形に近いので、教科書では見慣れた印象を与えます。\mathsf\mathrm のどちらを選ぶかは純粋に好みの問題ですが、論文の中で混ぜてはいけません

{}^{t}\!A — フランス式の左上表記

フランス語圏の教科書では、転置を左上に小文字の $t$ で置く流儀があります。$t$ は transposée の頭文字です。

$$ {}^{t}\!\bm{A}, \quad {}^{t}\!\bm{A}\,\bm{A} $$

$$
{}^{t}\!\bm{A}, \quad {}^{t}\!\bm{A}\,\bm{A}
$$

書き方には少しコツがあります。先頭の {} は「空の要素」で、これに上付き ^{t} を付けることで $t$ を単独で持ち上げます。{} を省いた ^{t}A でもエラーにはなりませんが、上付きの土台が空白のままになるため、置かれる位置(行頭・関係記号の直後・行列のセル内など)によって $t$ の高さや前後の空きが変わります。{} を明示して土台を固定しておくほうが安定します。続く \! は負の空白(thin space の逆)で、$t$ と $A$ の隙間を詰めるために入れています。これがないと ${}^{t} \bm{A}$ のように離れて見えます。

\! は KaTeX でも動作します。ただしこの記法は日本語圏ではほとんど使われないので、実務上は「フランスの教科書を読むときに困らないため」の知識として押さえておく程度で十分です。

まとめ:選択の指針

記法 推奨度 選ぶ理由
^{\top} 最推奨 記号として正しい。パッケージ不要。KaTeXでも動く
^{\mathsf{T}} 推奨 ML・統計の慣習に合う。立体で変数と区別できる
^{\mathrm{T}} 立体。教科書的で読みやすい
^{\intercal} 上付きのバランスがよい。LaTeXでは amssymb 必要
^{T} 非推奨 斜体で変数 $T$ と衝突する
{}^{t}\!A 特殊 仏語圏の慣習。読めれば十分

字形の選択肢を押さえたところで、次は最も混同されやすい記号のペアを整理します。


4. $\top$(⊤)と $\perp$/$\bot$(⊥)は別物

上下が逆というだけの違いではない

$\top$ と $\bot$ は、横棒と縦棒の組み合わせを上下反転させただけの見た目です。小さく上付きに載せると、ぱっと見でどちらか判断しづらくなります。ところが意味はまったく違います。

  • $\top$(\top, U+22A4)— 転置。束論では最大元、論理では真
  • $\bot$(\bot, U+22A5)— 直交補空間。束論では最小元、論理では偽
  • $\perp$(\perp, U+22A5)— 「〜と直交する」という関係

紛らわしいのは、\bot\perp同じ文字(U+22A5)を出力することです。字形は完全に同一で、違うのは前後の空きだけです。

\top(⊤)と\bot/\perp(⊥)と\intercal(⊺)の字形・Unicode・スペーシングの比較

上段5枚のパネルから、5つの記号の素性が読み取れます。$\top$ だけが U+22A4 で横棒が上、$\bot$ と $\perp$ は同じ U+22A5 で横棒が下、$\intercal$ は U+22BA という第3の文字です。注目すべきは記号クラス(mord / mrel)の違いで、$\perp$ だけが関係記号(mrel)に分類されています。下段はその結果を示したもので、KaTeX 0.16.3 で実測すると A\perp B は記号の両側に $0.2778\,\mathrm{em}$ の空きが自動で挿入され、A\bot B にはまったく空きが入りません。同じ文字でも、TeX が「記号」と見るか「関係」と見るかで組版が変わるわけです。

使い分けの実例

転置には \top を使います。上付きに載せるので、余白が入らない普通記号であることが好都合です。

$$ \bm{Q}^{\top}\bm{Q} = \bm{I} $$

直交補空間には \perp を上付きに載せます。$V^\perp$ は「部分空間 $V$ に直交するベクトル全体の集合」です。

$$ V^{\perp} = \{\bm{x} \in \mathbb{R}^n \mid \bm{x}^{\top}\bm{v} = 0 \ \ (\forall \bm{v} \in V)\} $$

$$
V^{\perp} = \{\bm{x} \in \mathbb{R}^n \mid \bm{x}^{\top}\bm{v} = 0 \ \ (\forall \bm{v} \in V)\}
$$

この式には転置の $\top$ と直交の $\perp$ が同居しています。上下が逆であることが、そのまま意味の違いを表しているのが見て取れます。

「〜と直交する」という関係文には \perp を単独で使います。

$$ \bm{x} \perp \bm{y} \iff \bm{x}^{\top}\bm{y} = 0 $$

$$
\bm{x} \perp \bm{y} \iff \bm{x}^{\top}\bm{y} = 0
$$

ここで \perp\bot に置き換えると、$\bm{x}\bot\bm{y}$ のように前後の空きが消えて「$\bm{x}$ と $\bm{y}$ の積」のように見えてしまいます。上付きに載せるなら \perp でも \bot でも同じですが、単独で関係を表すときは必ず \perp を使ってください。

なお統計学で「独立」を表す $\perp\!\!\!\perp$ は、\perp を負の空白で重ねて作ります。

$$ X \perp\!\!\!\perp Y \mid Z $$

$$
X \perp\!\!\!\perp Y \mid Z
$$

KaTeXには \Perp のような専用コマンドが無いため、この重ね書きが実質的な標準です。

記号の混同を整理したところで、複素行列を扱う場合の転置に進みましょう。


5. 共役転置(エルミート転置)の書き方

なぜ単なる転置では足りないのか

実ベクトルの長さの2乗は $\bm{x}^\top\bm{x} = \sum_i x_i^2$ で、必ず非負になります。ところが複素ベクトルで同じことをすると壊れます。$\bm{x} = (i)$(1次元、成分は虚数単位)とすると $\bm{x}^\top\bm{x} = i \cdot i = -1$ で、長さの2乗が負になってしまいます。

これを直すには、片方の成分の複素共役を取る必要があります。$\bar{i} \cdot i = (-i)(i) = 1$ となり、非負性が回復します。この「転置しながら複素共役も取る」操作が共役転置(エルミート転置、随伴)です。

$$ \begin{equation} \left(\bm{A}^{\dagger}\right)_{ij} = \overline{a_{ji}} \end{equation} $$

共役転置(エルミート転置)は転置してから複素共役をとる操作。複素平面での実軸鏡映の図解

図の3枚の行列を見比べると操作の違いがはっきりします。$\bm{A}^\top$(右上)は成分の位置だけを入れ替えており、$1+2i$ や $3-i$ の虚部の符号はそのままです。$\bm{A}^\dagger$(左下)は位置を入れ替えたうえで虚部の符号を全部反転させ、$1-2i$・$3+i$・$-i$ になっています。右下の複素平面が示すように、複素共役は実軸を鏡にした折り返しで、実部(この例では $1$)は動きません。実行列では虚部がゼロなので、共役転置は普通の転置と一致します。

3つの記法と分野別の慣習

共役転置の記号は3種類あり、分野でかなりきれいに分かれます。

記号 コマンド 主な分野 由来
$\bm{A}^{\dagger}$ \bm{A}^{\dagger} 物理学(量子力学) dagger(短剣符)
$\bm{A}^{\mathsf{H}}$ \bm{A}^{\mathsf{H}} 信号処理・通信 Hermitian の H
$\bm{A}^{*}$ \bm{A}^{*} 数学(関数解析) 随伴作用素の記法
$$
\bm{A}^{\dagger}, \quad \bm{A}^{\mathsf{H}}, \quad \bm{A}^{*}
$$

$$ \bm{A}^{\dagger}, \quad \bm{A}^{\mathsf{H}}, \quad \bm{A}^{*} $$

物理では $\dagger$ が圧倒的です。量子力学ではエルミート演算子 $\hat{H}^\dagger = \hat{H}$ やユニタリ性 $\hat{U}^\dagger\hat{U} = \hat{I}$ が基本語彙になっています。

$$ \hat{H}^{\dagger} = \hat{H}, \qquad \hat{U}^{\dagger}\hat{U} = \hat{I} $$

信号処理・アレイアンテナ・MIMO通信では $\bm{A}^{\mathsf{H}}$ が標準です。ビームフォーミングの出力は次のように書かれます。

$$ y = \bm{w}^{\mathsf{H}}\bm{x} $$

$$
y = \bm{w}^{\mathsf{H}}\bm{x}
$$

数学の $\bm{A}^{*}$ には注意が必要です。この記号は文脈によって「共役転置」を意味することもあれば、「成分ごとの複素共役だけ(転置しない)」を意味することもあります。前者は関数解析の随伴作用素の記法、後者は複素数 $\bar{z}$ を $z^*$ と書く物理の慣習の延長です。混同を避けるなら、複素行列を扱う原稿では冒頭に「本稿では $\bm{A}^{*}$ を共役転置の意味で用いる」と明記するか、$\dagger$ か $\mathsf{H}$ に統一するほうが安全です。

共役転置でも順序は逆になる

転置と同じく、積の共役転置は順序が反転します。

$$ (\bm{A}\bm{B})^{\dagger} = \bm{B}^{\dagger}\bm{A}^{\dagger} $$

複素共役は $\overline{zw} = \bar{z}\,\bar{w}$ と積に対して分配されるので、転置の証明にそのまま複素共役をかぶせれば同じ結論が出ます。

複素行列の扱いを押さえたところで、ベクトルの転置に話を移します。転置記号が「形の宣言」として働く場面です。


6. ベクトルの転置と内積の記法

列ベクトルが標準、転置で行ベクトルになる

線形代数の慣習では、太字の $\bm{x}$ は列ベクトル($n \times 1$ 行列)を指します。文中で成分を横に並べて書きたいときは、転置を付けて「本当は縦だ」と宣言します。

$$ \bm{x} = (x_1, x_2, \dots, x_n)^{\top} $$

$$
\bm{x} = (x_1, x_2, \dots, x_n)^{\top}
$$

これは「$\bm{x}$ は $x_1$ から $x_n$ を縦に並べた列ベクトルである」という意味です。行を節約するための定番の書き方で、論文では極めて頻繁に出てきます。

内積を $\bm{x}^\top\bm{y}$ と書く

列ベクトル同士の内積は、片方を転置して行ベクトルにしてから掛けます。

$$ \bm{x}^{\top}\bm{y} = \sum_{i=1}^{n} x_i y_i $$

ベクトルの転置と内積:x^\top y はスカラー、x y^\top は行列(外積)になる形状図

パネル(a)では $1 \times 3$ の行ベクトルと $3 \times 1$ の列ベクトルを掛けており、内側の $3$ が縮約されて $1 \times 1$、つまりスカラー $32$ が返っています。パネル(b)は転置の位置を1つずらしただけですが、$3 \times 1$ と $1 \times 3$ の積になるため内側は $1$、結果は $3 \times 3$ 行列(外積)になります。転置記号の位置がスカラーと行列を分けるという、地味ですが実害の大きい違いです。

内積の記法には角括弧を使う流儀もあり、状況に応じて使い分けます。

$$ \langle \bm{x}, \bm{y} \rangle = \bm{x}^{\top}\bm{y} $$

$$
\langle \bm{x}, \bm{y} \rangle = \bm{x}^{\top}\bm{y}
$$

$\bm{x}^\top\bm{y}$ は「有限次元で成分計算する」文脈に向き、$\langle \bm{x}, \bm{y}\rangle$ は「一般の内積空間・カーネル法」のように成分に依らない議論に向きます。内積記法の詳細は専用記事にまとめてあります。

画像なし
【LaTeX】内積・外積の書き方(langle・cdot・times)
3大内積記法と分野別の使い分け、ドット積・クロス積・テンソル積を網羅

ノルムも転置で書けます。$\|\bm{x}\|_2^2 = \bm{x}^\top\bm{x}$ という展開は、最小二乗法の目的関数を変形する定番の手続きです。

$$ \|\bm{A}\bm{x} – \bm{b}\|_2^2 = (\bm{A}\bm{x} – \bm{b})^{\top}(\bm{A}\bm{x} – \bm{b}) $$

この右辺を $(AB)^\top = B^\top A^\top$ で展開していくと、正規方程式 $\bm{A}^\top\bm{A}\bm{x} = \bm{A}^\top\bm{b}$ が出てきます。転置の順序反転規則が実際に手を動かす場面で効いてくる代表例です。

画像なし
【LaTeX】絶対値・ノルムの書き方(|x|・lVert)
縦線1本と2本の使い分け、括弧サイズの自動調整、下付きのpノルム表記

ベクトルまわりの記法が済んだので、次は「どの記法を選ぶか」を分野別に整理します。


7. 分野別の慣習ガイド

記法選択に唯一の正解はなく、投稿先や研究室の慣習に合わせるのが正解です。主要分野の傾向をまとめました。

分野別の転置記法の慣習マップ:数学・機械学習・統計学・物理学・信号処理で主流な記法

図から読み取れる傾向は2つあります。第一に、$A^\top$ はどの分野でも通じる汎用記法で、主流か「よく見る」以上の位置にあります。第二に、共役転置の記法($\dagger$ / $\mathsf{H}$ / $*$)は分野ごとにきれいに分かれており、物理は $\dagger$、信号処理は $\mathsf{H}$ にほぼ集中しています。実転置の記法は好みで選べても、共役転置の記法は分野の作法に従うほうが読者に優しいわけです。

数学(線形代数・関数解析)

$\bm{A}^\top$ が主流です。欧米の現代的な教科書では \top がほぼ標準になっています。$\bm{A}^{T}$(斜体)も伝統的に使われており、日本の教科書では今でも見かけます。随伴作用素には $\bm{A}^{*}$ が使われます。

機械学習

$\bm{A}^\top$ と $\bm{A}^{\mathsf{T}}$ の2択です。NeurIPS・ICML・ICLR の論文はどちらも見られ、著者やテンプレートに依存します。複素数を扱わない分野なので共役転置はほとんど出てきません。よく見る形は次のようなものです。

$$ \bm{\theta}^{\star} = \left(\bm{X}^{\top}\bm{X} + \lambda \bm{I}\right)^{-1}\bm{X}^{\top}\bm{y} $$

$$
\bm{\theta}^{\star} = \left(\bm{X}^{\top}\bm{X} + \lambda \bm{I}\right)^{-1}\bm{X}^{\top}\bm{y}
$$

統計学

$\bm{A}^{\mathsf{T}}$ が最もよく見られます。統計の主要ジャーナルは組版規則が厳格なところが多く、「操作記号は立体」という方針から $\mathsf{T}$ や $\mathrm{T}$ が指定される場合があります。投稿規定を確認してください。

物理学(量子力学)

共役転置 $\hat{A}^\dagger$ が圧倒的です。実転置だけを使う場面(座標変換など)では $\bm{R}^{T}$ や $\bm{R}^{\mathrm{T}}$ が見られます。$\equiv$ で恒等式を書く慣習と同様、物理は伝統的な記法を保つ傾向があります。

信号処理・通信

共役転置 $\bm{A}^{\mathsf{H}}$ が標準です。複素ベースバンド信号を扱うため、そもそも実転置より共役転置のほうが出番が多い分野です。実転置が必要なときは $\bm{A}^{\top}$ を併用します。

$$ \bm{R}_{xx} = \mathbb{E}\left[\bm{x}\bm{x}^{\mathsf{H}}\right] $$

分野の傾向がわかったところで、実務で一番役に立つテクニックを紹介します。


8. \newcommand で字形を一元管理する

問題:あとから統一を求められる

長い論文を書いていると、章ごとに違う記法を使ってしまうことがあります。共著者と分担していればなおさらです。査読で「転置の記法を統一してください」と指摘されたとき、全ファイルを手作業で置換するのは危険です。^T を機械的に置換すると、変数 $T$ の上付き($x^T$ が本当に「$T$ 乗」を意味している箇所など)まで巻き込む恐れがあります。

\newcommand で転置記号をマクロ化する before/after:論文全体の字形統一が1行で済む

左(Before)では章ごとに ^T ^{\top} ^{\mathsf{T}} ^{\mathrm{T}} がばらばらに書かれています。右(After)ではプリアンブルで \T を1回定義し、本文はすべて \bm{A}\T に統一しています。字形を変えたくなったら定義の1行を ^{\top} に書き換えるだけで、論文全体が一斉に変わります。置換ミスの余地がなくなるのがこの方法の本質的な利点です。

書き方

LaTeXのプリアンブル(\begin{document} より前)に次の1行を書きます。

\newcommand{\T}{^{\mathsf{T}}}

本文では次のように使います。

$\bm{A}\T \bm{A}$          % A^T A
$\bm{x}\T \bm{y}$          % x^T y
$(\bm{A}\bm{B})\T = \bm{B}\T \bm{A}\T$

定義に上付き記号 ^ そのものを含めているので、使う側では ^ を書きません。\bm{A}^\T と書くと上付きの中に上付きが入って壊れるので気をつけてください。

共役転置も同じ要領でマクロにできます。

\newcommand{\T}{^{\mathsf{T}}}      % 転置
\newcommand{\H}{^{\mathsf{H}}}      % 共役転置
\newcommand{\iT}{^{-\mathsf{T}}}    % 逆行列の転置

ただし \H は LaTeX の標準コマンド(ハンガリアン・ウムラウト、\H{o} で ő)と衝突します。既存コマンドを上書きすると予期しない箇所が壊れるので、\Hm\ct のように衝突しない名前を選ぶか、\renewcommand で意図的に上書きしていることを明示してください。安全側に振るなら次のようにします。

\newcommand{\T}{^{\mathsf{T}}}      % 転置
\newcommand{\ct}{^{\mathsf{H}}}     % 共役転置(\H との衝突を避ける)

KaTeX / ブログでの制約(実測結果)

ここが実務上の落とし穴です。KaTeXでも \newcommand は使えますが、効果は同じ数式ブロックの中に限られます。KaTeX 0.16.3 で実際に試すと、$$\newcommand{\T}{^{\mathsf{T}}}A\T$$ は正しく描画されますが、次の別の $$...$$B\T と書くと「Undefined control sequence」になります。auto-render が数式ごとに独立してレンダリングするためです。

つまりブログでは次のようになります。

% OK: 同じブロック内なら使える
$$
\newcommand{\T}{^{\mathsf{T}}}
(\bm{A}\bm{B})\T = \bm{B}\T\bm{A}\T
$$

% NG: 別のブロックに持ち越せない
$$
\bm{x}\T\bm{y}
$$

マクロを記事全体で共有したい場合は、KaTeXの初期化時に macros オプションを渡し、\gdef でグローバル定義する必要があります。テーマ側の設定変更が必要になるので、ブログでは毎回 ^{\top} と書くのが確実です。マクロ化は LaTeX で PDF を作るときの武器と考えてください。

環境依存の話が出たので、次はKaTeXで何が使えるかを一覧で確認します。


9. KaTeX対応可否の一覧(実測)

本ブログの数式は KaTeX 0.16.3 でレンダリングしています。転置まわりのコマンドについて、実際に描画を試した結果をまとめます。

転置まわりコマンドのKaTeX対応状況一覧(KaTeX 0.16.3で実測)

図の表から、転置に使う主要コマンドはほぼすべてKaTeXで通ることがわかります。\intercal が amssymb なしで使えるのは実務上ありがたい点です。一方で \transpose のような存在しないコマンドと、mathtools 専用の \prescript は通りません。\newcommand は「限定」扱いで、前節のとおり同じ数式ブロック内でしか有効になりません。

コマンド KaTeX 0.16.3 LaTeX(PDF) 備考
A^\top 対応 標準 追加パッケージ不要。最推奨
A^{\mathsf{T}} 対応 標準 サンセリフ立体
A^{\mathrm{T}} 対応 標準 ローマン体
A^{\intercal} 対応 amssymb 必要 KaTeXでは標準搭載
A^T 対応 標準 表示はされるが斜体で紛らわしい
A^{-\top} 対応 標準 逆行列の転置
{}^{t}\!A 対応 標準 \! の負の空白も動作する
A^\dagger 対応 標準 共役転置(物理)
A^{\mathsf{H}} 対応 標準 共役転置(信号処理)
\perp / \bot 対応 標準 直交。転置の \top とは別物
\perp\!\!\!\perp 対応 標準 独立記号。\Perp は非対応
\newcommand{\T}{...} 同一ブロック内のみ プリアンブルで永続 KaTeXは数式ごとに独立
\transpose 非対応 非対応 そのようなコマンドは存在しない
\prescript{t}{}{A} 非対応 mathtools 必要 KaTeXでは使えない
\Perp 非対応 パッケージ必要 \perp\!\!\!\perp で代替

LaTeXでもKaTeXでも安全なのは \top\mathsf{T}\mathrm{T} です。この3つから選べば、原稿をPDFにもWebにも展開できます。

なお \bm については補足が必要です。KaTeXは \bm に対応していますが、環境によっては \boldsymbol を使う必要があります。表示が崩れる場合は置き換えてみてください。太字の詳細は次の記事にまとめています。

画像なし
【LaTeX】太字ベクトルの書き方(bm・boldsymbol・vec)
bm・boldsymbol・mathbf・vecの違いと使い分け、行列とベクトルの書き分け

対応状況を確認したところで、最後によくある間違いを潰しておきましょう。


10. よくある間違いと修正

間違い1:^T の T が斜体で変数に見える

最も多い問題です。特に $T$ を変数として使う分野では実害があります。

% 紛らわしい: T が3回出てきて区別できない
$\bm{R} = \frac{1}{T}\int_0^{T} \bm{x}(t)\bm{x}(t)^T dt$

% 明確: 転置だけ字形が違う
$\bm{R} = \frac{1}{T}\int_0^{T} \bm{x}(t)\bm{x}(t)^{\top} dt$

$T$ を変数に使わない原稿なら ^T でも実害はありません。とはいえ「あとから $T$ を導入したくなる」ことは十分あるので、最初から \top にしておくほうが安全です。

間違い2:\top\bot を取り違える

上下が逆で、意味も違います。上付きに小さく載せると見分けづらいので、書くときに意識してください。

% 転置: \top(横棒が上)
$\bm{A}^{\top}\bm{A}$

% 直交補空間: \perp(横棒が下)
$V^{\perp}$

% NG: 転置に \bot を使うと「直交補空間」に読まれる
$\bm{A}^{\bot}\bm{A}$

$\bm{A}^{\bot}$ と書いてしまうと、読者は「行列 $\bm{A}$ の直交補空間?」と混乱します。逆に直交補空間を $V^{\top}$ と書けば「$V$ の転置?」となります。上か下かで意味が反転すると覚えておきましょう。

間違い3:^T^{T} の違いを気にしすぎる

結論として、この2つはまったく同じ表示になります。上付きが1文字のときは波括弧を省略できるという LaTeX の規則があるためです。

$\bm{A}^T$    % 表示は同じ
$\bm{A}^{T}$  % 表示は同じ

ただし上付きに載せたい要素が2つ以上のトークンからなる場合は、波括弧が必須です。

% NG: - だけが上付きになり 1 がベースラインに落ちる
$\bm{A}^-1$

% OK
$\bm{A}^{-1}$

一方で \mathsf{T}\top のように「コマンド1つ」で完結するものは、波括弧があってもなくても同じ表示になります(KaTeX 0.16.3 で確認済み)。

$\bm{A}^\mathsf{T}$    % 表示は同じ
$\bm{A}^{\mathsf{T}}$  % 表示は同じ(推奨)

それでも 常に波括弧を付ける 習慣にしておくことをおすすめします。あとから ^{-\mathsf{T}} のように要素を足したくなったとき、括弧が無いと壊れるからです。付けておけばこの場合分けを覚える必要がなくなります。

間違い4:上付きの前に余計なスペースを入れる

数式モードではスペースは無視されるので、これは表示に影響しません。

$\bm{A} ^{\top}$   % 表示は同じ(数式モードでは空白が無視される)
$\bm{A}^{\top}$    % 推奨

ただし可読性のために空けないでください。また \text{} の中では話が変わります。\text{A ^{\top}} のように書くと空白がそのまま出るうえ、^ がテキストモードでエラーになります。

間違い5:(AB)^\top の括弧を忘れる

$(\bm{A}\bm{B})^\top$ と $\bm{A}\bm{B}^\top$ はまったく別の式です。

% 積全体の転置
$(\bm{A}\bm{B})^{\top}$

% B だけの転置(意味が違う)
$\bm{A}\bm{B}^{\top}$

順序反転規則を適用するのは前者だけです。後者に $\bm{B}^\top\bm{A}^\top$ を代入すると誤りになります。

間違い6:\transpose のような存在しないコマンドを使う

\transpose は LaTeX にも KaTeX にも存在しません。名前として自然なので試してしまいがちですが、通りません。

% NG: 未定義コマンド
$\bm{A}^{\transpose}$

% OK
$\bm{A}^{\top}$

% 自分で定義するなら(LaTeXのプリアンブル)
\newcommand{\transpose}{^{\mathsf{T}}}

自分でマクロを定義すれば \transpose という名前も使えますが、その場合も ^ を定義に含めるかどうかで書き方が変わるので、定義とセットで覚えてください。

Tips:逆行列の転置は ^{-\top} と略記できる

$(\bm{A}^{-1})^\top$ と $(\bm{A}^\top)^{-1}$ は等しいので、まとめて $\bm{A}^{-\top}$ と略記します。

$$ \bm{A}^{-\top} = \left(\bm{A}^{-1}\right)^{\top} = \left(\bm{A}^{\top}\right)^{-1} $$

$$
\bm{A}^{-\top} = \left(\bm{A}^{-1}\right)^{\top} = \left(\bm{A}^{\top}\right)^{-1}
$$

両者が等しいことは、$\bm{A}^\top (\bm{A}^{-1})^\top = (\bm{A}^{-1}\bm{A})^\top = \bm{I}^\top = \bm{I}$ から確認できます。順序反転規則をここでも使っている点に注目してください。この略記はガウス過程回帰やカルマンフィルタの導出で頻繁に出てきます。


まとめ

本記事では、LaTeX/KaTeXで転置記号をどう書くかを、字形選択という一点に絞って解説しました。

  • 転置は行と列の入れ替え($\left(\bm{A}^\top\right)_{ij} = a_{ji}$)。正方行列なら主対角線を鏡にした折り返し
  • $(\bm{A}\bm{B})^\top = \bm{B}^\top\bm{A}^\top$ で順序が逆になるのは、形が合うのが逆順だけだから
  • 転置記法は6つある。迷ったら ^{\top}。ML・統計なら ^{\mathsf{T}} も定番
  • 素の ^T は斜体になり変数 $T$ と衝突する。$T$ を変数に使う分野では避ける
  • $\top$(⊤)と $\bot$/$\perp$(⊥)は上下が逆で意味も別。転置は \top、直交補空間は \perp を上付きに
  • \bot\perp は同じ文字だが、\perp は関係記号なので前後に $0.2778\,\mathrm{em}$ の空きが入る
  • 共役転置は分野で分かれる。物理は $\dagger$、信号処理は $\mathsf{H}$、数学は $*$(意味の揺れに注意)
  • LaTeXでは \newcommand{\T}{^{\mathsf{T}}} でマクロ化すると、字形統一が1行で済む
  • KaTeXでは \top \mathsf{T} \mathrm{T} \intercal \dagger がすべて使える。\newcommand は同じ数式ブロック内のみ

転置記号の選択は、一度決めて原稿全体で守るだけの話です。ただし「守る」の実行にはマクロという道具が要ります。この2つを押さえておけば、記法で悩む時間は今後ゼロになります。

次のステップとして、以下の記事も参考にしてください。

関連記事:LaTeX数式記法シリーズ

LaTeX数式記法 完全ガイド(実用チートシート)
記号・環境・コマンドを一覧で引けるチートシート
画像なし
【LaTeX】行列の書き方まとめ(pmatrix・bmatrix)
括弧の種類・行列式・省略記号・拡大係数行列を網羅
画像なし
【LaTeX】太字ベクトル(bm・boldsymbol・vec)
bm・boldsymbol・mathbfの違いと使い分け
画像なし
【LaTeX】内積・外積(langle・cdot・times)
3大内積記法と分野別の使い分けを網羅
画像なし
【LaTeX】絶対値・ノルム(|x|・lVert)
縦線1本と2本の使い分けとサイズ調整
画像なし
【LaTeX】上付き文字・下付き文字の書き方
^と_の基本から入れ子・複数記号の載せ方まで
画像なし
【LaTeX】定義記号 := ≡ ≜ の書き方
coloneqq・equiv・triangleqの使い分けとKaTeX対応
関連タグ: KaTeX 数式 行列 転置