線形識別の概要
ベクトルx-Pが作る平面が境界面となり、C1とC2を区別する
数学における「ハット行列」(または「キャップ行列」)は、線形代数学および統計学で用いられる概念です。具体的には、観測データと予測データの間の関係を表すための行列です
ハット行列 HH は、回帰分析において重要な役割を果たします。一般的な線形回帰モデルでは、観測値 YY と説明変数の行列 XX を用いて、以下のように回帰方程式を設定します:
Y=Xβ+ϵY = X \beta + \epsilon
ここで、β\beta は回帰係数のベクトル、ϵ\epsilon は誤差項です。
このとき、観測値 YY に対応する予測値 Y^\hat{Y} は次のように表されます:
Y^=X(XTX)−1XTY\hat{Y} = X (X^T X)^{-1} X^T Y
ハット行列 HH は、この予測値を生成するための行列であり、次のように定義されます:
H=X(XTX)−1XTH = X (X^T X)^{-1} X^T
ハット行列は、各観測値が予測値にどれだけ影響を与えるかを示すものであり、対角成分が特に重要です。対角成分が大きいほど、その観測値が回帰モデルに強く影響を与えることを意味します。
Kクラス問題への拡張
観測データは平均ベクトルの周りに分布する
この分布の広がりを
共分散行列Σで表す
2025年3月11日 | カテゴリー:基礎知識/物理学、統計学、有機化学、数学、英語 |