アルゴリズム: Xエラーあり線形フィット

フィッティングモデル

与えられたデータセット $(X_i,Y_i), (\sigma_{x_i},\sigma_{y_i}), i=1,2,\ldots n$ において、Xは独立変数、Yは従属変数であり、 $(\sigma_{x_i},\sigma_{y_i})$ はX,Yそれぞれのエラーを表します。 Xエラー付き線形フィットは、データを次の形式のモデルに適合させます。

$y=\beta _0+\beta _1x+\varepsilon$	(1)
$\left\{\begin{matrix} x_i=X_i+\sigma_{x_i}\\ y_i=Y_i+\sigma_{y_i} \end{matrix}\right.$	(2)

フィット制御

計算法

York法

York法はD.Yorkの計算法であり、最良の傾き、切片、標準偏差を持つ最善の直線について説明されています。
FV法

FV法はGiocanniFasano & Roberto Vioによる計算方法で、両方の座標にエラーのある直線へのフィットについて説明されています。
Deming法

Deming回帰は、変数内誤差モデルの最尤推定であり、X/Y 誤差は独立して等分布していると仮定されます。
XおよびYエラーの相関
XおよびYエラーの相関 $r_i$ (York法のみ)
X/Yの標準偏差
X/Yの標準偏差(Deming法のみ）

値(York法)

線形フィットを実行すると、分析レポートシートに計算された値が出力されます。パラメータ表にはモデルの傾きと切片（カッコ内の数字は計算された値を示す）が表示されます。

フィットパラメータ

フィット値と標準誤差

xとyの重み（誤差）に関する $W_i$ を定義します。

$W_i = \frac{\omega_{x_i}\omega_{y_i}}{\omega_{x_i}+\beta_1^2\omega_{y_i}-2\beta_1 r_ia_i} =\frac{1}{\sigma_{y_i}^2+\beta_1^2\sigma_{x_i}^2 - 2\beta_1 r_i \sigma_{x_i} \sigma_{y_i}}$	(3)

このとき $\omega_{x_i}=\frac{1}{\sigma_{x_i}^2}, \ \omega_{y_i}=\frac{1}{\sigma_{y_i}^2}$ は $(X_i, Y_i)$ の重みで、 $r_i$ はXとYの誤差の相関係数(すなわち $\sigma_{x_i}$ と $\sigma_{y_i}$ )で $\alpha_i=\sqrt{\omega_{x_i} \omega_{y_i}}$ です。

重みづけ（誤差）のない $(X_i, Y_i)$ のフィット線の傾きは $\beta_1$ の初期値になります。設定した許容値 $\beta_1$ に収まるまでこれらは反復計算されます。

X_Y誤差のあるもっとフィットする線の推定パラメータ $\hat{\beta_0}$ と $\hat{\beta_1}$ の簡潔な方程式は次のようになります。

$\hat{\beta_0}=\bar{Y}-\hat{\beta_1}\bar{X}$	(4)

$\hat{\beta_1}=\frac{\sum{W_i b_i V_i}}{\sum{W_i b_i U_i}}$	(5)

ここで $\bar{X} = \frac{ \sum{W_i X_i} }{ \sum{W_i} }, \ \bar{Y} = \frac{ \sum{W_i Y_i} }{ \sum{Y_i} }$ です。

UとVはXとYの偏差です。

$\left\{\begin{matrix} U=X-\bar{X}\\ V=Y-\bar{Y} \end{matrix}\right.$

および、

$b_i=W_i \left[\frac{U_i}{\omega_{y_i}}+\frac{\hat{\beta_1}}{\omega_{x_i}}{V_i}-(\beta U_i+V_i)\frac{r_i}{\alpha_i} \right]$	(6)

パラメータの対応する変数 $\sigma^2$ と標準誤差 $s$ は次のようになります。

$\sigma_{\hat{\beta_0}}^2=\frac{1}{\sum{W_i}}+\bar{x}^2\sigma_{\hat{\beta_1}}^2$	(7)
$\sigma_{\hat{\beta_1}}^2=\frac{1}{\sum{W_i u_i^2}}$	(8)

ここで $\bar{x} = \frac{ \sum{W_i x_i} }{ \sum{W_i} }$ 、 $x_i$ は $X_i$ の推定値で、 $u_i=x_i - \bar{x}$ です。

パラメータの標準誤差は最終的に次のようになります。

$\varepsilon_{\hat{\beta_0}}=\sqrt{\sigma _{\hat{\beta_0}}^2}\sqrt{\frac{S}{n-2}}$	(9)

$\varepsilon_{\hat{\beta_1}}=\sqrt{\sigma _{\hat{\beta_1}}^2}\sqrt{\frac{S}{n-2}}$	(10)

ここで $S$ は

$S=\sum W_i(Y_i - \beta_1 X_i- \beta_0)^2$	(11)

t値と信頼水準

回帰の仮定が成り立つ場合次のようになります。

$\frac{{\hat \beta _0}-\beta _0}{\varepsilon _{\hat \beta _0}}\sim t_{n^{}-1}$ かつ $\frac{{\hat \beta _1}-\beta _1}{\varepsilon _{\hat \beta _1}}\sim t_{n^{}-1}$	(12)

フィッティングパラメータが0ではないことを調べるためにt 検定を使うことができます。これは、 $\beta _0= 0\,\!$ (真ならば、フィット直線が原点を通る) または $\beta _1= 0\,\!$ であるかどうかを検定します。t 検定の仮説検定は次のようになります。

$H_0 : \beta _0= 0\,\!$ $H_0 : \beta _1= 0\,\!$

$H_\alpha : \beta _0 \neq 0\,\!$ $H_\alpha : \beta _1 \neq 0\,\!$

t 値は、次の式で計算できます。

$t_{\hat \beta _0}=\frac{{\hat \beta _0}-0}{\varepsilon _{\hat \beta _0}}$ かつ $t_{\hat \beta _1}=\frac{{\hat \beta _1}-0}{\varepsilon _{\hat \beta _1}}$	(13)

計算されたt値を使って対応する帰無仮説を棄却するかどうかを決定できます。通常与えられた有意水準 $\alpha\,\!$ に対して、 $|t|>t_{\frac \alpha 2}$ のときに $H_0 \,\!$ を棄却します。また、p値または有意水準がt検定とともに出力されます。p値が $\alpha\,\!$ よりも小さい場合に帰無仮説 $H_0 \,\!$ を棄却することができます。

Prob>|t|

上記のt検定における $H_0 \,\!$ が真である確率

$prob=2(1-tcdf(\|t\|,df_{Error}))\,\!$	(14)

ここで、tcdf(t, df) は、自由度 df を持つスチューデントt 分布の下側の確率を計算します。

LCLとUCL

t値から各パラメータの信頼区間 $(1-\alpha )\times 100\%$ を次の式で計算できます。

$\hat \beta _j-t_{(\frac \alpha 2,n^{}-k)}\varepsilon _{\hat \beta _j}\leq \hat \beta _j\leq \hat \beta _j+t_{(\frac \alpha 2,n^{}-k)}\varepsilon _{\hat \beta _j}$	(15)

ここで $UCL$ と $LCL$ はそれぞれ上限信頼区間と下限信頼区間の略です。

CI 半幅

信頼区間の半値幅は以下の通りです。

$CI=\frac{UCL-LCL}2$	(16)

ここでUCLとLCLは、それぞれ上側信頼区間と下側信頼区間です。

より詳細は参考文献1（下記）をご覧ください。

フィット統計

自由度

$df=n-2$	(17)

nは合計ポイント数です。

残差平方和

$RSS=\sum^n_{i=1} \frac{(\beta_0+\beta_1 x_i - y_i)^2}{\sigma^2_{y_i}+\beta_1^2\sigma^2_{x_i}}$	(18)

自由度あたりカイ二乗

$\sigma^2=\frac{RSS}{n-2}$	(19)

ピアソンのｒ

単純な線形回帰では、xとyの相関係数は、r で表され、次の式に等しくなります。

$r=-R\,\!$ $\beta _1\,\!$ が負の場合
$r=R\,\!$ $\beta _1\,\!$ が正の場合	(20)

$R^2$ これは次式のように計算されます。

$TSS=\sum_{i=1}^n(y_i-\bar{y})^2$
$R^2=\frac{SXY}{SXX*TSS}=1-\frac{RSS}{TSS}$	(21)

Root MSE(SD)

誤差の平均平方の平方根または、残差標準偏差は、次式に等しくなります。

$df_{Error}=n-2$
$RootMSE=\sqrt{\frac{RSS}{df_{Error}}}$	(22)

共分散行列と相関行列

線形回帰における共分散行列は次のように計算されます。

$\begin{pmatrix} Cov(\beta _0,\beta _0) & Cov(\beta _0,\beta _1)\\ Cov(\beta _1,\beta _0) & Cov(\beta _1,\beta _1) \end{pmatrix}=\sigma ^2\frac 1{SXX}\begin{pmatrix} \sum \frac{x_i^2}n & -\bar x \\-\bar x & 1 \end{pmatrix}$	(23)

2つのパラメータ間の相関は、

$\rho (\beta _i,\beta _j)=\frac{Cov(\beta _i,\beta _j)}{\sqrt{Cov(\beta _i,\beta _i)}\sqrt{Cov(\beta _j,\beta _j)}}$	(24)

値 (FV法)

FV法はGiocanniFasano & Roberto Vioによる計算方法で、両方の座標にエラーのある直線へのフィットについて説明されています。

重みは次のように定義されます。

$W_i=\frac{1}{\beta_1^2\sigma_{x_{i}}^2+\sigma_{y_{i}}^2}$	(25)

重みづけ（誤差）のない $(X_i, Y_i)$ のフィット線の傾きは $\beta_1$ です。

次のようにします。

$\bar{x}=\frac{\sum{W_i x_i}}{\sum W_i}$	(26)
$\bar{y}=\frac{\sum{W_i y_i}}{\sum W_i}$	(27)

合計 $K^2=\sum{W_i (y_i-\beta_0-\beta_1 x_i)^2}$ を最小化し、偏微分を0に設定することで値 $\beta_0$ と $\beta_1$ を推定することができます。

$\hat{\beta_0}=\bar{y}-\hat{\beta_1}\bar{x}$	(28)
$a\hat{\beta_1}^2+b\hat{\beta_1}-c=0$	(29)

ここで

$a=\sum{W_i^2\sigma_{x_i}^2(y_i-\bar{y_i})(x_i-\bar{x_i})}$	(30)
$b=\sum{W_i^2[\sigma_{y_i}^2(x_i-\bar{x_i})^2-\sigma_{x_i}^2(y_i-\bar{y_i})^2]}$	(31)
$c=\sum{W_i^2\sigma_{y_i}^2(y_i-\bar{y_i})(x_i-\bar{x_i})}$	(32)

設定した許容値 $\hat{\beta_1}$ に収まるまで $\hat{\beta_1}$ は反復計算されます。

それぞれのパラメータの標準誤差については線形回帰モデルを参照してください。

より詳細は参考文献2（下記）をご覧ください。