判別分析


目次

概要

「フィッシャーのアヤメ」ともいわれるアヤメのデータは1936年にサー・ロナルド・エイルマー・フィッシャーによって発表された多変量データです。 このデータはよく分類システムの説明のために使われます。 3種類のアヤメ(iris setosa, iris virginica,iris versicolor)について50個のサンプルから成るデータセットを用意しています。 各サンプルは、花弁とがくの長さと幅の計4つの特徴を計測され、センチメートルで記録されています。 判別分析を使ってこの4つの特徴をもとに種の判別を行いたいと思います。

無作為に120行のアヤメのデータを選択し、判別分析のモデルを作成します。そして残りの30行を使用してこのモデルの精度を検証します。

必要なOriginのバージョン: OriginPro 8.6 SR0以降

判別分析

  1. 新しいプロジェクトまたは新しいワークブックを開きます。 \Samples\Statistics\Fisher's Iris Data.datファイルをインポートします。
  2. 列Aから列Dを選択し、メニューから統計：多変量解析：判別分析と操作して判別分析discrimダイアログを表示し、入力データ タブを開きます。A～D列は自動的にトレーニングデータとして反映されています。
  3. トレーニングデータのグループの右にある三角形ボタンButton Select Data Right Triangle.pngをクリックして、コンテキストメニューからE(Y):Speciesを選択します。
    Discrim dialog 1.png
  4. 量タブを開いて、判別関数の係数にチェックを付けます。正準判別分析のブランチを広げ、正準判別関数の係数にチェックを付けます。他はデフォルトのまま、OKボタンをクリックします。
    Discrim dialog 1A.png

結果の解釈

判別分析結果のタブをクリックします。

正準判別分析

正準判別分析はモデルの判別関数を作成するために使用されます。

  1. 標準化されていない正準係数の表より、正準判別関数を作成することができます。
    UCC.png
    D1 = -2.10511 - 0.82938*SL - 1.53447*SW + 2.20121*PL + 2.81046*PW
    D2 = -6.66147 + 0.0241*SL + 2.16452*SW -0.93192*PL + 2.83919*PW
    ここで、SL = Sepal Length, SW = Sepal Width, PL = Petal Length, PW = Petal Width
  2. 固有値の表から、上記の正準判別関数の重要性が分かります。 1つ目の関数は99.12%の分散を示し、2つ目の関数で残りの0.88%の分散を示しています。
    Eigenvalues da.png
  3. Wilk's Lambda検定の表では判別関数が有意にグループメンバーシップの説明をしていることを確認できます。 表の中で列Sig.を確認すると、どちらも0.05より小さくなっています。 したがって、判別分析においてどちらの値も含まれるべきであることが分かります。
    Wilks Lambda.png

分類

  1. トレーニングデータの分類概要の表は判別モデルを評価するのに使うことができます。表によると、setosa群の分類は100%正しいといえます。 versicolorは、2つの観測値が誤ってvirginicaと分類され、virginicaでは1つの観測値のみ誤って分類されました。エラー率はたったの2.00%です。 このモデルはよくできているといえるでしょう。
    Classification Summary Training Data.png
  2. どの観測値が誤って分類されているかを確認するために、Training Result1のシートに移ることが出来ます。このシートでは、判別モデルから計算された事後確率と、観測値が割り当てられたグループを確認できます。
    Discrim training results.png
    • 84番目の観測値では、virginicaの0.85661が事後確率として最大値であることがわかります。よって、約85.7%の確率でvirginicaのグループに割り当てられます。
    • しかし、84番目の観測値はversicolorのグループに割り当てられるはずです。つまり、この観測値はモデルによって誤って分類されたということになります。

モデルの検証

モデルの検証は判別分析分類器の安定性を保証にするために使われます。

モデルの検証方法には2つあります。

データ分析の準備

無作為に選択したデータをソートにかけ、最初の120行のデータをトレーニングデータとして、最後の30行のデータをテストデータとして使います。

  1. Fisher's Iris Dataのワークシートに戻ります。
  2. 新しく列を追加して、正規乱数を追加します。(列ヘッダを右クリックし、列値の一律設定：正規乱数を選択）
  3. 新しく追加した列を選択します。 右クリックして、ショートカットメニューからソート(ワークシート)：昇順を選びます。


Notes: Originは正規乱数として毎回ランダムに数値を入力するので、毎回結果が変わります。

このチュートリアルと同じ結果を得るには、Samplesフォルダ内にあるTutorial Data.opjを開き、プロジェクトエクスプローラでDiscriminant Analysis (Pro Only)サブフォルダを開きます。その中にあるFisher’s Iris Dataワークシートの列Fのデータを使用します。

判別分析を実行する

  1. A～D列を選択します。
  2. 統計：多変量解析：判別分析と選択し、判別分析ダイアログを開きます。
  3. A～D列の最初の120行分のデータをトレーニングデータとして設定するために、トレーニングデータの隣にある三角形ボタンButton Select Data Right Triangle.pngをクリックして、コンテキストメニューから列を選択…を選びます。
    Discrim dialog 1B.png
  4. 列ブラウザダイアログで下のパネルにある ... ボタンをクリックします。 データの範囲を1から120に設定します。OKをクリックします。
    Discrim dialog 1C.png
  5. 列Eの始めの120行をトレーニングデータのグループに設定するために、トレーニングデータのグループの隣にある三角形ボタンButton Select Data Right Triangle.pngを押して、コンテキストメニューからE(Y): Speciesを選びます。もう一度トレーニングデータのグループの三角形ボタンButton Select Data Right Triangle.pngをクリックし、コンテキストメニューから列の選択…を選び、列ブラウザダイアログで下のパネルにある…ボタンから範囲ダイアログで1から120に設定します。 OKをクリックします。
  6. テストデータの予測のチェックボックスにチェックを付けます。テストデータのインタラクティブボタンButton Select Data Interactive.pngをクリックします。ダイアログを縮小します。 ワークシートのA～D列を選択します。再度インタラクティブボタンをクリックしてダイアログを開きます。列ブラウザを開くために三角形ボタンButton Select Data Right Triangle.pngをクリックしてからコンテキストメニューで列の選択…を選びます。下のパネルの…ボタンをクリックして、範囲を121から150に設定します。
    Discrim dialog 1D.png
  7. 設定タブを開いて、交差確認にチェックを付けます。OKをクリックします。
    Discrim dialog 1E.png

交差検証

Discriminant Analysis Report1ワークシートに移動します。トレーニングデータの交差検証概要の表では、モデル計算から除外しながらそれぞれのケースを分類することにより事前エラー率を提供しています。しかし、この方法ではサブセット検証よりも楽観的なままとなっています。
Cross Validation Summary.png

サブセット検証

  1. テストデータの分類概要の表では、テストデータがどのように分類されているかが分かります。
    Classification Summary Test Data.png
  2. Fisher's Iris Dataのワークシートで、列E/Speciesの最後の30行（121から150）をコピーします。
  3. TestResultのワークシートに、1列（列E）を追加します。 新しく作成した列にコピーした内容を貼り付けます。
  4. ワークシートに新しい列（列F）を追加し、右クリックして“列値の設定”をコンテキストメニューから選びます。開いたダイアログでCompare(col(A),col(E))と入力します。そしてＯＫをクリックします。
    Discrim Set Value.png
  5. 30行のデータで0と表示されるのはありません。つまり、テストデータのエラー率は0ということを示しています。この判別モデルはとても良いといえるでしょう。

事前確率の修正

判別分析はグループメンバーシップの事前確率は同一と仮定しています。グループの集団の大きさが等しくなければ、事前確率は異なるかもしれません。この場合、事前確率オプションにグループの大きさに比例することを利用できます。

  1. Discrim2のワークシートに移動し、トレーニングデータの交差検証概要にあるエラー率の事前行はグループごとにメンバーシップの事前確率を示しています。3グループとも確率がほぼ等しくなることが想定されます。グループの大きさによって事前確率を調整することで、全体の分類率も改善できます。
    Discrim error rate.png
  2. Icon Recalculate Manual Green.png ボタンをクリックし、コンテキストメニューからパラメータを変更をクリックします。事前確率ラジオボタンのグループサイズに比例を選択します。OK ボタンをクリックします。
    Discrim dialog 1F.png
  3. 分類エラー率は2.50%である事が分かり、事前確率が等しい場合のエラー率2.63%よりも良い値です。
    Discrim error rate compare.png