情報知能学基礎演習豊田秀樹(2008)『データマイニング入門』 (東京図書)第6章情報知能学科白井英俊前回のコメント・質問 • 連関規則を作る時に、信頼度、サポートの下限の値を記入しますが、信頼度は事前確率より高くないといけないので、 itemFrequenryで出した値の中で、一番高いのより、少し高くしといたほうがいいでしょうか。 • itemFrequencyPlotとすることによって一行前にあった itemFrequencyという変数（？）をplotしてるのでしょうか？ • 温泉のデータマイニングの時、効能的には一緒なのにヘッドとボディの部分を入れ替えるだけで確率が変わるのが少し納得がいかなかった • 信頼度とか前提確率とかはわかるのですがsupport(サポート)っていったい何なんだろうと思った前回のコメント・質問（続き) • inspect(SORT(雨ルール, “support”)[1:10, ]) について 1. SORTって小文字でもいいのでは。何か意味があるのでしょうか？ 2. [1:10,]ってところは１～10まで並べるって意味なのでしょうか？ • options(digits=2)での表示桁数の変更はなぜ行っているのでしょうか？ • print(inspect(温泉ルール[c(20,21, 70, 69, 3, 4, 127, 83, 61), ]), digits=3)で、表示の最後にNULLと表示されるのはなぜでしょうか？ • Rを開きなおさずに、それまでの実行をなかったことにできるようなコマンドやツールはないのですか？ 6章クラスター分析 • クラスター分析：観測対象を、互いに似たもの同士（「類似度」）でグループ分け • 二つの分類： 1. 階層的：「階層」とは動植物の体系のように、分類が大分類から小分類へと段階的に分類が細かくなっているようなもの 2. 非階層的 6.1 階層的クラスター分析 • 類似度の定義ユークリッド距離（日常的な感覚の「距離」） 2変数の場合： ( xi1, xi 2 ) と ( x j1, x j 2 ) の距離dij = ( xi1  x j1 ) 2  ( xi 2  x j 2 ) 2 多変量の場合(n次元) d ij  n 2 ( x  x )  ik jk k 1 6.1.2 動物の分類を例に • 階層的クラスター分類の手順 1. 変数を用いて個々の対象間の距離をすべて計算し、その中で距離が最も短い対象同士を併合して、最初のクラスターを作成 2. 新しく併合されたクラスターと他の対象間の距離を再度計算し、手順1で計算された対象間の距離を含めてもっとも近いものを併合する。 3. 手順2を繰り返して、すべてのクラスターが統合されるまで計算 4. クラスターが併合される過程を表すデンドログラムを描く動物の分類を例にした距離動物体重(kg) 脳の重さ(g) 標準化（平均0.0、分散1.0）動物体重脳の重さ牛 465 423 牛 0.921 -0.581 馬 521 655 馬 1.175 0.016 ゴリラ 207 406 ゴリラ -0.246 -0.625 人間 62 1320 人間 -0.902 1.727 チンパンジー 52 440 チンパンジー -0.947 -0.537 距離を求める牛「牛」と「馬」を一つのクラスターにする最小値馬ゴリラ馬 0.65 ゴリラ 1.17 1.56 人間 2.94 2.69 2.44 チンパンジー 1.87 2.19 0.71 人間 2.26 クラスター間の距離ゴリラ C1：牛＋馬ゴリラ 1.34 人間 2.80 チンパンジー 2.01 最小値人間 2.44 0.71 2.26 「ゴリラ」と「チンパンジー」を一つのクラスターにする • 重心法：クラスターの重心（平均）からの距離 • 最短距離法：クラスター内の要素からの最短距離 • 最長距離法：クラスター内の要素からの最長距離 • 群平均法：クラスター内の要素からの距離の平均デンドログラム人間 1.0 距離行列 hclust (*, "average") チンパンジーゴリラ馬牛 0.5 Height 1.5 2.0 2.5 動物のクラスター分析 6.1.4 ウォード法 • ウォード法：２つのクラスターを併合する時に、クラスター内の平方和を最小にするようにクラスターを併合するクラスター間の距離：2つのクラスターを併合した時の平方和（散布度）の増加量で定義平方和の増加量が大きい⇒２つのクラスターが類似していない ⇒平方和の増加量が小さいものから併合することで、似たもの同士がまとまる散らばりの変化量＝併合後の平方和 - ∑（それぞれの平方和）ウォード法（続き） • 利点：鎖効果が起こりにくい鎖効果：ある一つのクラスターに対象が一つずつ順番に吸収されて、クラスターの形成がなされていく減少。特に最短距離法でこれが起こりやすい重心法は、クラスター併合後に距離が短くなる場合があり、距離の単調性が保証されないクラスター法は実用場面でよく使われ、お勧めヒートマップ（図6.5) 六本木銀座お台場横浜新宿渋谷上野浅草吉祥寺先進的派手いそがしいしゃれた開放的冷静早稲田 6.2 非階層的クラスター分析 • 非階層的手法では、あらかじめ指定したクラスター数で観測対象を分類 • 利点：計算が速い。大量のデータを処理する場合は、クラスター数の大体の目星をつけて、クラスター数を変えて非階層的手法を数回実施した方が効率が良い（場合が多い） • 欠点：クラスター数を指定しなければ分析できない k-means法 • MacQueen(1967)による提案 1. N個の観測対象をK個の初期クラスターに任意に分類しておく 2. 各クラスターの中心点を計算 3. N個の観測対象のK個のクラスターの中心点への距離を計算(N*K個） 4. すべての観測対象に関して、その時点で各自が所属しているクラスターへの距離が、K個のクラスターの中で一番近ければ計算終了。さもなければ、一番近いクラスターに割り当てなおして２へ。 k-means法の確認４つの観測対象、2次元の特徴量この観測対象を2つのクラスターに分ける(K=2) 観測対象 (1) AB と CD に分類 (2) クラスターの中心点を求める： AB = (2,3), CD = (-1,-1) x1 x2 A 6 4 B -2 2 C 0 -2 D -2 0 k-means法の確認（続) (3) それぞれの観測対象から、これらの中心点への距離を計算（右表、赤字は各行の最小値) 観測対象 (AB) (CD) A 17 74 B 17 10 C 29 2 D 25 2 (4) Bが誤分類されているため、クラスターを(A)と(BCD)に分類し、中心点を計算： (A)=(6,4), (BCD)=(-1.3, 0 ) 観測対象 (5)それぞれの観測対象から、これらの中心点への距離を計算（右表)⇒終了 (A) (BCD) A 0 69.8 B 68 4.44 C 72 5.78 D 80 0.44 非階層法の注意 • クラスターの解釈は分析者の責任 • 初期クラスターの初期値に依存するため、出力はいつも同じとは限らない • 分析者の判断により、適切なクラスター数を決定して解釈を行う