帰無仮説

まずここでの、帰無仮説とは何でしょうか。これはｔ検定の時と似ています。ｔ検定の時は2つのグループの間に差がない、正確には平均値が同じであるということでした。ここでのANOVAの場合は3つ、または3つ以上のグループの間に差がない、つまり平均値が同じだということです。

今度は対立仮説ですが、ｔ検定のときは2つのグループの平均値には差があるということでした。今回のANOVA検定の場合はグループが3つ以上ある場合です。なので少しややこしく感じるかもしれませんが、実は単純です。3つのグループのうち少なくとも1つの平均値は他と異なるというものです。

さて、帰無仮説が差がないというものであったとしても、もちろん私たちはそんなことはないことは知っています。というのもデータはばらつくわけですから、たとえ3つのグループが同じだったとしても、若干は違いがある出るでしょう。

そこでそれら複数のグループの平均値の差は、同じ母集団からランダムに取り出した複数のグループ間の差と同程度なのか、それともそういった同じ集団からからでてきたという前提では説明しきれないほど大きい差なのかが問題となります。

そこで複数のグループ間の差の大きさが問題となるわけですが、その大きさをどうやって表せばよいでしょうか。ｔ検定の時は、2つのグループ間の平均値の差を標準誤差で割ることで差を標準化した数値ｔ値を算出し、このｔ値の大きさを持って判断しました。実はANOVAも基本は同じです。ただｔ値のようにグループが2つであればその差を求めればよいのですが、ANOVAの場合はグループが複数あるため単純に差と言ってもそれぞれの組み合わせ分あります。

そこでANOVAの場合は、差の代わりにそれぞれのグループの平均値のばらつきを使います。そしてそのばらつきがそれぞれのグループ内でのばらつきに対してどれだけ大きいのかをF値として算出し、この値がどれだけ大きいのかを判断します。

そこでF値を算出するための式は概念的に以下のようになります。

F値 = グループ間の平均値のばらつき / グループ内のばらつき

この仕組みをもう少し詳しくみていってみましょう。

グループ間の平均のばらつき

ここではさきほどの学校の例を使ってみていきましょう。以下のチャートはそれぞれの学校の平均点と全体の平均点を表したものです。

ここで私たちが知りたいのはそれぞれの学校の平均点が全体の平均点からどれだけばらついているのかということです。そこでこのばらつきを見やすくしたのが以下のチャートです。

そして私たちが知りたいのはそれぞれの平均値の全体の平均から平均してどれだけ離れているかを算出します。

それぞれのグループ間の違いが大きいのであれば、この数値は大きくなるでしょう。逆にグループ間の違いが小さいのであれば、それぞれの平均値と全体の平均値との差は小さくなるでしょう。しかし、この差が大きいか小さいかの判断は、データがどれだけばらついているのかによって変わってきます。

そこでそれぞれの学校の生徒のスコアを表したのが以下のチャートです。

見ての通りそれぞれの学校ではスコアにばらつきがあります。そこで先ほど算出した学校間の平均値のばらつきがこれらのそれぞれの学校でのばらつきに比べてどれだけなのかを判断したいのです。

つまり、グループ間のばらつき（正確には分散）がグループ内のばらつきに比べてどれだけ大きいかということです。

これを数式にしたのが例のF値を計算する式です。

F値 = グループ間の平均値のばらつき / グループ内のばらつき

さきほどグループ間のばらつきが大きいか小さいかは、それぞれの平均値が出てくる元となるグループごとのばらつきがどれだけ大きいのかによるという話をしました。例えば、先ほどのような平均値のばらつきが同じデータがあります。

しかしそれぞれのグループ内のばらつきは先ほどの例に比べてかなり小さかったとすると以下のようになります。

この場合は3つの学校の平均値はそれぞれのグループ内のばらつきが小さい分、そんなにばらつくことはなさそうです。

最初の例ではBとCのデータのばらつきには重なっている範囲が多く、学校Bでも学校Cの生徒に比べて同等か低いスコアであることもありました。しかし今回の例では学校Bと学校Cを比べた場合、Bのすべての生徒のスコアはCのだれよりも高いスコアとなっています。

これはAとCについても同じことが言えます。つまり、同じ平均値のばらつきでもそれぞれのグループ内のばらつきに比べて大きいか小さいかによって意味合いが変わってくるということです。

これは重要なポイントなので繰り返しますが、グループ間のばらつき（分散）がグループ内のばらつきに比べてどれだけ大きいのか、これこそが複数のグループに違いがあるのかどうかを判断するときに重要なポイントとなります。

同じグループ間のばらつきでも、グループ内のばらつきが大きいのであればそれは比較的小さいばらつきということになり、逆にグループ内のばらつきが小さいのであればそれは比較的大きいばらつきを意味します。

もちろん逆も然りです。つまりグループ内のばらつきが同じであれば、それこそグループ間のばらつきの大きさこそがそれが大きいのか小さいかの判断基準となります。

これこそがF値であって、それを求める式はグループ間の平均値のばらつきをグループ内のばらつきで割ったものとなるのです。

F値 = グループ間の平均値のばらつき / グループ内のばらつき

つまり、F値とはグループ間の大きさを「標準化」したものとも言えるでしょう。

自由度

2乗和の値を F 比にするためには，SS b とSS w の自由度を計算しなくてはなりません。自由度はある計算を行う対象の「データ」のサイズ（行数）から，そこで満たされなくてはならない「制約」の数を引いたものになります。

まずはグループ間のばらつきは、それぞれのグループの平均値に対して、全体の平均値からのばらつきを計算したものです。そこで計算の対象となるデータの数はグループの数であるG（この場合は３）であり、その際の制約は全体の平均値の数である１となります。（1個の制約）

グループ内のばらつきは対象となるすべてのデータ、つまりすべての行のそれぞれの値に対して、それぞれが属するグループの平均値からのばらつきを計算しています。そこで計算の対象となるデータのサイズはNで、その際の制約はグループの数である３となります。（ G 個の制約）

それぞれの自由度は以下のようになります。

自由度が求まれば、後はグループ間のばらつきとグループ内のばらつきをそれぞれの自由度で割ることで、グループ間2乗平均とグループ内2乗平均を求めることができます。

最後に，グループ間2乗平均をグループ内2乗平均で割ることで F 比を求めることができます。

非常に一般的な話をすれば， F 統計量の背後にある考え方はとても単純です。大きな F 値は，グループ間のばらつきがグループ内のばらつきに比べて大きいことを意味します。ですから， F 値が大きければ帰無仮説を棄却する根拠が十分あることになるわけです。

さてこのF値が比較的大きいか小さいかがわかっただけではグループ間の違いが有意なのかどうかの判断はできません。私たちが知りたいのはその数値が帰無仮説を棄却できるほど十分に大きいのかどうかです。そこで必要となるのが、手元のデータから得られたF値かさらに大きい値が出るであろう確率を出してくれる確率分布です。

そしてこの確率分布をF分布と呼びます。そうです、統計学はクリエイティブな人たちが集まる世界ではありません。おかげで確率分布の名前、そしてその分布においてとる値の名前という点ではあまり混乱が起こることはありません。

同じ母集団から繰り返し複数（たとえば3つ）のサンプルを抽出し、複数の平均値のばらつきを計算し、それぞれのグループの中のばらつきを計算した上でF値を算出するということを繰り返した場合、そのF値のばらつきはF分布という確率分布に従うのです。

それでは、ここからは実際にExploratoryを使ってANOVA検定を行ってみましょう。そのさいにこれまでに説明したF値がどう計算されるのかも具体的にみていってみましょう。そうすることでANOVAの仕組みをより深く理解できるようになります。

F値の計算

F値の計算過程はサマリ・タブの下で確認することができます。

すでに説明したようにF値とはグループ間の平均のばらつき（分散）の大きさをグループ内のばらつき（分散）の大きさで割ることで標準化した数値です。

<式のイメージ>

それではこのグループ間の平均の分散（ばらつきの平均）とグループ内のばらつきの平均がどう計算されるのかを順を追ってみていきましょう。

「第3章の分散と標準偏差」の章で触れた分散の計算を思い出してください。簡単に言うと、分散とは、全体の平均とそれぞれの値の差を計算し、それらを2乗したものの平均が分散、その分散のルート（または平方根）したのが標準偏差でした。ここではまさにこの分散の計算をグループの数分の平均というデータに対して、そしてグループ内のデータに対して行います。

グループ間の平均の分散の計算

まず、1行目は変数がSchoolと書いてありますが、この行がグループ間の平均値の分散に関する情報となります。分散を計算するにはまず全体の平均とそれぞれのグループの平均との差（偏差）を2乗して足し上げる必要があります。

3つのグループそれぞれの平均は以下のようになります。

全体の平均値である76.5とそれぞれの平均の差を計算します。この値を偏差と呼びます。

次に、それぞれの偏差を2乗します。

あとはこれらの数値の平均を取ればいいので、単純に3で割りたいところですが、1つ気をつけなくてはいけないことがあります。というのは今回はそれぞれの生徒の数はちょうど同じなので気にする必要はないのですが、いつもそうとは限りません。そんなときには重み付き平均を計算する必要があります。重み付き平均はｔ検定のときにも触れましたが、それぞれのグループの人数を掛けて最後に全員の数で割るだけです。

そしてこれらすべての重み付け偏差２乗を足し上げたものがグループ間の偏差の合計となります。

8.1 + 122.5 + 193.6 = 324.2

この値が2乗和の列の下に表示されている値です。

これは3つのグループ30人分の合計なので、これを全体の人数で割れば偏差の平均、つまり分散となります。ここで全体の人数で割りたいところですが、ここで一つ気をつけなくてはいけないのが、自由度です。データ量が多い時はあまり気にする必要がありませんが、データ量が少ない場合はデータの持つバイアスを調整するために、自由度を計算し、その数を使って平均値を計算すると言う話をｔ検定の時に話しましたが、ここでも同じです。

この場合、3つのグループ（学校）の平均なので自由度は3から1を引いた2となります。

3 - 1 = 2

そこで前述の2乗和の324.2をこの自由度の2で割った分散が2乗平均の列にある162.1となります。

2乗和 / (データの数 - 1) = 324.2 / (3 - 1) = 324.1 / 2 = 162.05

これが2乗平均の列にある162.1です。

グループ内の分散の計算

次にグループ内の分散の計算について見ていってみましょう。表の2行目は残差と書かれていますがこれがグループ内の分散に関するものです。

グループ内の分散はそれぞれのグループの平均値とそれぞれのメンバー（生徒）の値の差を計算し（偏差）、これらを2乗します。

これらの値の平均値を計算したいので、まずは合計を算出しますが1793.3となります。これが2乗和の列にある数値です。

これを全員の人数である30で割って平均、つまり分散を求めたいのですが、ここでもそのまま全員の人数30で割るのではなく、自由度を考慮する必要があります。

それぞれのグループから1を引くのですが、3つのグループがあるため単純に人数30から3を引いた27が自由度となります。

(10 - 1) + (10 - 1) + (10 - 1) = 30 - 3 = 27

そして先ほどの2乗和1793.3をこの自由度で割ると66.42となります。

1793.3 / 27 = 66.4185

F値の計算

グループ間の平均の分散とグループ内の分散が求まったのであとはこれらの比率としてF値を算出できます。グループ間の平均の分散をグループ内の分散で割ると2.4398となります。

162.05 / 66.4185 =　2.4398

これがF値の列の下の値です。

あとはこのF値が有意かどうかを見るだけです。自由度が2のF分布の確率分布を使うと、今回得られた2.44というF値かそれ以上の値が得られる可能性は0.1つまり10％ほどです。

ということは、棄却水準を5％（0.05）とした場合、10%は5％よりも大きいため、帰無仮説を棄却することができません。つまり、3つのグループの平均はそれなりに差があるものの、ここにあるデータからだけではその違いが有意だとは言えないということです。