線形回帰分析とは？

線形回帰分析はある変数（データ）を別の変数（データ）で説明・予測するための適切なモデルを、観測データから構成するデータ解析法の総称です。

線形回帰分析を行うと、手元のデータから未来のデータを予測したり、説明変数が目的変数に与える影響の大きさを説明することができます。

線形回帰分析はどんな時に使われているか

・マーケティング担当者が広告費が本当に売上アップに影響しているのか、どのくらい影響しいるのか知りたい

・小売店の店長が商品の売上の変化に気温が影響しているのか、どのくらい影響しているのか知りたい

・不動産を購入する企業の担当者が、部屋の広さや築年数、立地条件をもとにどのくらいの価格で売れそうか予測したい

・事業責任者が広告費や商品の価格を元に来月の売上を予測したい

・学生の勉強時間や授業出席率がテストの得点に影響するのか、どのくらい影響するのか知りたい

・年齢や体重、血圧が病気のリスクに影響するのか、どう影響するのか知りたい

など、様々な業界で多くの人に使われています。

線形回帰分析の種類

1. 単回帰分析

　• 説明変数が1つの場合の回帰分析。

　• 例: 広告費（説明変数）が売上（目的変数）に与える影響を調べる。

2. 重回帰分析

　• 説明変数が複数ある場合の回帰分析。

　• 例: 広告費、従業員数、プロモーション回数が売上に与える影響を調べる。

例題：線形回帰分析を用いた広告戦略の検証

線形回帰分析を用いた分析をRを用いて具体的にを見ていきます。

今回は売上とメディア別広告費のデータセットを使います。

このデータセットは1行が1つの市場におけるsある商品のales(売上)と広告費の内訳を表しています。全部で200行あるので、今回は200の異なる市場における、ある商品のsalesと広告宣伝費（千ドル単位）をまとめたデータということになります。

TV：テレビにおける宣伝費

radio：ラジオにおける宣伝費

newspaper：新聞における宣伝費

sales：ある商品の売上

今回知りたいことは、「広告宣伝費（今回は簡単のためTVの宣伝費に限定します）は本当に商品の売上を上昇させているか？」ということです。

線形回帰分析はある変数（データ）を別の変数（データ）で説明・予測するための適切なモデルを、観測データから構成するデータ解析法の総称でした。

例えば、salesをTVによって説明できるモデルを構成すれば、広告宣伝におけるTVの有効性が検証できます。

早速やってみましょう。

線形単回帰分析

今回は線形回帰分析の中でも最もシンプルな方法：単回帰分析を行います。

まず、salesがTVの1次関数で近似的に説明できると仮定します。

sales ≈　β0 + β1 × TV

salesは目的変数、TV（宣伝費）は説明変数です。

β0 、β1は回帰係数と呼ばれます。

もしβ1が十分に大きければ、テレビにおける宣伝費は有効だということが言えます。

ではβ0 、β1の適切な値はどのように求めれば良いのでしょうか？

今、200の異なる市場におけるsales（売上）とTV宣伝費のデータが手元にあります。

ここでは、i番目の市場におけるTVの値をxi、salesの値をyiと書くことにします。

目標：以下の近似が、全ての i = 1,2,…n =200 について、限りなくよくなるように、β0 とβ1の値を決めたい。

yi ≈ β0 + β1 × xi

つまり、点(x1,y1),(x2,y2),…,(xn,yn)の全てに対して、可能な限り近くなるように、

直線yi ≈ β0 + β1 × xi　を引きたいと考えています。

最小二乗法

では yi と β0 + β1 × xi の「近さ」はどのように測れば良いでしょうか？

観測値と予測値の距離の近さを測る時、最もよく使われる方法が最小二乗法です。

β0 + β1 × xi　によって　yi　を近似した際の残差を　 ei = yi - ( β0 + β1 × xi )　とした時

全ての残差ができる限り小さくなるには

残差二乗和　E = Σ ei ^2 = e1^2 + e1^2 + … +. en^2 （※1）が最小となれば良いです。

つまり、この残差二乗和Eが最も小さくなるように、β0とβ1を求めることができれば

観測値と予測値が最も近づく直線を描くことができます。

（※1:Σの範囲：i = 1 〜 n まで）

では残差二乗和のEが最小になるβ0とβ1はどうすれば求めることができるのでしょうか？

これは数学の世界で正規方程式と呼ばれる連立方程式（後述）を解くことで、

（残差二乗和Eを最小にする）β0とβ1が求まることが分かっています。

ちなみに上記画像は残差二乗和Eを表す曲面のグラフ　E = E ( β0 , β1 )のグラフです。

＊が正規方程式の解に対応する点（↔︎曲面が平坦になる点）を表しています。

その正規方程式の解は、次の式で与えられます。

この正規方程式を直接解いて偏回帰係数（実際には観測には必ず誤差が含まれるとされているため、真の回帰係数β0,β1は神のみぞ知る値となり、厳密な値を求めることはできません。そのため、求めたいβ0,β1代わりとして、統計的な知識を使って推定するβ0,β1を、偏回帰係数とよび、これを使って近似線を決定します。この偏回帰係数は、一般的にβ0hat、β1hatと表現されます。）を求めることも可能ですが、

Rを使えば、簡単にβ0hat , β1hatを求めることができます！

下記が実際のRのコードになります。

これを実行した結果は下記になります。

この分析結果から、（β0hat = 7.03259）β1hat = 0.04754 が求まったことから

手元にあるデータについては「テレビの宣伝広告費は売上を上昇させる」ことが分かりました。

しかしここで気をつけたいのは、あくまで手元のデータにおいて、上記の関係が言えるということです。

本当に知りたいのは上の関係が一般的に成立するか否か（新たな市場で商品を売る際に、テレビでの宣伝が売上に繋がるか？）ということです。

これを考えるには、推測統計の枠組み（ランダムネスの導入と活用）を利用する必要があります。

推測統計の枠組み（ランダムネスの導入と活用）を利用するとは、

標準誤差（β1hatの標準偏差）を求めて、β1hatの有意性（求めた偏回帰係数β1hatは統計的に正しいと言っていいか）を検定することを指します。

具体的な手順としては、推定精度の評価→標準誤差の推定→有意性の検定とステップを踏んで行いますが

こちらもRを使えば簡単にβ1hatの「大きさ」「有意性」（すなわち一般的にテレビの宣伝広告費は売上を上昇させると言えるか）を確認することができます。

下記がその実際のコードです。

この結果は下記になります。

以上より、β1hatは有意であることが分かりました。

いかがでしたでしょうか？

統計的な知識やRのプログラミングの話もあり、難しいと感じた人も少なくないのではないでしょうか。

それでは今度はExploratory を用いて、単回帰分析を行ってみたいと思います。

Exploratoryでは手元のデータについての関係だけでなく、上記の推測統計の枠組みも自動で行い、

「一般的にTV広告費はsalesに影響を与えているか、どんな影響を与えているのか（新たな市場でも商品を売る際に、テレビでの宣伝が売上に繋がるか？）」

確認することができます。

Exploratoryのアナリティクス単回帰分析を紹介

早速Exploratoryを用いて単回帰分析を実行してみましょう。

用いるデータ

単回帰分析には、1行が1観測対象となっているデータが必要です。

分析に用いるサンプルデータとして、今回も同じく売上とメディア別広告費を使用します。このデータは、1行がある商品の1つの市場における広告費の内訳を表しています。

このサンプルデータは全部で200行あるので、200の異なる市場におけるある商品の売上と広告費をまとめたデータということになります。

単回帰分析を実行する

アナリティクスビューを開き、タイプに「線形回帰分析」を選択します。

目的変数の列をクリックして、予測したい変数を選択します。

今回は売上金額を予測したいので、目的変数に「sales」を選択します。

次に予測（説明）変数の列をクリックして、予測に使用する列を選択し、右下にあるOKを選択します。

ちなみにシフトキーを押すことで複数の列（「radio」や「newspaper」）を一気に選択することもでき、そのまま重回帰分析も行うことができます。

列の指定が完了したら、左側の緑の「実行」を選択することで、線形回帰分析の結果が表示されます。

表示される実行結果

結果の解釈