二項分布 – TauStation

1 概要
2 確率分布
- 2.1 全事象
- 2.2 平均と分散
3 二項分布の形
4 正規分布近似
5 母集団確率の最尤推定
6 実用例
- 6.1 適用例
- 6.2 分析例

概要

ある試行において起こり得る事象が2通りしかない場合、このような試行をベルヌーイ試行(Bernoulli trial)という。たとえばコインを投げた時に表が出るか裏が出るか、くじ引きを引いたときに当たりが出るかはずれが出るか、など。

ベルヌーイ試行の2つの事象を確率変数 $X = 1, 0$ で表し、 $X = 1$ となる確率が $p$ であるとする。

(1) $\begin{alignat*}{1} P(X=1) &= p \\ P(X=0) &= 1-p \end{alignat*}$

このようなベルヌーイ試行を $n$ 回繰り返したとき、 $X=1$ が生じる回数の確率分布が二項分布(Binomial distribution)で、 $B(n, p)$ のように表示される。二項分布の例には以下のようなものがある。

コインの表／裏が出る確率が等しく1/2のとき、このコインを10回投げた時に表がでる回数の分布
打率3割の打者が4回打席に立って2安打以上打つ確率

確率分布

$n$ 回のベルヌーイ試行のうち、 $X=1$ が $k$ 回起こるケースは、 ${}_n \mathrm{C}_k$ 通りなので、二項分布の確率は以下のように表せる。

(2) $\begin{equation*} P(X=k ; p) = {}_n \mathrm{C}_k p^k (1-p)^{n-k} \end{equation*}$

全事象

$k=0~n$ の確率の和が全事象の確率であり、二項定理から、

(3) $\begin{equation*} \sum_{k=0}^n {}_n \mathrm{C}_k p^k (1-p)^{n-k} = (p + 1 - p)^n = 1 \end{equation*}$

平均と分散

二項分布 $B(n, p)$ の平均と分散は、以下のようになる。

(4) $\begin{alignat*}{1} E(X) &= np \\ V(X) &= np(1-p) \end{alignat*}$

この導出において興味深いテクニックが使われる。

二項分布の形

$n=20, p=0.3$ の二項分布のグラフをPythonで描くと以下のようになる。

import numpy as np
from scipy.stats import binom
from scipy.stats import norm
import matplotlib.pyplot as plt

np.random.seed(0)

n = 20
p = 0.3

min_k = 0
max_k = n

data = np.random.binomial(n, p, size=100)

k = np.arange(min_k, max_k + 1)
binom_pmf = binom.pmf(k, n, p)

fig = plt.figure()
ax = fig.add_subplot(111)

ax.plot(k, binom_pmf, label="binomial PMF")
ax.hist(data, bins=20, range=(min_k, max_k), density=True,
    color='c', edgecolor='k', label="binomial trials")
ax.legend(loc="upper right")
ax.text(15, 0.175, "n={}".format(n))
ax.text(15, 0.165, "p={}".format(p))

plt.show()

import numpy as np

from scipy.stats import binom

from scipy.stats import norm

import matplotlib.pyplot as plt

np.random.seed(0)

n = 20

p = 0.3

min_k = 0

max_k = n

data = np.random.binomial(n, p, size=100)

k = np.arange(min_k, max_k + 1)

binom_pmf = binom.pmf(k, n, p)

fig = plt.figure()

ax = fig.add_subplot(111)

ax.plot(k, binom_pmf, label="binomial PMF")

ax.hist(data, bins=20, range=(min_k, max_k), density=True,

color='c', edgecolor='k', label="binomial trials")

ax.legend(loc="upper right")

ax.text(15, 0.175, "n={}".format(n))

ax.text(15, 0.165, "p={}".format(p))

plt.show()

正規分布近似

二項分布 $B(n, p)$ は、 $np, np(1-p)$ が十分大きいとき(具体的には5より大きいとき)、平均 $np$ 、分散 $np(1-p)$ の正規分布で近似できる(ド・モアブル－ラプラスの定理)。

(5) $\begin{equation*} X \sim B(n, p) \rightarrow \frac{X - np}{\sqrt{np(1-p)}} \sim N=(0, 1) \end{equation*}$

これは、二項分布の1回の試行において成功する場合をX_i = 1、失敗する場合をX_i = 0として、成功回数 $\sum X_i$ の平均と分散がnp, np(1 − p)であることからわかる。

以下は、 $n, p$ の3つずつの組み合わせに対する、二項分布と正規分布の一致具合を比べたもの。表示範囲は、正規分布とみなしたときの $-3\sigma \sim 3\sigma$ に対応する範囲で設定している。

import numpy as np
from scipy.stats import binom
from scipy.stats import norm
import matplotlib.pyplot as plt

np.random.seed(0)

fig = plt.figure(figsize=(12, 9))
fig.subplots_adjust(hspace=0.3)

n_subplot = 0
for n in [10, 100, 1000]:
    for p in [0.15, 0.3, 0.5]:
        n_subplot += 1
        k = np.arange(0, n + 1)
        mu = n * p
        sig = np.sqrt(n * p * (1 - p))
        binom_pmf = binom.pmf(k, n, p)
        norm_pdf = norm.pdf(k, loc=mu, scale=sig)

        ax = fig.add_subplot(3, 3, n_subplot)
        ax.set_xlim(np.ceil(mu - 3*sig), np.floor(mu + 3*sig))
        ax.plot(k, binom_pmf, color='y', linewidth=7, label="binomial PMF")
        ax.plot(k, norm_pdf, color='k', linewidth=2, label="normal PDF")
        ax.legend(loc="lower center", fontsize=8)
        ax.set_title("n={}, p={:.2f}%".format(n, p))

plt.show()

import numpy as np

from scipy.stats import binom

from scipy.stats import norm

import matplotlib.pyplot as plt

np.random.seed(0)

fig = plt.figure(figsize=(12, 9))

fig.subplots_adjust(hspace=0.3)

n_subplot = 0

for n in [10, 100, 1000]:

for p in [0.15, 0.3, 0.5]:

n_subplot += 1

k = np.arange(0, n + 1)

mu = n * p

sig = np.sqrt(n * p * (1 - p))

binom_pmf = binom.pmf(k, n, p)

norm_pdf = norm.pdf(k, loc=mu, scale=sig)

ax = fig.add_subplot(3, 3, n_subplot)

ax.set_xlim(np.ceil(mu - 3*sig), np.floor(mu + 3*sig))

ax.plot(k, binom_pmf, color='y', linewidth=7, label="binomial PMF")

ax.plot(k, norm_pdf, color='k', linewidth=2, label="normal PDF")

ax.legend(loc="lower center", fontsize=8)

ax.set_title("n={}, p={:.2f}%".format(n, p))

plt.show()

母集団確率の最尤推定

二項分布の母集団確率の最尤推定量は $p=k/n$ である。

実用例

適用例

二項確率が与えられたときの、発生回数や個体数の予測。

当たりの確率がpの掛けの、掛け回数nと当たりの回数k
故障率pの部品について、n個の部品のうちの故障数k
罹患率pの病気について、n人のうちの罹患者数k
支持率pの政党に対して、n人のうちの支持者数k

分析例

上記と逆に、nサンプルから事象がk回発生したときの確率を推定。

概要

確率分布

全事象

平均と分散

二項分布の形

正規分布近似

母集団確率の最尤推定

実用例

適用例

分析例

コメントを残す コメントをキャンセル

コメントを残すコメントをキャンセル