연습문제 6.17

베르누이 시행을 $n$ 번 시행하여 $k$ 번 성공했다면 $p$ 의 MLE에 의한 추정량은 $\frac{k}{n}$ 임을 보여라.

(풀이). $n$ 번 시행해서 $k$ 번 성공하는 사건을 $E$ 라 하고 $P (E)$ 를 모수 $p$ 의 함수로 나타내면, $c := (\binom{n}{k})$ 로 두었을 때

\begin{aligned} L (p) = c \cdot p^{k} (1 - p)^{n - k} \\ ℓ (p) = c \cdot (k \log p + (n - k) \log (1 - p)) \\ ℓ^{'} (p) = c \cdot (\frac{k}{p} - \frac{n - k}{1 - p}) = 0 \\ \frac{k - k p - n p + k p}{p (1 - p)} = \frac{k - n p}{p (1 - p)} = 0 \\ ℓ^{'} (p) = 0 at p = \frac{k}{n} \\ ⊣ & ℓ^{″} (p) = c \cdot (- \frac{k}{p^{2}} - \frac{n - k}{(1 - p)^{2}}) < 0 \end{aligned}