確率変数の和と積

同時分布と周辺分布

２つの確率変数 \( X, Y \) について、\( X \) の取る値を \( x_1, x_2, x_3 \)、\( Y \) の取る値を \( y_1, y_2 \) であるとする。
\( P(X = x_i, Y = y_j) = p_{ij} \) とすると下表のような \( (x_i, y_j) \) と \( p_{ij} \) との対応が得られる。この対応を \( X \) と \( Y \) の 同時分布 という。

\(X\) ＼ \(Y\)	\(y_1\)	\(y_2\)	計
\(x_1\)	\(p_{11}\)	\(p_{12}\)	\(p_1\)
\(x_2\)	\(p_{21}\)	\(p_{22}\)	\(p_2\)
\(x_3\)	\(p_{31}\)	\(p_{32}\)	\(p_3\)
計	\(q_1\)	\(q_2\)	1

ここで
\( \begin{align}
&p_{11} + p_{12} = p_1, &\quad& p_{21} + p_{22} = p_2, &\quad& p_{31} + p_{32} = p_3 \\
&p_{11} + p_{21} + p_{31} = q_1, &\quad& p_{12} + p_{22} + p_{32} = q_2 &\quad&
\end{align} \)
となり、\( X \) と \( Y \) はそれぞれ下表の分布に従う。この対応を \( X, Y \) の 周辺分布 という。

\(X\)	\(x_1\)	\(x_2\)	\(x_3\)	計
\(P\)	\(p_1\)	\(p_2\)	\(p_3\)	1

\(Y\)	\(y_1\)	\(y_2\)	計
\(P\)	\(q_1\)	\(q_2\)	1

確率変数の独立、事象の独立

2つの確率変数 \( X, Y \) において \( X \) のとる任意の値 \( a \) と \( Y \) のとる任意の値 \( b \) について \( P(X = a, Y = b) = P(X = a) P(Y = b) \) が成り立つとき、\( a \) と \( Y \) は互いに 独立 であるという。

\( \begin{eqnarray}
\text{２つの事象 A と B が互いに独立} &\quad& &\Longleftrightarrow& &\quad& P_A(B) &=& P(B) &\quad& &\Longleftrightarrow& &\quad& P_B(A) &=& P(A) &\qquad& \text{(定義)}\\
&\quad& &\Longleftrightarrow& &\quad& P(A \cap B) &=& P(A) P(B) &\quad& &\qquad& &\quad& & & &\qquad& \text{(独立な事象の乗法定理)}
\end{eqnarray}\)

2つの事象 \( A \) と \( B \) が互いに独立でないとき、\( A \) と \( B \) は 従属 であるという。

期待値の性質

1. 2つの確率変数 \( X, Y \) の和を \( Z = X + Y \) とすると \( Z \) も確率変数であり、
   \( \begin{eqnarray}
   E(Z) &=& (x_1 + y_1) p_{11} + (x_1 + y_2) p_{12} + (x_2 + y_1) p_{121} + (x_2 + y_2) p_{22} + (x_3 + y_1) p_{31} + (x_3 + y_2) p_{32} \\
   &=& \{ x_1 (p_{11} + p_{12}) + x_2 (p_{21} + p_{22}) + x_3 (p_{31} + p_{32}) \} + \{ y_1 (p_{11} + p_{21} + p_{31}) + y_2 (p_{12} + p_{22} + p_{32}) \} \\
   &=& ( x_1 p_1 + x_2 p_2 + x_3 p_3 ) + ( y_1 q_1 + y_2 q_2 ) \\
   &=& E(X) + E(Y)
   \end{eqnarray}\)
   一般に \( \quad E(aX + bY) = E(aX) + E(bY) = a E(X) + b E(Y) \)
2. \( X \) と \( Y \) が互いに独立のとき \( p_{ij} = P(X = x_i, Y = y_j) = P(X = x_i)P(Y = y_j) = p_i q_j \) から
   \( \begin{eqnarray}
   E(XY) &=& (x_1 y_1) p_1 q_1 + (x_1 y_2) p_1 q_2 + (x_2 y_1) p_2 q_1 + (x_2 y_2) p_2 q_2 + (x_3 y_1) p_3 q_1 + (x_3 y_2) p_3 q_2 \\
   &=& x_1 p_1 (y_1 q_1 + y_2 q_2) + x_2 p_2 (y_1 q_1 + y_2 q_2) + x_3 p_3 (y_1 q_1 + y_2 q_2) \\
   &=& (x_1 p_1 + x_2 p_2 + x_3 p_3)(y_1 q_1 + y_2 q_2) \\
   &=& E(X) E(Y)
   \end{eqnarray}\)

分散の性質

\( X \) と \( Y \) が互いに独立ならば、\( Z = X + Y \) のとき
\( \qquad E(Z^2) = E(X^2 + 2XY + Y^2) = E(X^2) + 2E(XY) + E(Y^2) = E(X^2) + 2E(X)E(Y) + E(Y^2) \)
また、
\( \qquad \{E(Z)\}^2 = \{ E(X) + E(Y) \}^2 = \{E(X)\}^2 + 2E(X)E(Y) + \{E(Y)\}^2 \)
よって
\( \qquad V(Z) = E(Z^2)\ -\ \{E(Z)\}^2 = E(X^2)\ -\ \{E(X)\}^2 + E(Y^2)\ -\ \{E(Y)\}^2 = V(X) + V(Y) \)
一般に、\( X \) と \( Y \) が互いに独立ならば、
\( \qquad V(aX + bY) = V(aX) + V(bY) = a^2 V(X) + b^2 V(Y) \)