EM アルゴリズム - コイントスの実装例

理論上の参考文献

[機械学習] EM - 期待最大値 (非常に詳細)

サンプル紹介

c 個のコインがあり、ランダムに 1 つを選択して n 回投げ、m 回繰り返して結果を記録します。
トスの結果に基づいて、各コインの表の確率を計算します。
毎回選ばれるコインは不明。

プロセスの紹介

1. head_p が正になる確率でコインをランダムに初期化します。
2. head_p selected_p に基づいてコインを選択する確率を求める
3. selected_p に基づいて新しいコインの確率 head_p を計算します
4. head_p が収束した場合は 5 を実行、そうでない場合は 2 を実行
5. 仕上げる

コード

インポートライブラリ

import random
import numpy as np
from tqdm import tqdm
from collections import Counter
import matplotlib.pyplot as plt

表向きのコインの真の価値を設定します

Coin_num: コインの数

コイン: コインの真の価値が上がる

# 设置真实值
coin_num = 5
coins = []
for _ in range(coin_num):
    coins.append(random.randint(0, 100)/100)
coins

アナログコイン

1. ランダムにコインを引く
2. n回投げる
3. m 回ループします

1 は表、0 は裏

[注意]: 確率を計算する際に組み合わせの数は乗算されないため、n が大きすぎると、確率が精度を失い 0 になり、最適化が失敗します。

0n = 100
m = 1000
coin_result = np.zeros((m, n), dtype=int)

c_selected_record = []
for i_m in range(m):
    # 选择硬币
    coin_p = random.choice(coins)
    c_selected_record.append(coin_p)
    for i_n in range(n):
        # 开始投掷
        coin_result[i_m, i_n] = 1 if random.random() < coin_p else 0

coin_result.shape, Counter(c_selected_record)

EMアルゴリズム

初期化: コインの表の確率をランダムに初期化します。

1. ステップ E: 現在のコインの期待値を計算する
2. ステップ M: コインパラメータを更新する

実装を容易にするために、確率の計算方法が変更されていますが、結果は変わりません。

$$\begin{gathered} p^{n_{}}\times (1-p{)}^{n_{}} \\ =exp(n_{}\times \mathrm{ログ}\left(p\right)\_+n_{}\times \mathrm{ログ}(1\_-p)) \end{gathered}$$

【注意】：予測コインは1対1対応ではなく、順番が変わります

ini_coin_theta = np.array([random.randint(1, 99)/100 for _ in range(coin_num)])
# coin_theta = np.array([0.2, 0.9])
print('ini coin:', ini_coin_theta)

def E(coin_theta, coin_result):
    
    h_e_sum = np.zeros_like(coin_theta)
    t_e_sum = np.zeros_like(coin_theta)
    
    h_num = coin_result.sum(1)[:, None]
    t_num = coin_result.shape[1] - h_num
    
    # 可以评估每个硬币的得分
    coin_selected_p = h_num @ np.log(coin_theta[None]) + t_num @ np.log(1 - coin_theta[None])
    coin_selected_p = np.exp(coin_selected_p)
    coin_selected_p = coin_selected_p / coin_selected_p.sum(1)[:, None]
    
    h_e = coin_selected_p  * h_num
    t_e = coin_selected_p  * t_num
    
    return h_e.sum(0), t_e.sum(0), coin_selected_p

def M(h_e_sum, t_e_sum):
    return h_e_sum / (h_e_sum + t_e_sum)

max_step=1000
coin_result = np.array(coin_result)

h_e_record = []
t_e_record = []
theta_record = []
delta_record = []

coin_theta = ini_coin_theta
for i in tqdm(range(max_step)):
    h_e_sum, t_e_sum, coin_selected_p = E(coin_theta, coin_result)
    
    h_e_record.append(h_e_sum)
    t_e_record.append(t_e_sum)
    
    new_coin_theta = M(h_e_sum, t_e_sum)
    
    theta_record.append(new_coin_theta)
    
    delta =  ((new_coin_theta - coin_theta)**2).sum()
    
    delta_record.append(delta)
    
    # print(new_coin_theta)
    if delta < 1e-10:
        break
    coin_theta = new_coin_theta
    

h_e_record = np.array(h_e_record)
t_e_record = np.array(t_e_record)
theta_record = np.array(theta_record)
delta_record = np.array(delta_record)
    
i, coin_theta, coins

'''
(36,
 array([0.62988197, 0.43099465, 0.84265886, 0.99086422, 0.53815304]),
 [0.84, 0.99, 0.63, 0.44, 0.54])
'''

パラメータ変更プロセスの表示

def plot_list(f, x, y, labels, title):
    f.set_title(title)
    for i in range(y.shape[1]):
        f.plot(x, y[:, i], label = labels[i], linestyle='--')

index = range(0, i+1)
labels = list(range(coin_theta.shape[0]))
figure, axes = plt.subplots(2, 2, figsize=(12,12), dpi=80)


axes[0, 0].set_title("delta")
# 与上一步结果的差别
axes[0, 0].plot(index, delta_record, label="delta")
# 硬币正面的概率
plot_list(axes[0, 1], index, theta_record, labels=labels, title="theta")
# 每个硬币正面的加权和
plot_list(axes[1, 0], index, h_e_record, labels=labels, title="h_e")
# 每个硬币反面的加权和
plot_list(axes[1, 1], index, t_e_record, labels=labels, title="t_e")

for axe in axes:
    for a in axe:
        a.legend()

ソースファイル

HMTTT/EM-