gmg官网联盟

项目和代码下载地址：文章末尾。最后结果：

高斯混合模型 EM 算法的 Python 实现 2017年11月24日 Wray Zheng704文章目录高斯混合模型简介GMM 的 EM 算法E 步M 步Python 实现测试结果测试数据参考资料相关文章

高斯混合模型简介首先简单介绍一下，高斯混合模型（GMM, Gaussian Mixture Model）是多个高斯模型的线性叠加，高斯混合模型的概率分布可以表示如下：P(x)=∑k=1Kαkϕ(x;μk

,Σk)P(x)=∑k=1Kαkϕ(x;μk,Σk)其中，K 表示模型的个数，αkαk 是第 k 个模型的系数，表示出现该模型的概率，ϕ(x;μk,ΣkGMG官网app)ϕ(x;μk,Σk) 是第 k 个高斯模型的概率分布。

这里讨论的是多个随机变量的情况，即多元高斯分布，因此高斯分布中的参数不再是方差 σkσk，而是协方差矩阵 ΣkΣk 我们的目标是给定一堆没有标签的样本和模型个数 K，以此求得混合模型的参数，然后就可以用这个模型来对样本进行聚类。

GMM 的 EM 算法我们知道，EM 算法是通过不断迭代来求得最佳参数的在执行该算法之前，需要先给出一个初始化的模型参数我们让每个模型的 μμ 为随机值，ΣΣ 为单位矩阵，αα 为 1K1K，即每个模型初始时都是等概率出现的。

EM 算法可以分为 E 步和 M 步E 步直观理解就是我们已经知道了样本 xixi，那么它GMG官网app是由哪个模型产生的呢？我们这里求的就是：样本 xixi 来自于第 k 个模型的概率，我们把这个概率称为模型 k 对样本 x。

ixi 的“责任”，也叫“响应度”，记作 γikγik，计算公式如下：γik=αkϕ(xi;μk,Σk)∑Kk=1αiϕ(xi;μk,Σk)γik=αkϕ(xi;μk,Σk)∑k=1Kαiϕ(xi;μk,Σk)

M 步根据样本和当前 γγ 矩阵重新估计参数，注意这里 x 为列向量：μk=1Nk∑i=1Nγikxiμk=1Nk∑i=1NγikxiΣk=1Nk∑i=1Nγik(xi−μk)(xi−μk)TΣk=1Nk∑i=1Nγik(xi−μk)(xi−μk)T

αk=NkNαkGMG官网app=NkNPython 实现在给出代码前，先作一些说明在对样本应用高斯混合模型的 EM 算法前，需要先进行数据预处理，即把所有样本值都缩放到 0 和 1 之间初始化模型参数时，要确保任意两个模型之间参数没有完全相同，否则迭代到最后，两个模型的参数也将完全相同，相当于一个模型。

Q微：3731239

模型的个数必须大于 1当 K 等于 1 时相当于将样本聚成一类，没有任何意义gmm.py 文件：# -*- coding: utf-8 -*- # ---------------------------------------------------- # CopyrighGMG官网appt (c) 2017, Wray Zheng. All Rights Reserved. # Distributed under the BSD License. # ---------------------------------------------------- import numpy as np import matplotlib.pyplot as plt from scipy.stats import multivariate_normal DEBUG = True GMG官网app ###################################################### # 调试输出函数 # 由全局变量 DEBUG 控制输出 ###################################################### def debug(*args, **kwargs): global DEBUG if DEBUG: print(*args, **kwargs) #######################GMG官网app############################### # 第 k 个模型的高斯分布密度函数 # 每 i 行表示第 i 个样本在各模型中的出现概率 # 返回一维列表 ###################################################### def phi(Y, mu_k, cov_k): norm = multivariate_normal(mean=mu_k, cov=cov_k) return norm.pdf(Y) #GMG官网app##################################################### # E 步：计算每个模型对样本的响应度 # Y 为样本矩阵，每个样本一行，只有一个特征时为列向量 # mu 为均值多维数组，每行表示一个样本各个特征的均值 # cov 为协方差矩阵的数组，alpha 为模型响应度数组 ###################################################### def getExpectation(Y, mu, cov, alpGMG官网appha): # 样本数 N = Y.shape[0] # 模型数 K = alpha.shape[0] # 为避免使用单个高斯模型或样本，导致返回结果的类型不一致 # 因此要求样本数和模型个数必须大于1 assert N > 1, "There must be more than one sample!" assert K > 1, "There must be more than one gaussian model!" # 响应度矩阵，行对应样本，列GMG官网app对应响应度 gamma = np.mat(np.zeros((N, K))) # 计算各模型中所有样本出现的概率，行对应样本，列对应模型 prob = np.zeros((N, K)) for k in range(K): prob[:, k] = phi(Y, mu[k], cov[k]) prob = np.mat(prob) # 计算每个模型对每个样本的响应度 for k in range(K): gamma[:, k] = alpha[k] *GMG官网app prob[:, k] for i in range(N): gamma[i, :] /= np.sum(gamma[i, :]) return gamma ###################################################### # M 步：迭代模型参数 # Y 为样本矩阵，gamma 为响应度矩阵 ###################################################### def maximizGMG官网appe(Y, gamma): # 样本数和特征数 N, D = Y.shape # 模型数 K = gamma.shape[1] #初始化参数值 mu = np.zeros((K, D)) cov = [] alpha = np.zeros(K) # 更新每个模型的参数 for k in range(K): # 第 k 个模型对所有样本的响应度之和 Nk = np.sum(gamma[:, k]) GMG官网app # 更新 mu # 对每个特征求均值 for d in range(D): mu[k, d] = np.sum(np.multiply(gamma[:, k], Y[:, d])) / Nk # 更新 cov cov_k = np.mat(np.zeros((D, D))) for i in range(N): cov_k += gamma[i, k] * (Y[i] - mu[k]).T * (Y[i] - mu[k]) / Nk cov.append(covGMG官网app_k) # 更新 alpha alpha[k] = Nk / N cov = np.array(cov) return mu, cov, alpha ###################################################### # 数据预处理 # 将所有数据都缩放到 0 和 1 之间 ###################################################### def scale_dataGMG官网app(Y): # 对每一维特征分别进行缩放 for i in range(Y.shape[1]): max_ = Y[:, i].max() min_ = Y[:, i].min() Y[:, i] = (Y[:, i] - min_) / (max_ - min_) debug("Data scaled.") return Y ###################################################### # 初始化模型参数GMG官网app # shape 是表示样本规模的二元组，(样本数, 特征数) # K 表示模型个数 ###################################################### def init_params(shape, K): N, D = shape mu = np.random.rand(K, D) cov = np.array([np.eye(D)] * K) alpha = np.array([1.0 / K] * K) GMG官网appdebug("Parameters initialized.") debug("mu:", mu, "cov:", cov, "alpha:", alpha, sep="\n") return mu, cov, alpha ###################################################### # 高斯混合模型 EM 算法 # 给定样本矩阵 Y，计算模型参数 # K 为模型个数 # times 为迭代次数 ############GMG官网app########################################## def GMM_EM(Y, K, times): Y = scale_data(Y) mu, cov, alpha = init_params(Y.shape, K) for i in range(times): gamma = getExpectation(Y, mu, cov, alpha) mu, cov, alpha = maximize(Y, gamma) debug("{sep} ResGMG官网appult {sep}".format(sep="-" * 20)) debug("mu:", mu, "cov:", cov, "alpha:", alpha, sep="\n") return mu, cov, alpha 。

main.py 文件：# -*- coding: utf-8 -*- # ---------------------------------------------------- # Copyright (c) 2017, Wray Zheng. All Rights Reserved. GMG官网app # Distributed under the BSD License. # ---------------------------------------------------- import matplotlib.pyplot as plt from gmm import * # 设置调试模式 DEBUG = True # 载入数据 Y = np.loadtxt("gmm.data") matY = np.matrix(Y, copy=True) GMG官网app # 模型个数，即聚类的类别个数 K = 2 # 计算 GMM 模型参数 mu, cov, alpha = GMM_EM(matY, K, 100) # 根据 GMM 模型，对样本数据进行聚类，一个模型对应一个类别 N = Y.shape[0] # 求当前模型参数下，各模型对样本的响应度矩阵 gamma = getExpectation(matY, mu, cov, alpha) # 对每个样本，求响应度最大的模型下标，作为其类别标识 caGMG官网apptegory = gamma.argmax(axis=1).flatten().tolist()[0] # 将每个样本放入对应类别的列表中 class1 = np.array([Y[i] for i in range(N) if category[i] == 0]) class2 = np.array([Y[i] for i in range(N) if category[i] == 1]) # 绘制聚类结果 plt.plot(class1[:, 0], class1[:, 1], rs, label="classGMG官网app1") plt.plot(class2[:, 0], class2[:, 1], bo, label="class2") plt.legend(loc="best") plt.title("GMM Clustering By EM Algorithm") plt.show()

测试结果样本 1 原始类别：

样本 1 聚类结果：

样本 2 原始类别：

样本 2 聚类结果：

测试数据或者通过下列代码生成测试数据：import numpy as np import matplotlib.pyplot as plt GMG官网appcov1 = np.mat("0.3 0;0 0.1") cov2 = np.mat("0.2 0;0 0.3") mu1 = np.array([0, 1]) mu2 = np.array([2, 1]) sample = np.zeros((100, 2)) sample[:30, :] = np.random.multivariate_normal(mean=mu1, cov=cov1, size=30) sample[30:, :] = np.random.multivariate_normGMG官网appal(mean=mu2, cov=cov2, size=70) np.savetxt("sample.data", sample) plt.plot(sample[:30, 0], sample[:30, 1], "bo") plt.plot(sample[30:, 0], sample[30:, 1], "rs") plt.show()

完整项目下载地址：https://github.com/wrayzheng/gmm-em-clustering.git

Q微：3731239