广义线性模型与指数分布簇

分类问题:假设y满足伯努利分布
回归问题:假设y满足高斯分布
广义线性模型
从概率分布的角度来看,解决分类与回归问题,首先找到输入x与指数分布簇中的参数 η 之间的关系,然后利用输出y以 η 为参数的概率分布直接求解预测。用输入x来线性拟合输出y的概率分布参数。
(1)指数分布簇是将输出y 的概率分布用一个式子表达出来,然后将其变形成指数分布簇的标准形式,确定针对某一个输出y 的概率分布模型的指数分布簇的各个标准量的形式。其中获得的 η Φ i 来表示,利用 该式子解出 Φ i 如何用 η 来表示。另外 η = θ T x ,加以代入便可以求解(2)中的式子。
(2) Φ i = P ( y = i )
模型最终的表达形式
(3)似然性的介绍:似然性是训练集合中每个样本概率的乘积,最大似然性取对数求导等于0求解即可。
备注:markdown中打上下标的方式 x i j p
(1)公式的编辑都在两个符号中间$$
(2)^符号后接的字符为上标
(3)_符号后接的字符为下标
(4)如果同时有两个下标,则需要使用{}来将符号括起来(备注部分为转载https://blog.csdn.net/u013698770/article/details/55210693

猜你喜欢

转载自blog.csdn.net/qq_32140491/article/details/82556028