数加菜鸟带你一步步了解——极大似然估计算法
目录
一、最大似然原理
? ??1.个人理解
? ? ? ? 首先,对于我们这种菜鸟来说极大似然估计这个概念听了一定很难理解,那我们不防把它拆分开来看:
极大似然估计可以拆成三个词,分别是“极大”、“似然”、“估计”,分别的意思如下:
极大:最大的概率
似然:好像,可能,看起来是这个样子的
估计:差不多就是这个样子的
????????这样看起来是不是简单明了多了!!如果菜鸟还不理解,不要怕!让我们继续更进一步的了解它
? ? 2.初中生都能看懂的案例分析
??????下面我将用一个简单的例子去解释----极大似然原理
? ? ? ?
- 例:有2个相同箱子,A箱子放有999个红色五角星和1个绿色五角星;B箱子放有999个绿色的五角星和1个红色的五角星。如果小明一次就取出了一个红色的五角星。
- 问:小明取的是哪个箱子?
- 你的第一反应一定是:“A箱子”? ,为什么呢?
- 事实上,这个推断符合我们生活中的经验事实。《最可能》,《最像》就是“最大似然”之意,也就是我们所说的最大似然原理。
????????总结来看:最大似然估计的目的就是:利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。
? ? ? ? 看到这里,我相信你对极大似然估计已经有了自己的理解,趁热打铁,让我们来继续讨论好了。
二、似然函数求解
? ? ?1.个人分析
????????我们不防这样考虑,如果一个事件已经发生了,那这个事件里的所有数据概率是不是都要发生,而每个数据有事独立的吧,换种说法,那这个事件的最大概率不就是他们相乘吗?
????????所以我们就引出了下面这个公式:
? ? ? ? 看到这里你是不是又愣住了,这个式子怎么解你?别急,菜鸟带你一步步看。
? ? ? ? 出现了那么复杂的连乘,我们是不是想到了高中学到的对数,没错,就是用对数去求解它!
? ? ? ? 我们再来去化简它
? ? ?2.误差项分析
????????我们来看一下这个结果
? ? ? ? 结果项的前一项是一个常量了吧,只有一个未知量,求整体的最大值是不是就变成了找后一项的最小值,我们把要求的最后一项的最小值称为目标函数。
? ? ? ? 此处保留1/2是为了求偏导时和平方项消掉,计算更方便。如何来求呢?这里我们引入最小二乘法来计算。
? ? ?3.最小二乘法
? ? ?
三、总结
都学到这里了,让我们来简单的总结一下我们学习的内容吧。
求最大似然估计量的一般步骤:
????????(1)写出似然函数;
????????(2)对似然函数取对数,并整理;
????????(3)写出目标函数;
? ? ? ? (4)利用最小二乘法求出目标函数;
? ? ? 以上所有内容是身为菜鸟的我一些简单的总结,希望对你有所帮助!!!
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!