数加菜鸟带你一步步了解——极大似然估计算法

2023-12-19 21:29:30

目录

一、最大似然原理

? ??1.个人理解???编辑

? ? 2.初中生都能看懂的案例分析?编辑

二、似然函数求解

? ? ?1.个人分析

? ? ?2.误差项分析

? ? ?3.最小二乘法

三、暴力总结

一、最大似然原理

? ??1.个人理解

? ? ? ? 首先,对于我们这种菜鸟来说极大似然估计这个概念听了一定很难理解,那我们不防把它拆分开来看:

极大似然估计可以拆成三个词,分别是“极大”、“似然”、“估计”,分别的意思如下:
极大:最大的概率
似然:好像,可能,看起来是这个样子的
估计:差不多就是这个样子的

????????这样看起来是不是简单明了多了!!如果菜鸟还不理解,不要怕!让我们继续更进一步的了解它

? ? 2.初中生都能看懂的案例分析

??????下面我将用一个简单的例子去解释----极大似然原理

? ? ? ?

  • 例:有2个相同箱子,A箱子放有999个红色五角星和1个绿色五角星;B箱子放有999个绿色的五角星和1个红色的五角星。如果小明一次就取出了一个红色的五角星。
  • 问:小明取的是哪个箱子?
  • 你的第一反应一定是:“A箱子”? ,为什么呢?
  • 事实上,这个推断符合我们生活中的经验事实。《最可能》,《最像》就是“最大似然”之意,也就是我们所说的最大似然原理。

????????总结来看:最大似然估计的目的就是:利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。

? ? ? ? 看到这里,我相信你对极大似然估计已经有了自己的理解,趁热打铁,让我们来继续讨论好了。

二、似然函数求解

? ? ?1.个人分析

????????我们不防这样考虑,如果一个事件已经发生了,那这个事件里的所有数据概率是不是都要发生,而每个数据有事独立的吧,换种说法,那这个事件的最大概率不就是他们相乘吗?

????????所以我们就引出了下面这个公式:

? ? ? ? 看到这里你是不是又愣住了,这个式子怎么解你?别急,菜鸟带你一步步看。

? ? ? ? 出现了那么复杂的连乘,我们是不是想到了高中学到的对数,没错,就是用对数去求解它!

? ? ? ? 我们再来去化简它

? ? ?2.误差项分析

????????我们来看一下这个结果

? ? ? ? 结果项的前一项是一个常量了吧,只有\beta一个未知量求整体的最大值是不是就变成了找后一项的最小值,我们把要求的最后一项的最小值称为目标函数。

? ? ? ? 此处保留1/2是为了求偏导时和平方项消掉,计算更方便。如何来求呢?这里我们引入最小二乘法来计算。

? ? ?3.最小二乘法

? ? ?

三、总结

都学到这里了,让我们来简单的总结一下我们学习的内容吧。

求最大似然估计量的一般步骤:

????????(1)写出似然函数;

????????(2)对似然函数取对数,并整理;

????????(3)写出目标函数;

? ? ? ? (4)利用最小二乘法求出目标函数;

? ? ? 以上所有内容是身为菜鸟的我一些简单的总结,希望对你有所帮助!!!

文章来源:https://blog.csdn.net/AI_dataloads/article/details/132767467
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。