体系化学习运筹学基础算法的实践和总结

2023-12-13 03:43:19

引言

眨眼间已经12月了,眼看着2023年马上要过完了。

女朋友最近总说,工作以后感觉时间过的好快。事实上,我也是这么认为的。年纪越大,越会担心35岁危机的降临。所以,人还是应该持续学习和进步的。具体来说,就是在工作时间之外,每年都能有一些关于自身的成长。

23年初,我给自身成长设置了一系列目标,其中之一就是体系化。这里的体系化,主要包含两项,第一项是运筹学基础算法的体系化,第二项是机器学习算法的体系化。到了年尾,应该为一年的工作做一个总结了。

本文将着重分享今年在第一项(运筹学基础算法)上的实践和总结,后续文章将再聊另外一个内容。

正文见下。

目标设计

科学体系化的方式,私以为应该是参考各种专业书的目录,然后结合自己的认知,做个性化设计。 举个例子,《运筹学》(清华大学出版社)这本书是直接从线性规划问题开始的,但是求解线性规划问题的单纯形法,对我来说已经比较复杂,不能算入门了。

下图是我今年初给自己安排的体系化学习目标。

我认为,学习过程要从简单到复杂。而最简单的运筹问题,应该是一维无约束问题,在此基础上再提升问题维度和增加不同类型的约束条件。这些内容,在我年初的体系化学习目标中被归类为非线性规划模块。现在想来,“非线性规划”这个模块的标题并不是很准确,不过也没想到更好的,就继续用这个吧。

理解了以上普适性较好的基本算法体系后,我觉得才适合来研究线性/整数规划这一类在实际业务中被广泛研究的问题和对应的求解算法。

除了非线性规划、线性规划和整数规划外,还要学习智能优化算法的主要原因,是我觉得这些算法的改进尝试中,针对迭代方向和迭代步长的设计很有艺术感,虽然缺乏严格的数学证明,但在实践中已经被证明为非常有效的手段。

目标实践

对于大部分算法,我给自己预设的目标是两周学习完,这样最终评估下来能有19周的剩余时间。

从剩余时间来说,我给自己安排的计划,算是比较宽松的。我一直觉得,工作和学习应该是为生活服务的,如果发生了冲突,那幸福的生活体验应该放在第一位。所以我从一开始就没想着给自己太大的压力,如果觉得有些累了,偷懒玩游戏、看视频,甚至只是无聊发呆,也不会有太大的负罪感。

实际也是如此——从完成度来看,我最后一篇文章是VNS,11月12号完成的,距离12月31号只剩6周,也就是说我在年中的时候荒废了13周左右的时间。

我对算法学习完成的定义是,写一篇与算法内容对应的文章,里面至少应该包含2个模块:

第一个是用自己的逻辑描述清楚算法原理。我对自己的要求是,让算法小白都能看懂内容,如果未来真的有机会教书育人,这应该是我宝贵的财富了;

第二个是自己编写代码实现算法全过程。我对自己的要求是,分别用Python和Java编程实现,以验证自己是否真的理解了算法原理,同时提升代码能力。

从实际完成度来看,每一个算法相关的文章都算是及格了。对算法原理的描述,我还是比较满意的,特别是收到小伙伴们的暖心评论和留言时,都会备受鼓舞。在代码实现方面,并没有达到预期,开始阶段一些简单的算法还能用Python和Java分别实现,到了中后期算法复杂度提升后就有些力不从心了。在认清现实后,我去掉了使用Java实现算法过程的目标。针对特别复杂的算法,甚至都不要求自己手写了。

看,我就是这么容易和自己和解。

文章汇总

本节汇总了近一年运筹学基础算法的相关文章和链接,并按照此前的目标设计进行了分类。

分类文章和链接
非线性规划-黄金分割法Python和Java代码实现:黄金分割法求解一维最优化问题
非线性规划-切线法Python和Java代码实现:切线法求解一维最优化问题
非线性规划-坐标轮转法Python代码实现:坐标轮换法求解多维最优化问题
非线性规划-梯度类算法梯度类算法原理:最速下降法、牛顿法和拟牛顿法
拟牛顿法:python代码实现
非线性规划-间接法求解包含约束的最优化问题:拉格朗日乘子法和KKT条件
非线规划-直接法求解包含约束的最优化问题:罚函数法
线性规划-单纯形法线性规划和单纯形法-原理篇
线性规划模型-工程应用篇
线性规划-整数规划求解整数规划问题的割平面法和分支定界法
稍微憋个招,聊聊为什么不能止步于会调求解器
线性规划-对偶问题线性规划对偶问题:理论推导和实际应用
智能优化-DE差分进化算法,依旧强势
智能优化-ACO蚁群算法求包含34个国内城市的TSP,和最优解相差没那么大
智能优化-ALNS着实不错的自适应大邻域搜索算法ALNS

经验总结

关于这一年来对于运筹算法的学习和感悟,总结如下:

首先,这些算法在运筹学中算是基础内容。通过对这些知识点的学习和总结,我自身受益匪浅,在一定程度上弥补了我因为非科班出身导致基础知识储备的欠缺。不过这只是一个开始,随着认知的提升,可能会发现未知的内容也越来越多,后续还有很多内容需要去慢慢探索。

其次,在学习上我是偏应用导向的。当初选择运筹学作为自己未来长期从事的行业,主要是觉得把这些算法策略应用到实际场景中能带来极大的成就感,所以我不太会执着于理论上的推导,在学习知识时,会优先选择工业实践中最常用的运筹算法,并辅以部分基础的算法原理,以知其然并知其所以然。

最后,这些知识点的串联方式是基于我目前的认知。图中的分类仅依赖于我当前体系化学习的实践路径,算不上权威,可以作为大家构建自己知识体系的参考。

一则预告

明年运筹优化领域的文章主题,偷偷预告一下,大概率是随机优化和鲁棒优化,即,模型输入存在不确定性情况下的最优决策。

具体的学习路径,我还没思考清楚——当然了,即使已经想清楚了,我也不会直接公开出来,大概率会类似于这样,等明年年底总结吧!

最后的最后,愿大家都能持之以恒地做一件件小事,慢慢努力,惊艳众人。

文章来源:https://blog.csdn.net/taozibaby/article/details/134913797
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。