『笔记』模拟退火

部分图片转自：RPChe_

引言

平常生活中，咱们常常会遇到一些函数求最值的问题，例如单峰函数求最值问题

就例如上面的图片，那么如今就能够引入一个新算法：登山算法
顾名思义，登山算法能够形象的理解为人在山坡上上向着坡顶爬去的一个场景，能够经过左右比较范围内的值，经过找到更优解，进而缩小范围，直到找到单峰函数的最大值。（显然能够用三分）

然而这个算法仍是存在缺陷的，极可能会让咱们陷入局部最优解致使没法找到最终的全局最优解，就例以下面的图片

特别明显的能看出很容易就会陷入局部最优解中

那么此时，就引入了一个玄学算法--模拟退火！

简介

模拟退火算法（Simulate Anneal，SA）是一种通用几率演算法，用来在一个大的搜寻空间内找寻命题的最优解。模拟退火是由S.Kirkpatrick, C.D.Gelatt和M.P.Vecchi在1983年所发明的。V.Černý在1985年也独立发明此演算法。模拟退火算法是解决TSP问题的有效方法之一。

模拟退火的出发点是基于物理中固体物质的退火过程与通常组合优化问题之间的类似性。模拟退火算法是一种通用的优化算法，其物理退火过程由加温过程、等温过程、冷却过程这三部分组成。

原理

模拟退火的原理也和金属退火的原理近似：将热力学的理论套用到统计学上，将搜寻空间内每一点想像成空气内的分子；分子的能量，就是它自己的动能；而搜寻空间内的每一点，也像空气分子同样带有“能量”，以表示该点对命题的合适程度。演算法先以搜寻空间内一个任意点做起始：每一步先选择一个“邻居”，而后再计算从现有位置到达“邻居”的几率。

简化来讲就是用来求多峰函数的最值问题的一种算法，经过温度的下降，能够获得新的解，温度越大，解得变化量也就越大，随着温度的下降，解也愈来愈稳定，当最后达到最终温度的时候，即物理上的结晶，此时求出来的即为最优解。

实现方法

首先引入一些变量，当前的最优解 \(E_0\) ,经过降温的到的解 \(E\) ,两个解的差值 \(\Delta E\) 。以及当前的温度 \(T\)，初始温度 \(T_0\),最终温度 \(T_k\)，降温系数 \(d\) 。

\(d\) 是一个十分接近 \(1\) 可是小于 \(1\) 的小数，\(T_k\) 是一个十分接近 \(0\) 可是大于 \(0\) 的小数。

\(T_0\) 通常设置在\(2000-5000\)以内，\(d\) 设置在1e-8~1e-15以内

首先能够用公式来判断是否进行更新当前的解。

一、若是当前的 \(\Delta E\) 知足条件，直接转换。
二、反之若是不符合，那么根据Metropolis准则进行断定是否接受。

拿找最小值为例

首先通过降温咱们得出了新解，和当前最优解的差值 \(\Delta E\) 若是 \(<0\),那么直接转换最优解就行了，由于当前的解必定是比以前更优的，反之，并不符合条件，那就根据公式以必定几率来接受他,其几率为:

\[e^{\frac{-\Delta E}{T}} \iff exp(-\Delta E/T) \]

至于为何会有接受它一说，谈一下我的理解，首先，咱们所求的是要找全局的最优解，若是仅仅趋向于当前最优，那么颇有可能找到的是一个局部最优解，那么就和登山算法没有什么区别了。经过必定几率接受它，那么就能够从另一个点去出发，来找它的解，增长了找到全局最优解的可能性。

对于接受的几率（假定当前\(\Delta E\) 为正），当 \(\Delta E\) 较大时，也就是咱们遇到了一个十分劣的解，那么此时的 \(-\Delta E\) 就会相对的较小，那么接受的几率就越小；若是当前的 \(\Delta E\) 较小的话，那么咱们遇到了一个有些劣的解，显然此时的 \(-\Delta E\) 会大一些，那么接受的几率也就会大一些。当 \(T\) 大的时候，那么此时接受的几率也就会增大，大部分的解都会别接受，若是当温度降到很低的时候，那么此时接受的几率会大大减小，也就稳定在了一个最优解内，固然为了保证解更加正确，当退火完成以后，考虑一下在时间容许的范围内，在当前解的一个范围内继续尝试退火。

列出一个图清晰形象的观摩一下退火的全过程

算法改进

（1）设计合适的状态产生函数，使其根据搜索进程的须要表现出状态的全空间分散性或局部区域性；

（2）设计高效的退火策略；

（3）避免状态的迂回搜索；

（4）采用并行搜索结构；

（5）为避免陷入局部极小，改进对温度的控制方式；

（6）选择合适的初始状态；

（7）设计合适的算法终止准则。

列出几个个人经常使用数据，实战效果较好

\(T=2000,d=0.996\)
退火通常进行 \(6\) 为最佳

模板

#include<iostream>
#include<cstdio>
#include<algorithm>
#include<cstdlib>
#include<ctime>
...
const double T_begin=..;//退火初温
const double T_end=..;//末温
const double V=..;//速率
void fz()
{
	... //若题目有关序列操做模拟退火常须要随机生成一个序列(random_shuffle)
}
void calc()//模拟退火最耗时的函数，写的好题就A了
{
	...//有一个解，需算出答案，后与已知最优解比较
}
void SA()//模拟退火主要函数
{
 	fz()
  	...//改变当前解，获得一个新答案,经常使用rand()；
  	int del=tmp-ans;//tmp：当前接，ans：已知最优解
  	if (del>0) 更新最优解，当前值//当前解更优
	else if (exp(del/T)/RAND_MAX>(double)rand()) 更新当前值，以必定几率接受劣解
	else // 讨论状况
}
int mian()
{
  	srand((int)time(0))；//玄学随机种子,随便改数->逆天改命
	...
  	while(clock()/CLOCKS_PER_SEC<0.9) SA();//计算时间的
   ...//输出答案
	return 0;
}
//还有两种常常用的随机生成格式

一、矩阵中坐标版： nowx=rand%n,nowy=rand%m;
二、不规则平面内坐标版：nowx=ansx+((rand()<<1)-RAND_MAX)*T
                     nowy=ansy+((rand()<<1)-RAND_MAX)*T

例题

P3936 Coloring 矩阵中两个位置微调问题，恶心调参数

P2503 [HAOI2006]均分数据 序列随机打乱，随机贪心

P4035 [JSOI2008]球形空间产生器 多维空间找点，数论（高斯消元可过）

P5544 [JSOI2016]炸弹攻击1 二维空间不规则找点