前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >模拟退火算法Python编程

模拟退火算法Python编程

原创
作者头像
ruochen
发布2021-11-26 13:10:30
1.5K0
发布2021-11-26 13:10:30
举报
文章被收录于专栏:若尘的技术专栏

1、模拟退火算法

模拟退火算法借鉴了统计物理学的思想,是一种简单、通用的启发式优化算法,并在理论上具有概率性全局优化性能,因而在科研和工程中得到了广泛的应用。

退火是金属从熔融状态缓慢冷却、最终达到能量最低的平衡态的过程。模拟退火算法基于优化问题求解过程与金属退火过程的相似性,以优化目标为能量函数,以解空间为状态空间,以随机扰动模拟粒子的热运动来求解优化问题(1

KIRKPATRICK,1988)。

模拟退火算法结构简单,由温度更新函数、状态产生函数、状态接受函数和内循环、外循环终止准则构成。

温度更新函数是指退火温度缓慢降低的实现方案,也称冷却进度表;undefined 状态产生函数是指由当前解随机产生新的候选解的方法;undefined 状态接受函数是指接受候选解的机制,通常采用Metropolis准则;undefined 外循环是由冷却进度表控制的温度循环;undefined 内循环是在每一温度下循环迭代产生新解的次数,也称Markov链长度。

模拟退火算法的基本流程如下:

(1)初始化:初始温度T,初始解状态s,迭代次数L;undefined (2)对每个温度状态,重复 L次循环产生和概率性接受新解:undefined (3)通过变换操作由当前解s 产生新解s′;undefined (4)计算能量差 ∆E,即新解的目标函数与原有解的目标函数的差;undefined (5)若∆E <0则接受s′作为新的当前解,否则以概率exp(-∆E/T) 接受s′ 作为新的当前解;undefined (6)在每个温度状态完成 L次内循环后,降低温度 T,直到达到终止温度。

2、多变量函数优化问题

选取经典的函数优化问题和组合优化问题作为测试案例。

问题 1:Schwefel 测试函数,是复杂的多峰函数,具有大量局部极值区域。undefined F(X)=418.9829×n-∑(i=1,n)〖xi* sin⁡(√(|xi|)) 〗

本文取 d=10, x=-500,500,函数在 X=(420.9687,...420.9687)处为全局最小值 f(X)=0.0。

使用模拟退火算法的基本方案:控制温度按照 T(k) = a * T(k-1) 指数衰减,衰减系数取 a;如式(1)按照 Metropolis

准则接受新解。对于问题 1(Schwefel函数),通过对当前解的一个自变量施加正态分布的随机扰动产生新解。

3、模拟退火算法 Python 程序

代码语言:txt
复制
# 模拟退火算法 程序:多变量连续函数优化
代码语言:txt
复制
# Program: SimulatedAnnealing_v1.py
代码语言:txt
复制
# Purpose: Simulated annealing algorithm for function optimization
代码语言:txt
复制
# v1.0:
代码语言:txt
复制
#   (1) 基本算法:单变量连续函数优化问题
代码语言:txt
复制
#   (2) 文件输出优化结果和中间过程数据
代码语言:txt
复制
#   (3) 设置指标参数计数器
代码语言:txt
复制
#   (4) 图形输出坏解接受概率
代码语言:txt
复制
# Copyright 2021 YouCans, XUPT
代码语言:txt
复制
# Crated:2021-04-30
代码语言:txt
复制
#  -*- coding: utf-8 -*-
代码语言:txt
复制
import math                         # 导入模块
代码语言:txt
复制
import random                       # 导入模块
代码语言:txt
复制
import pandas as pd                 # 导入模块 YouCans, XUPT
代码语言:txt
复制
import numpy as np                  # 导入模块 numpy,并简写成 np
代码语言:txt
复制
import matplotlib.pyplot as plt     # 导入模块 matplotlib.pyplot,并简写成 plt
代码语言:txt
复制
from datetime import datetime
代码语言:txt
复制
# 子程序:定义优化问题的目标函数
代码语言:txt
复制
def cal_Energy(X, nVar):
代码语言:txt
复制
    # 测试函数 1: Schwefel 测试函数
代码语言:txt
复制
    # -500 <= Xi <= 500
代码语言:txt
复制
    # 全局极值:(420.9687,420.9687,...),f(x)=0.0
代码语言:txt
复制
    sum = 0.0
代码语言:txt
复制
    for i in range(nVar):
代码语言:txt
复制
        sum += X[i] * np.sin(np.sqrt(abs(X[i])))
代码语言:txt
复制
    fx = 418.9829 * nVar - sum
代码语言:txt
复制
    return fx
代码语言:txt
复制
# 子程序:模拟退火算法的参数设置
代码语言:txt
复制
def ParameterSetting():
代码语言:txt
复制
    cName = "funcOpt"           # 定义问题名称
代码语言:txt
复制
    nVar = 2                    # 给定自变量数量,y=f(x1,..xn)
代码语言:txt
复制
    xMin = [-500, -500]         # 给定搜索空间的下限,x1_min,..xn_min
代码语言:txt
复制
    xMax = [500, 500]           # 给定搜索空间的上限,x1_max,..xn_max
代码语言:txt
复制
    tInitial = 100.0            # 设定初始退火温度(initial temperature)
代码语言:txt
复制
    tFinal  = 1                 # 设定终止退火温度(stop temperature)
代码语言:txt
复制
    alfa    = 0.98              # 设定降温参数,T(k)=alfa*T(k-1)
代码语言:txt
复制
    meanMarkov = 100            # Markov链长度,也即内循环运行次数
代码语言:txt
复制
    scale   = 0.5               # 定义搜索步长,可以设为固定值或逐渐缩小
代码语言:txt
复制
    return cName, nVar, xMin, xMax, tInitial, tFinal, alfa, meanMarkov, scale
代码语言:txt
复制
# 模拟退火算法
代码语言:txt
复制
def OptimizationSSA(nVar,xMin,xMax,tInitial,tFinal,alfa,meanMarkov,scale):
代码语言:txt
复制
    # ====== 初始化随机数发生器 ======
代码语言:txt
复制
    randseed = random.randint(1, 100)
代码语言:txt
复制
    random.seed(randseed)  # 随机数发生器设置种子,也可以设为指定整数
代码语言:txt
复制
    # ====== 随机产生优化问题的初始解 ======
代码语言:txt
复制
    xInitial = np.zeros((nVar))   # 初始化,创建数组
代码语言:txt
复制
    for v in range(nVar):
代码语言:txt
复制
        # random.uniform(min,max) 在 [min,max] 范围内随机生成一个实数
代码语言:txt
复制
        xInitial[v] = random.uniform(xMin[v], xMax[v])
代码语言:txt
复制
    # 调用子函数 cal_Energy 计算当前解的目标函数值
代码语言:txt
复制
    fxInitial = cal_Energy(xInitial, nVar)
代码语言:txt
复制
    # ====== 模拟退火算法初始化 ======
代码语言:txt
复制
    xNew = np.zeros((nVar))         # 初始化,创建数组
代码语言:txt
复制
    xNow = np.zeros((nVar))         # 初始化,创建数组
代码语言:txt
复制
    xBest = np.zeros((nVar))        # 初始化,创建数组
代码语言:txt
复制
    xNow[:]  = xInitial[:]          # 初始化当前解,将初始解置为当前解
代码语言:txt
复制
    xBest[:] = xInitial[:]          # 初始化最优解,将当前解置为最优解
代码语言:txt
复制
    fxNow  = fxInitial              # 将初始解的目标函数置为当前值
代码语言:txt
复制
    fxBest = fxInitial              # 将当前解的目标函数置为最优值
代码语言:txt
复制
    print('x_Initial:{:.6f},{:.6f},\tf(x_Initial):{:.6f}'.format(xInitial[0], xInitial[1], fxInitial))
代码语言:txt
复制
    recordIter = []                 # 初始化,外循环次数
代码语言:txt
复制
    recordFxNow = []                # 初始化,当前解的目标函数值
代码语言:txt
复制
    recordFxBest = []               # 初始化,最佳解的目标函数值
代码语言:txt
复制
    recordPBad = []                 # 初始化,劣质解的接受概率
代码语言:txt
复制
    kIter = 0                       # 外循环迭代次数,温度状态数
代码语言:txt
复制
    totalMar = 0                    # 总计 Markov 链长度
代码语言:txt
复制
    totalImprove = 0                # fxBest 改善次数
代码语言:txt
复制
    nMarkov = meanMarkov            # 固定长度 Markov链
代码语言:txt
复制
    # ====== 开始模拟退火优化 ======
代码语言:txt
复制
    # 外循环,直到当前温度达到终止温度时结束
代码语言:txt
复制
    tNow = tInitial                 # 初始化当前温度(current temperature)
代码语言:txt
复制
    while tNow >= tFinal:           # 外循环,直到当前温度达到终止温度时结束
代码语言:txt
复制
        # 在当前温度下,进行充分次数(nMarkov)的状态转移以达到热平衡
代码语言:txt
复制
        kBetter = 0                 # 获得优质解的次数
代码语言:txt
复制
        kBadAccept = 0              # 接受劣质解的次数
代码语言:txt
复制
        kBadRefuse = 0              # 拒绝劣质解的次数
代码语言:txt
复制
        # ---内循环,循环次数为Markov链长度
代码语言:txt
复制
        for k in range(nMarkov):    # 内循环,循环次数为Markov链长度
代码语言:txt
复制
            totalMar += 1           # 总 Markov链长度计数器
代码语言:txt
复制
            # ---产生新解
代码语言:txt
复制
            # 产生新解:通过在当前解附近随机扰动而产生新解,新解必须在 [min,max] 范围内
代码语言:txt
复制
            # 方案 1:只对 n元变量中的一个进行扰动,其它 n-1个变量保持不变
代码语言:txt
复制
            xNew[:] = xNow[:]
代码语言:txt
复制
            v = random.randint(0, nVar-1)   # 产生 [0,nVar-1]之间的随机数
代码语言:txt
复制
            xNew[v] = xNow[v] + scale * (xMax[v]-xMin[v]) * random.normalvariate(0, 1)
代码语言:txt
复制
            # random.normalvariate(0, 1):产生服从均值为0、标准差为 1 的正态分布随机实数
代码语言:txt
复制
            xNew[v] = max(min(xNew[v], xMax[v]), xMin[v])  # 保证新解在 [min,max] 范围内
代码语言:txt
复制
            # ---计算目标函数和能量差
代码语言:txt
复制
            # 调用子函数 cal_Energy 计算新解的目标函数值
代码语言:txt
复制
            fxNew = cal_Energy(xNew, nVar)
代码语言:txt
复制
            deltaE = fxNew - fxNow
代码语言:txt
复制
            # ---按 Metropolis 准则接受新解
代码语言:txt
复制
            # 接受判别:按照 Metropolis 准则决定是否接受新解
代码语言:txt
复制
            if fxNew < fxNow:  # 更优解:如果新解的目标函数好于当前解,则接受新解
代码语言:txt
复制
                accept = True
代码语言:txt
复制
                kBetter += 1
代码语言:txt
复制
            else:  # 容忍解:如果新解的目标函数比当前解差,则以一定概率接受新解
代码语言:txt
复制
                pAccept = math.exp(-deltaE / tNow)  # 计算容忍解的状态迁移概率
代码语言:txt
复制
                if pAccept > random.random():
代码语言:txt
复制
                    accept = True  # 接受劣质解
代码语言:txt
复制
                    kBadAccept += 1
代码语言:txt
复制
                else:
代码语言:txt
复制
                    accept = False  # 拒绝劣质解
代码语言:txt
复制
                    kBadRefuse += 1
代码语言:txt
复制
            # 保存新解
代码语言:txt
复制
            if accept == True:  # 如果接受新解,则将新解保存为当前解
代码语言:txt
复制
                xNow[:] = xNew[:]
代码语言:txt
复制
                fxNow = fxNew
代码语言:txt
复制
                if fxNew < fxBest:  # 如果新解的目标函数好于最优解,则将新解保存为最优解
代码语言:txt
复制
                    fxBest = fxNew
代码语言:txt
复制
                    xBest[:] = xNew[:]
代码语言:txt
复制
                    totalImprove += 1
代码语言:txt
复制
                    scale = scale*0.99  # 可变搜索步长,逐步减小搜索范围,提高搜索精度
代码语言:txt
复制
        # ---内循环结束后的数据整理
代码语言:txt
复制
        # 完成当前温度的搜索,保存数据和输出
代码语言:txt
复制
        pBadAccept = kBadAccept / (kBadAccept + kBadRefuse)  # 劣质解的接受概率
代码语言:txt
复制
        recordIter.append(kIter)  # 当前外循环次数
代码语言:txt
复制
        recordFxNow.append(round(fxNow, 4))  # 当前解的目标函数值
代码语言:txt
复制
        recordFxBest.append(round(fxBest, 4))  # 最佳解的目标函数值
代码语言:txt
复制
        recordPBad.append(round(pBadAccept, 4))  # 最佳解的目标函数值
代码语言:txt
复制
        if kIter%10 == 0:                           # 模运算,商的余数
代码语言:txt
复制
            print('i:{},t(i):{:.2f}, badAccept:{:.6f}, f(x)_best:{:.6f}'.\
代码语言:txt
复制
                format(kIter, tNow, pBadAccept, fxBest))
代码语言:txt
复制
        # 缓慢降温至新的温度,降温曲线:T(k)=alfa*T(k-1)
代码语言:txt
复制
        tNow = tNow * alfa
代码语言:txt
复制
        kIter = kIter + 1
代码语言:txt
复制
        # ====== 结束模拟退火过程 ======
代码语言:txt
复制
    print('improve:{:d}'.format(totalImprove))
代码语言:txt
复制
    return kIter,xBest,fxBest,fxNow,recordIter,recordFxNow,recordFxBest,recordPBad
代码语言:txt
复制
# 结果校验与输出
代码语言:txt
复制
def ResultOutput(cName,nVar,xBest,fxBest,kIter,recordFxNow,recordFxBest,recordPBad,recordIter):
代码语言:txt
复制
    # ====== 优化结果校验与输出 ======
代码语言:txt
复制
    fxCheck = cal_Energy(xBest,nVar)
代码语言:txt
复制
    if abs(fxBest - fxCheck)>1e-3:   # 检验目标函数
代码语言:txt
复制
        print("Error 2: Wrong total millage!")
代码语言:txt
复制
        return
代码语言:txt
复制
    else:
代码语言:txt
复制
        print("\nOptimization by simulated annealing algorithm:")
代码语言:txt
复制
        for i in range(nVar):
代码语言:txt
复制
            print('\tx[{}] = {:.6f}'.format(i,xBest[i]))
代码语言:txt
复制
        print('\n\tf(x):{:.6f}'.format(fxBest))
代码语言:txt
复制
    # ====== 优化结果写入数据文件 ======
代码语言:txt
复制
    nowTime = datetime.now().strftime('%m%d%H%M')       # '02151456'
代码语言:txt
复制
    fileName = "..\data\{}_{}.dat".format(cName,nowTime)# 数据文件的地址和文件名
代码语言:txt
复制
    optRecord = {
代码语言:txt
复制
        "iter":recordIter,
代码语言:txt
复制
        "FxNow":recordFxNow,
代码语言:txt
复制
        "FxBest":recordFxBest,
代码语言:txt
复制
        "PBad":recordPBad}
代码语言:txt
复制
    df_Record = pd.DataFrame(optRecord)
代码语言:txt
复制
    df_Record.to_csv(fileName, index=False, encoding="utf_8_sig")
代码语言:txt
复制
    with open(fileName, 'a+', encoding="utf_8_sig") as fid:
代码语言:txt
复制
        fid.write("\nOptimization by simulated annealing algorithm:")
代码语言:txt
复制
        for i in range(nVar):
代码语言:txt
复制
            fid.write('\n\tx[{}] = {:.6f}'.format(i,xBest[i]))
代码语言:txt
复制
        fid.write('\n\tf(x):{:.6f}'.format(fxBest))
代码语言:txt
复制
    print("写入数据文件: %s 完成。" % fileName)
代码语言:txt
复制
    # ====== 优化结果图形化输出 ======
代码语言:txt
复制
    plt.figure(figsize=(6, 4), facecolor='#FFFFFF')     # 创建一个图形窗口
代码语言:txt
复制
    plt.title('Optimization result: {}'.format(cName))  # 设置图形标题
代码语言:txt
复制
    plt.xlim((0, kIter))                                # 设置 x轴范围
代码语言:txt
复制
    plt.xlabel('iter')                                  # 设置 x轴标签
代码语言:txt
复制
    plt.ylabel('f(x)')                                  # 设置 y轴标签
代码语言:txt
复制
    plt.plot(recordIter, recordFxNow,'b-', label='FxNow')     # 绘制 FxNow 曲线
代码语言:txt
复制
    plt.plot(recordIter, recordFxBest, 'r-', label='FxBest')  # 绘制 FxBest 曲线
代码语言:txt
复制
    # plt.plot(recordIter,recordPBad,'r-',label='pBadAccept')  # 绘制 pBadAccept 曲线
代码语言:txt
复制
    plt.legend()  # 显示图例
代码语言:txt
复制
    plt.show()
代码语言:txt
复制
    return
代码语言:txt
复制
# 主程序
代码语言:txt
复制
def main():
代码语言:txt
复制
    # 参数设置,优化问题参数定义,模拟退火算法参数设置
代码语言:txt
复制
    [cName, nVar, xMin, xMax, tInitial, tFinal, alfa, meanMarkov, scale] = ParameterSetting()
代码语言:txt
复制
    # print([nVar, xMin, xMax, tInitial, tFinal, alfa, meanMarkov, scale])
代码语言:txt
复制
    # 模拟退火算法
代码语言:txt
复制
    [kIter,xBest,fxBest,fxNow,recordIter,recordFxNow,recordFxBest,recordPBad] \
代码语言:txt
复制
        = OptimizationSSA(nVar,xMin,xMax,tInitial,tFinal,alfa,meanMarkov,scale)
代码语言:txt
复制
    # print(kIter, fxNow, fxBest, pBadAccept)
代码语言:txt
复制
    # 结果校验与输出
代码语言:txt
复制
    ResultOutput(cName, nVar,xBest,fxBest,kIter,recordFxNow,recordFxBest,recordPBad,recordIter)
代码语言:txt
复制
if __name__ == '__main__':
代码语言:txt
复制
    main()

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
作者已关闭评论
0 条评论
热度
最新
推荐阅读
目录
  • 1、模拟退火算法
  • 2、多变量函数优化问题
  • 3、模拟退火算法 Python 程序
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档