位置:成果数据库 > 期刊 > 期刊详情页
增强学习算法的性能测试与对比分析
  • ISSN号:1001-3695
  • 期刊名称:《计算机应用研究》
  • 时间:0
  • 分类:TP309[自动化与计算机技术—计算机系统结构;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]国防科学技术大学机电工程与自动化学院自动化研究所,长沙410073
  • 相关基金:国家自然科学基金资助项目(60774076 90820302); 湖南省自然科学基金资(07JJ3122); 霍英东青年教师基金资助项目(114005)
中文摘要:

研究了几类典型增强学习算法的性能评估问题,包括Q-学习算法、最小二乘策略迭代(LSPI)和基于核的最小二乘策略迭代(KLSPI)算法等,重点针对Markov决策问题(MDP)的值函数平滑特性对算法性能的影响进行了研究。分别利用值函数非平滑的组合优化问题——旅行商问题(TSP)和值函数平滑的Mountain-Car运动控制问题,对不同增强学习算法的性能进行了测试和比较分析。分析了三种算法针对不同类型问题的各自特点,通过实验对比,验证了近似策略迭代算法,特别是KLSPI算法在解决值函数平滑的序贯决策问题时性能更优。通过分析实验结果表明,MDP值函数的平滑程度是影响近似策略迭代算法性能表现的重要因素。

英文摘要:

This paper studied the performance evaluation problem for reinforcement learning ( RL) algorithms,including Q-learning,least-squares policy iteration( LSPI) and kernel based least-squares policy iteration( KLSPI) . Investigated the performance influence of the smoothness of value functions in Markov decision processes in detail. Tested the RL algorithms on a combinatorial optimization problem—the traveling salesman problem ( TSP) ,which had non-smooth value functions and the Mountain-Car motion control problem with smooth value functions. Analyzed the characteristics of different RL algorithms and demonstrated that approximate policy iteration algorithms,especial KLSPI,had better performance when solving sequential decision-making problems with smooth value functions. Furthermore,it verifies that whether is the sequential decision-making problems with smooth value functions or not will play an important role in the performance of approximate policy iteration.

同期刊论文项目
期刊论文 16 会议论文 12 著作 1
同项目期刊论文
期刊信息
  • 《计算机应用研究》
  • 北大核心期刊(2011版)
  • 主管单位:四川省科学技术厅
  • 主办单位:四川省计算机研究院
  • 主编:刘营
  • 地址:成都市成科西路3号
  • 邮编:610041
  • 邮箱:arocmag@163.com
  • 电话:028-85210177 85249567
  • 国际标准刊号:ISSN:1001-3695
  • 国内统一刊号:ISSN:51-1196/TP
  • 邮发代号:62-68
  • 获奖情况:
  • 第二届国家期刊奖百种重点科技期刊,国内计算技术类重点核心期刊,国内外著名数据库收录期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,波兰哥白尼索引,英国科学文摘数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:60049