- 1、本文档共29页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
强化学习:从理论迈向实际
——聚焦SafeRL和OfflineRL
魏巍
山西大学计算机与信息技术学院
计算智能与中文信息处理教育部重点实验室
2024.10
目录
CONTENTS
第一部分研究背景与意义
第二部分SafeRL的一些探索
第三部分OfflineRL的一些探索
第四部分总结
第一部分
研究背景与意义
1.1强化学习理论研究进展迅速
强化学习的来源与两个领域密切相关:心理学中的动物学习和最优控制的优化理论。1954年Minsky
首次提出“强化”和“强化学习”的概念和术语。1965年在控制理论中Waltz和傅京孙也提出这一概
念,描述通过奖惩的手段进行学习的基本思想。
经典算法仿真环境
⚫DQN(2015-Nature)⚫智能对战(围棋等)
⚫DDPG(2016-ICLR)⚫机器人控制(mujoco等)
⚫PPO(2017-ML)⚫街机游戏(atari等)
⚫TD3(2018-ICML)⚫角色扮演游戏(RLCraft等)
⚫QMIX(2018-ICML)⚫多智能体游戏(MPE、SMAC等)
经典强化学习研究大多局限于游戏等模拟环境,处于“好看不好用”的境地!!!
1.2强化学习在现实世界中的应用
机器人金融
⚫运动控制
⚫股票交易策略
⚫自主导航
⚫风险管理
自动驾驶医疗
⚫路径规划⚫个性化治疗
⚫交通管理⚫药物发现
智能制造军事博弈
⚫生产优化⚫无人机空战
⚫设备维护⚫军事推演
1.3近期强化学习在实际应用中取得了重要进展
强化学习在实际应用中的典型案例
可控核聚变(DeepMind,Nature2022)塑造ChatGPT的RLHF(NeurIPS2022)
使用RL设计蛋白质架构(Science2023)战胜无人机竞速世界冠军(Nature2023)
1.4强化学习从理论迈向实际的挑战
从理论迈向实际的挑战
文档评论(0)