三层架构

在初步了解如何使用 DRL 进行股票交易任务后,我们将介绍 FinRL 的核心理念。

FinRL 库由三个层组成:市场环境 (FinRL-Meta)DRL 智能体应用。下层为上层提供 API,使下层对上层透明。智能体层以探索-利用的方式与环境层交互,即重复先前效果良好的决策或采取新行动以期获得更大的累积奖励。

../_images/finrl_framework.png

我们的构建具有以下优势

模块化:每一层都包含多个模块,每个模块定义一个独立的功能。用户可以从一层中选择某些模块来实施其股票交易任务。此外,还可以更新现有模块。

简单性、适用性和可扩展性:FinRL 专为自动化股票交易设计,将 DRL 算法呈现为模块。通过这种方式,FinRL 变得易于访问且要求不高。FinRL 提供了三种可轻松重现的交易任务作为用例。每一层都包含保留接口,允许用户开发新模块。

更好的市场环境建模:我们构建了一个交易模拟器,模拟真实股票市场并提供回测支持,其中包含了重要的市场摩擦因素,例如交易成本、市场流动性和投资者的风险厌恶程度。所有这些都是净收益的关键决定因素。

FinRL 如何在 DRL 中构建问题的高层视图

../_images/finrl_overview_drl.png

请参考以下页面获取更详细的解释