限价订单簿的多视角预测:新颖的深度学习方法和硬件使用智能处理单元加速
由crisvalentine创建,最终由crisvalentine 被浏览 51 用户
论文原名
Multi-Horizon Forecasting for Limit Order Books:Novel Deep Learning Approaches and Hardware Acceleration using Intelligent Processing Units
论文作者
Zihao Zhang, Stefan Zohren Oxford-Man Institute of Quantitative Finance, University of Oxford
修订时间
2021年8月27日
引言
我们为限价订单 (LOB) 数据设计了多层次预测模型通过使用深度学习技术。不同于标准结构,其中单个进行预测,我们采用具有序列到序列的编码器-解码器模型和注意力机制来生成预测路径。我们的方法达到在较短的预测范围内与最先进的算法具有可比的性能。重要的是,它们在生成长期预测时的表现优于利用多水平设置。鉴于编码器-解码器模型依赖于循环神经层,它们通常会遭受缓慢的训练过程。到为了解决这个问题,我们尝试使用新型硬件,即所谓的智能Graphcore 生产的处理单元 (IPU)。IPU 专为机器智能工作负载,旨在加快计算过程。我们表明,在我们的设置中,这会显着加快训练时间与使用 GPU 的训练模型相比。
简介
限价订单簿 (LOB),作为高频金融微观结构数据的典型示例,在最近的学术研究中受到了极大的欢迎。在任何时间戳,一个 LOB 是一个交易所金融工具所有未完成的限价订单(被动订单)的记录。它根据提交订单的价格分为不同级别。LOB 有两个方面,代表买单和卖单——也称为买单和卖单。LOB 的每个级别表示该级别价格的总可用交易量(股票数量)。那些详细的价格记录和数量信息为我们提供了短期供需关系的图景。由此,我们可以计算订单失衡等数量(Chordia 等人, 2002 年),这有助于了解高频微观结构数据的动态。Tsantekidis 等人的近期作品。( 2017a); 特兰等人。(2018); 张等人。(2019a); 布里奥拉等人。( 2020)证明 LOB 对短时间间隔内的价格变动具有很强的预测能力。他们的发现激发了一系列扩展,包括高频交易模型(Briola等,2021)。然而,上述工作被制定为标准的监督学习预测未来某个时间点的价格的任务。鉴于金融时间序列以低信噪比(Gould et al. , 2013)而闻名,单一预测对描述市场走势的未来演变施加了限制。自然,多方位预测(预测未来的多个步骤)是可取的,因为我们可以获得预测路径可用于交易决策或风险管理。在这项工作中,我们使用深度学习技术为 LOB 数据设计了多层次预测模型(Goodfellow 等人,2016 年)。受机器翻译问题的启发(Bahdanau et al., 2014)自然语言处理 (NLP),我们应用序列到序列 (Seq2Seq)(Sutskever 等人,2014; Cho et al., 2014) 和 Attention (Luong et al., 2015) 模型生成多层次预测。我们采用了Zhang 等人的深度网络架构。(2019a) 并设计输出层生成预测路径。我们在流行的公开可用的 LOB 数据集上测试我们的方法(FI-2010 Ntakaris et al . (2018)) 和来自伦敦证券交易所 (LSE) 的一年订单簿数据。实验表明,与最先进的模型相比,我们的模型提供了具有竞争力的结果单步、短期预测模型。此外,在我们的设置中,单个网络能够预测未来的多步,避免单点估计的局限性。有趣的是,我们的方法为长期预测作为短期预测提供了卓越的结果通过自回归结构为未来的估计做出贡献。占主导地位的 Seq2Seq 和注意力模型基于复杂的循环神经层包括编码器和解码器。这种反复出现的结构导致训练速度明显变慢即使在使用 GPU 进行加速时也能处理。这通常会带来需要解决的挑战克服。Vaswani 等人的工作。(2017) 例如,提出 Transformers 允许并行使用全连接层训练注意力机制。在这项工作中,我们使用了不同的硬件加速的形式,即所谓的智能处理单元 (IPU)。开发的 IPUGraphcore ( Graphcore, 4 28) 是一种新型的大规模并行处理器。它们可用于加速培训过程,提供了一种替代解决方案来处理这个瓶颈。我们比较在我们的设置中,GPU 和 IPU 之间的计算效率通过各种基准测试最先进的网络架构。结果表明 IPU 的速度提高了数倍比 GPU。这种计算上的显着改进不一定局限于训练过程,但也可能导致现有算法中广泛应用的加速,例如例如,减少做市策略的延迟。本文的其余部分结构如下:在第2节中,我们包括了一篇文献综述讨论 LOB 上的深度学习算法的发展并回顾多层面预测楷模。第3节简要介绍了 IPU,第 4 节讨论了我们提出的网络架构。然后,我们描述了我们的实验并在第5节中介绍了结果。我们得出结论第6节总结了我们的发现并提出了潜在的研究问题。
论文PDF
/wiki/static/upload/73/73618c5c-de60-4b3d-b543-d61874edfb39.pdf
\