研报&论文

基于Transformer的Capsule网络股票走势预测

由qxiao创建,最终由qxiao 被浏览 145 用户

作者:Jintao Liu1∗ , Xikai Liu1∗ , Hongfei Lin1† , Bo Xu1,2 , Yuqi Ren1 , Yufeng Diao1,3 , Liang Yang1 1

时间:2020年

原文标题:Transformer-Based Capsule Network For Stock Movements Prediction

摘要

股票走势预测对于研究和行业来说都是一项极具挑战性的研究。利用社交媒体预测股市走势是一项有效但困难的任务。然而,现有的基于社交媒体的预测方法往往没有考虑到特定股票的丰富语义和关联。这就导致了有效编码的困难。为了解决这一问题,我们提出了CapTE(基于Transformer Encoder的Capsule网络)模型,该模型利用Transformer Encoder提取社交媒体的深层语义特征,然后通过胶囊网络捕获文本的结构关系。在本文中,我们用不同的基准来评价我们的方法,结果表明我们的方法改善了股票移动预测的表现。

研报

/wiki/static/upload/8c/8c765829-7ef1-4bb0-8f44-0cc1cf38d025.pdf

结论

为获取股票走势预测任务的深层语义信息和结构关系,引入CapTE (Capsule network based on Transformer Encoder)模型,并验证了模型的可靠性。如结果所示,我们没有理由怀疑通过Transformer获得的有价值信息的重要性。同时,Capsule网络网络借助Transformer编码器获取推文之间的具体关系,提高股票走势的预测精度。 我们的模型结合了Transformer编码器和胶囊网络的优点。此外,由于我们在模型中除了文本之外没有引入任何金融数据,因此我们的方法对自然语言处理领域的文本分类任务具有泛化能力。然而,我们的实验数据集只是日级的,推文的影响可能仅限于事件发生的那一天。特别是在美国股票市场,它允许人们在一个交易日内进行多次交易。 对于任务来说,这种情况意味着推文在第二天失去了影响。因此,如何利用信息在更短的时间内预测运动是我们需要研究的下一个课题。

标签

Transformer深度学习金融市场预测
{link}