Understanding the Inner Workings of a State-Space Foundation Model for Limit Order Books
创建于 更新于
摘要
本文研究消息流驱动的限价订单簿状态空间基础模型究竟学习了哪些市场微观结构信息。基于8.2M参数的Mamba-3模型，研究发现市场表征主要存在于递归状态中，订单流不平衡、成交量和实现波动率均可被有效线性解码，其中订单流不平衡的留出样本R²达到0.59，并能够泛化至未参与训练的股票 [page::0][page::3][page::4]。进一步的消息归因显示，订单流信号依赖28—66条消息半衰期的长记忆头；因果干预能够单调改变模型对买单、成交和价格波动的预期，但状态对未来价格的预测能力较弱，下一25条消息的中间价变动R²约为0.04 [page::5][page::6]。研究表明，LOB基础模型不仅记忆当前订单簿状态，还形成了可读取、可操控并能跨股票迁移的市场流动性表征 [page::6][page::7]。
