商品量化专题报告：如何利用Transformer~based模型对价格进行“天气预报”.pdf

商品量化专题报告：如何利用Transformer~based模型对价格进行“天气预报”。在上一篇报告中，介绍了如何利用 RNN 系列算法对价格进行单元单步预测，本文围绕 多元长序列预测展开，尝试实现类似于天气预报的预测效果。RNN 系列算法具有较强长期 依赖性不适用于长序列预测，因此本文选择具有超强信息提取能力的 Transformer 模型为 落脚点展开讨论。然而由于 Transformer 模型存在过高计算复杂度这一瓶颈，因此本文从 近两年顶会论文中挑选出三个基于 Transformer 的改良模型(Informer、Autoformer 和 FEDformer)分别进行了介绍和测试对比。

为测试模型的有效性和泛化能力，本文在 CU、IF 和 T 三个期货品种的主力合约上进 行了测试。在测试中分别利用过去 20/40/60 个交易日的交易数据(开盘价、最低价、最高 价、成交量和收盘价)对三个合约接下来 5/10/20/40/60 个交易日的收盘价进行预测。经 预测发现，FEDformer 模型的预测结果几乎在所有情况中都是最优的，MSE 和 MAE 最低达 到 0.028 和 0.129，价格时序信噪比较低，利用傅里叶变换将价格从时域转换到频域进行 预测不仅能更好地捕捉全局信息，还能过滤掉信号中的噪音。同时，使用小波增强模块能 捕捉到频率出现的时间信息，再次加强 FEDformer 模型对短序列的预测能力。

此外，我们还发现在输入信息和输出信息较短的情况下，过高计算复杂度对 Transformer 模型的负面影响并不大，在很多测试中，Transformer 的预测精度甚至高于 Autoformer 和 Informer 模型，但在稳定性和普适性上还是逊于 FEDformer 模型。