大语言模型能用于金融市场预测吗?

The Gradient15 小时前
分享到

大语言模型与金融序列:相似但不等价

2023 年,生成式 AI 的快速发展推动了大量投资,也让 ChatGPT 等基于大语言模型(LLM)的产品进入公众视野。LLM 擅长对由词或词片段构成的 token 序列建模,并通过预测下一个 token 产生翻译、问答和类人文本生成等能力。

这自然引出了量化交易领域的一个问题:如果 LLM 能预测文本序列中的下一个 token,是否也能预测价格、收益率或交易序列中的下一个元素?

从形式上看,这两类问题都属于自回归学习:利用序列中过去的元素预测未来元素。量化交易中的许多策略,尤其是股票统计套利,也在寻找类似的自回归结构,例如新闻、订单流或基本面变化如何预示未来价格。

但金融市场与自然语言之间存在关键差异。

数据规模看似接近,信息含量差异很大

在 2023 年 NeurIPS 会议上,高频交易公司 Hudson River Trading 曾估算过股票市场可训练数据的规模:假设有 3000 只可交易股票、每只股票每天 10 个数据点、每年 252 个交易日、每个交易日 23400 秒,那么一年大约可产生 1770 亿个市场数据 token。作为对比,GPT-3 的训练数据约为 5000 亿 token。

从数量级上看,市场数据似乎并不算少。但问题在于,金融 token 往往是价格、收益率或交易,而不是词语或音节。后者背后有语法和语义结构,人类也能在许多情况下预测一句话的下一个词;但给定一串历史交易,要预测下一期收益率则困难得多。

金融市场中存在大量聪明参与者,他们会不断竞争并消除可利用信号,使市场接近有效。相反,没有人会主动让句子变得更难预测;作者通常还希望表达清晰,使文本更容易理解。

金融数据的噪声远高于语言数据

金融时间序列中的噪声通常多于信号。投资者和机构交易的原因未必理性,也未必与企业基本面变化直接相关。2021 年 GameStop 事件就是一个例子。

此外,金融市场会持续受到新基本面信息、监管变化和宏观冲击影响,例如货币贬值等。语言当然也会演化,但速度通常更慢,时间尺度也更长。

因此,把 LLM 直接用于“下一个价格”或“下一笔交易”的预测,并不等同于把它用于文本预测。

多模态学习可能更适合金融应用

尽管直接价格预测存在挑战,AI 的一些方法仍可能在金融市场中发挥作用。一个有潜力的方向是多模态学习,即把不同类型的数据纳入统一模型。

在金融场景中,多模态模型可以结合:

  • 价格、成交量、交易等传统时间序列数据;
  • 新闻文本和企业报告;
  • 社交平台情绪与互动;
  • 港口航运活动等卫星图像;
  • 其他另类数据。

相比只使用价格数据,多模态方法有机会利用更多非价格信息,提高对市场变化的理解能力。

残差化:金融与 AI 中的共同思想

“残差化”在金融和 AI 中都很重要,但含义有所不同。

在金融中,结构性因子模型通常会把资产收益拆分为两部分:

  1. 共同成分,例如市场收益或广泛因子收益;
  2. 个体成分,即特定资产自身的独特变化。

由于市场和因子收益难以预测,并且会造成资产之间的相关性,研究者常常会剔除共同成分,重点预测单个资产的独特变化。

在深度学习中,残差网络和 Transformer 也使用类似思想:如果要学习输入 (X) 到目标函数 (h(X)) 的映射,有时学习 (h(X)-X) 这个残差会更容易。若 (h(X)) 接近恒等映射,那么残差接近零,模型需要学习的内容更少。

两者的共同点在于:利用结构减少需要预测的复杂性,从而提升学习效率。

长上下文有助于捕捉多时间尺度现象

LLM 的重要能力之一,是在较长上下文窗口中识别 token 之间的关联。在金融市场中,类似能力可以帮助分析不同时间尺度上的现象:

  • 基本面信息,例如财报,可能在数月内逐步反映到价格中;
  • 技术现象,例如动量,可能持续数天;
  • 微观结构现象,例如订单簿失衡,可能只持续数秒到数分钟。

因此,金融预测不仅需要回看多个时间尺度,还需要预测多个未来时间尺度。

例如,一个量化系统可能同时捕捉微观结构事件和盈利变化事件。它需要的不只是下一期收益率,而是未来预期收益的整条期限结构或轨迹。当前许多 Transformer 风格的预测模型通常只关注下一期预测,这与金融实践需求仍有差距。

合成数据或许能缓解金融数据稀缺

LLM 和生成模型在金融中的另一个应用方向是合成数据。

模型可以生成模拟股票价格路径,使其具备某些真实市场特征。鉴于金融市场数据相对稀缺,这类人工数据可能有助于训练或测试策略。

一个类比来自机器人领域:控制器可以先在低成本但不完全准确的物理模拟器中训练,再通过真实机器人实验进行校准。金融中也可以先用模拟器粗略训练和优化交易策略,让模型学习风险厌恶、分散化、缓慢交易以降低价格冲击等概念,再用真实市场数据进行微调。

不过,极端事件仍是难点。市场从业者通常特别关注策略大赚或大亏的情形,生成模型理论上可以采样极端场景。但极端事件本身发生频率很低,因此如何确定合适参数、如何从相应分布中抽样,仍然很困难。

基本面分析可能比高频预测更适合 LLM

相比直接接管量化交易,LLM 在基本面分析中的应用可能更现实。随着模型能力提升,它们可以帮助分析师:

  • 梳理和完善投资假设;
  • 发现管理层表述中的不一致;
  • 挖掘不同行业和企业之间的潜在关系;
  • 辅助阅读新闻、财报和研究材料。

这类应用并不要求模型精确预测下一笔交易或下一期收益,而是利用其语言理解、信息整合和推理辅助能力。

结论:谨慎看待交易预测,开放看待长期潜力

当前来看,让 GPT-4 这类模型直接接管量化交易仍不太可能。金融市场数据噪声高、结构变化快、竞争者会消除信号,这些都使价格预测远比文本预测更困难。

但生成式 AI 的发展本身也提醒人们:大模型能力的涌现曾让学界和产业界都感到意外。随着更多人才和资本进入 AI,模型能力可能继续提升。对金融市场应用而言,更合理的态度或许是:对直接交易预测保持谨慎,同时持续关注多模态建模、合成数据、长上下文分析和基本面研究辅助等方向。

评论

请登录后发表观点

暂无数据