arXiv · NLP· Xiaoyu Hu·· 5 小时前AI 评分26
多模态Transformer框架:通过语义增强表格对长金融文本进行Grounding
Grounding Long Financial Text with Semantically-Enriched Tables via Multimodal Learning
AI 导读
论文提出一种多模态Transformer框架,通过将金融表格转化为语义增强token序列,并结合交叉注意力机制处理长文本,实现跨模态依赖捕捉。 该框架利用变量的文本定义生成语义嵌入,增强了对数值大小和经济意义的编码,相比仅值嵌入更具表达力且参数效率更高。基于财务报表数据集实验表明,结构化数值特征是主要预测信号,而文本信息通过交叉注意力能带来一致的增量收益。
来源:arXiv · NLP · arxiv.org