跳到正文
arXiv · NLP· Maxim Khovansky, Lev Mukhanov·· 3 小时前AI 评分31

SCAPE-T:基于编码器Transformer注意力量化语义复杂性

Quantifying Meaning with SCAPE-T: Semantic Complexity from Encoder-Only Transformer Attention

AI 导读

SCAPE-T 是一种基于编码器 Transformer 注意力机制的语义复杂性度量指标,在词长控制下成对判断准确率高达 78.5%。 该指标通过自聚焦、CLS 聚焦和头部冗余三个子指标,在儿童故事与技术维基百科文章对比中优于可读性等所有基线模型。 研究结果证明 SCAPE-T 能更有效地将概念结构与词汇及句法混淆因素分离开来。

来源:arXiv · NLP · arxiv.org