2401.03158.md

背景

• 背景
  论文描述了短文本分类（Short Text Classification，STC）对于处理和理解当代数字平台上简短而重要的内容的重要性，并指出了这一任务在捕捉语义和句法细节方面的困难，这在传统的预训练语言模型（pre-trained language models，PLMs）中尤为明显。虽然图卷积网络（Graph Convolutional Networks，GCNs）通过集成外部知识库来提高性能，但这些方法的效果受限于所应用知识的质量和范围。

• 已有的工作 大语言模型（Large Language Models，LLMs）和思维链（Chain-of-Thought，CoT）的出现显著提高了复杂推理任务的性能，但其在基础NLP任务中的应用也受到一些限制。当前的方法难以利用LLMs进行STC任务，也没有很好地结合CoT来解决STC中的挑战。

核心贡献

• 提出了Quartet Logic: A Four-Step Reasoning (QLFR) framework

  • 挑战1：如何利用LLMs的内在知识和能力解决STC的挑战 QLFR框架将STC任务分解为四个独立的步骤：关键概念的识别、常识知识检索、文本重写和分类，以此解决语义稀疏和句法模糊的问题，利用LLMs的潜力。

  • 挑战2：如何提升较小模型的性能 开发了一个CoT驱动的多任务学习（QLFR-CML）方法，以促进从LLMs到较小模型的知识转移。这一方法不仅适用于资源受限的场景，而且实用。

实现与部署

实验在六个短文本基准数据集上进行，验证了提出方法的有效性。QLFR框架在所有数据集上都取得了最先进的性能，特别是在Ohsumed和TagMyNews数据集上取得了显著的提高。这些实验结果表明，QLFR框架能够显著利用LLMs完成这一挑战性任务，并且在多个新颖的基线上都显示出其优越性。QLFR-CML也显示了其在计算资源有限的情况下提升较小模型的能力。

总结

本研究提出了一个针对短文本分类任务的Quartet Logic: A Four-Step Reasoning (QLFR)框架，以及一个CoT驱动的多任务学习（QLFR-CML）方法，这两者都通过大语言模型的推理链来解决STC领域中的挑战。实验结果证明了这些方法的有效性和实用性。