Skip to content

Commit

Permalink
关键词信息如何融入到文本分类任务
Browse files Browse the repository at this point in the history
  • Loading branch information
DA-southampton committed May 19, 2021
1 parent 26805f3 commit b142505
Show file tree
Hide file tree
Showing 5 changed files with 34 additions and 2 deletions.
Binary file modified .DS_Store
Binary file not shown.
6 changes: 4 additions & 2 deletions README.md
Original file line number Diff line number Diff line change
Expand Up @@ -86,8 +86,9 @@
1. [五千字全面梳理文本相似度/文本匹配模型](./深度学习自然语言处理/文本匹配和文本相似度/五千字全面梳理文本相似度和文本匹配模型.md)
2. [如何又好又快的做文本匹配-ESIM模型](./深度学习自然语言处理/文本匹配和文本相似度/ESIM.md)
3. [阿里RE2-将残差连接和文本匹配模型融合.md](./深度学习自然语言处理/文本匹配和文本相似度/阿里RE2-将残差连接和文本匹配模型融合.md)
4. [聊一下孪生网络和DSSM的混淆点以及向量召回的一个细节](./深度学习自然语言处理/文本匹配和文本相似度/聊一下孪生网络和DSSM的混淆点以及向量召回的一个细节.md)--公众号
5. [DSSM论文-公司实战文章](./深度学习自然语言处理/文本匹配和文本相似度/DSSM论文-公司实战文章.md)--公众号
4. [聊一下孪生网络和DSSM的混淆点以及向量召回的一个细节](./深度学习自然语言处理/文本匹配和文本相似度/聊一下孪生网络和DSSM的混淆点以及向量召回的一个细节.md)
5. [DSSM论文-公司实战文章](./深度学习自然语言处理/文本匹配和文本相似度/DSSM论文-公司实战文章.md)
6. [bert白化简单的梳理:公式推导+PCA&SVD+代码解读](./深度学习自然语言处理/文本匹配和文本相似度/bert白化简单的梳理.md)


### 关键词提取
Expand Down Expand Up @@ -118,6 +119,7 @@
5. [Bert在文本分类任务上微调](./深度学习自然语言处理/文本分类/在文本分类上微调Bert.md)
6. [UDA-Unsupervised Data Augmentation for Consistency Training-半监督集大成](./深度学习自然语言处理/文本分类/UDA.md)
7. [LCM-缓解标签不独立以及标注错误的问题](./深度学习自然语言处理/文本分类/LCM-缓解标签不独立以及标注错误的问题.md)
8. [关键词信息如何融入到文本分类任务中](./深度学习自然语言处理/文本分类/关键词信息如何融入到文本分类任务中.md)


### 机器翻译
Expand Down
Binary file modified 深度学习自然语言处理/.DS_Store
Binary file not shown.
Binary file modified 深度学习自然语言处理/Transformer/.DS_Store
Binary file not shown.
Original file line number Diff line number Diff line change
@@ -0,0 +1,30 @@
在知乎看到这样一个问题【如何将关键词信息融入到文本分类任务】,简单说一下自己的经验,供大家参考;

首先说,现在基本各组都有自己的关键词词库,构造方法也都基本上相似。

简单点的就是TF-IDF筛选,复杂的就是构建挖掘特征,关键词二分类模型;

基于此,大家一般也会加上新词发现+实体挖掘进行候选词库的补充;

然后我们再来说,如何把关键词信息融入到文本分类任务中去。

如果说关键词类别未知,这种情况不常见,但是也会有,一般是两种处理方式。

一种是直接拼接在文本后面,增强信息,很常见。

举个例子【今天出去旅游吗】,关键词是【旅游】,文本输入就是【今天出去旅游吗旅游】

另一种是将关键词构造维稀疏特征加入到文本中去,缺点就是维度会比较高;

如果说关键词类别已知,这种场景比较常见;

先说个题外话,在挖掘语料的时候,关键词匹配挖掘语料是一个很常见的手段,但是容易造成语料太过简单单一+语料噪声比价大,所以冷启动的情况下,可以用关键词挖掘语料,之后还是上一批人工的标注会好一点;

关键词类别已知的情况下,也可以使用两种方式来融入到文本分类任务中去;

第一种就是,把关键词往上抽象化,转为对应的类别,然后作为特征结合文本输入到网络中去;

第二种,也是我比较常用的就是对文本分类之后,对文本做关键词匹配,对应类别提升分值,简单说加规则,这个手段有点不好控制的地方就是分值的确定。

但是我为啥爱用呢?最大的原因就是容易在和运营讲道理【撕】的时候获胜,百试不爽~~~

0 comments on commit b142505

Please sign in to comment.