BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
基于对比学习(Contrastive Learning)的文本表示模型【为什么】能学到语义【相似】度？刷leetcode使用python还是c++？
深度学习attention机制中的Q,K,V分别是从哪来的？
word2vec有什么应用？
你实践中学到的最重要的机器学习经验是什么？
adversarial training为什么会起作用？
实体提取任务中使用BERT-CRF时，CRF根据数据统计可以得到转移概率，为啥还要训练呢？
为什么Transformer要用LayerNorm？
2021 年，深度学习方面取得了哪些关键性进展？
word2vec有什么应用？
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
AI领域的灌水之风如何破局？自然语言处理怎么最快入门？
如何用自然语言处理判断一句话是否符合中文口语习惯？
有监督和无监督学习都各有哪些有名的算法和深度学习？
Bert中的词向量各向异性具体什么意思啊？
实体提取任务中使用BERT-CRF时，CRF根据数据统计可以得到转移概率，为啥还要训练呢？
如何评价 Exploring Simple Siamese Learning?
知识图谱+nlp，有什么适合硕士独自研究的方向？
基于深度学习的自然语言处理在 2016 年有哪些值得期待的发展？
cv/nlp等方向的就业困难是全球性的吗？
如何评价微软亚洲研究院提出的LightRNN？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
有哪些深度学习效果不如传统方法的经典案例？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
Word2vec 翻译到另一种语言，其向量空间之间的映射会不会是线性的？
Pytorch有什么节省显存的小技巧？
有哪些人工智能上的事实，没有一定人工智能知识的人不会相信？
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？
Bert中的词向量各向异性具体什么意思啊？
在文本分类任务中，有哪些论文中很少提及却对性能有重要影响的tricks？
2021年人工智能领域有哪些关键性进展和突破？
2021年人工智能领域有哪些关键性进展和突破？
BERT可以用于文本聚类吗?
如何评价微软亚洲研究院提出的LightRNN？
如何用自然语言处理判断一句话是否符合中文口语习惯？
如何评价微软亚洲研究院提出的LightRNN？
国内做NLP业务的香侬科技值得去吗？
研究推荐系统要对NLP很了解吗？
如何评价 2021 年 12 月新改版的知识引擎 magi.com？
一个无监督学习算法，如何判断其好坏呢?