BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
BERT模型可以使用无监督的方法做文本相似度任务吗？目前（2017年）机器阅读技术发展得如何？能达到什么水平？有哪些应用？
2020-2021年NLP有什么核心技术的更迭吗？或者有什么推动领域发展的paper吗？
如何理解Inductive bias？
请问刘知远老师提供的网易新闻标注数据集开源吗？
在中文 NLP 等论文中，应该如何翻译 token 这个词？
如何评价Kaiming He的Momentum Contrast for Unsupervised?
2021 年，深度学习方面取得了哪些关键性进展？
transformer中的Q,K,V到底是什么？
刷leetcode使用python还是c++？
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
有哪些利用搜索引擎（Search Engine）辅助自然语言处理任务（NLP）的论文？为什么nlp没有像cv四小龙一样的创业公司？
验证集loss上升，准确率却上升该如何理解？
如何看待微软小冰写的诗？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
自然语言处理是计算机实现通用人工智能的最难挑战吗？
BERT可以用于文本聚类吗?
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
word2vec有什么应用？
如何评价1700亿参数的GPT-3？
BERT可以用于文本聚类吗?
知识图谱+nlp，有什么适合硕士独自研究的方向？
为什么编程语言语法的设计不往缩小与自然语言的差别的方向发展，或者说在这个方向发展得这么慢呢？
为什么编程语言语法的设计不往缩小与自然语言的差别的方向发展，或者说在这个方向发展得这么慢呢？
2020-2021年NLP有什么核心技术的更迭吗？或者有什么推动领域发展的paper吗？
BERT可以用于文本聚类吗?
有哪些人工智能上的事实，没有一定人工智能知识的人不会相信？
如何评价 2021 年 12 月新改版的知识引擎 magi.com？
为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕？
为什么这么多 NLP 大牛硕士毕业去企业不留在学术界？
如何理解深度学习源码里经常出现的logits？
如何看待微软小冰写的诗？
多模态方面，有哪些牛组值得我们follow他们的工作？
考古队可以跨省挖掘吗？
如何理解Inductive bias？
2021 年了，机器/深度学习还有哪些坑比较好挖？
Transformer中的Mask矩阵已经有顺序了，能去掉position embedding吗?
如何看待学霸君的高考机器人 Aidam 高考全国文科数学卷考了 134 分？
隐私计算、计算机视觉、自然语言处理三者中，哪个研究起来更有前途？
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?