计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
目前的人工智能离可以自己给自己写代码编程还有多远？在算力充沛，深度学习模型大行其道的今天，传统机器学习的未来在哪里？
人工智能 CV 岗位是不是现在供严重大于需？
为什么说股票不能通过机器学习来预测？
当前人工智能特别是深度学习最前沿的研究方向是什么？
为什么现在有这么多人工智能无用论？
神经网络模型压缩好就业吗?
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
如何评价 BERT 模型？
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
使用pytorch时，训练集数据太多达到上千万张，Dataloader加载很慢怎么办?FPGA做深度学习能走多远？
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
行为识别常用哪种特征提取？
BERT模型可以使用无监督的方法做文本相似度任务吗？
如何评价Sony新出的深度学习库NNabla？
Transformer是如何处理可变长度数据的？
运维监控的KPI异常检测 业界有哪些实用方法？
在你做推荐系统的过程中都遇到过什么坑？
有哪些解决完之后让你拍案叫绝的算法问题？
请问应该怎样去学习图像识别和深度学习？
如何理解 Graph Convolutional Network（GCN）？
image caption这个方向更偏向NLP还是CV？
如何看待马毅老师深度学习第一性原理的文章在 ICML 四个审稿人一致接收的情况下被 AC 拒了？
ICLR 2021 有什么值得关注的投稿？
如何看待 Alex Smola 加入 Amazon？
在你做推荐系统的过程中都遇到过什么坑？
transformer中的Q,K,V到底是什么？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
目前手势识别发展到什么水平了？
有哪些比较好的机器学习，深度学习的网络资源可利用？
已有大量编程基础，如何速成python用于学习机器学习？
2020年，多标签学习（multi-label）有了哪些新的进展？
在推荐系统中，如何较好的采用深度学习方法获取用户长短期兴趣？
如何判断两个Deep Learning 数据集的数据分布是否一致？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
如何比较Keras, TensorLayer, TFLearn ？
有哪些看了让你醍醐灌顶的书籍、论文、期刊，使你对如何做数据挖掘、特征工程、统计挖掘有了眉目？