计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
三维重建怎么入门？如何评价通信工程很多导师都研究机器学习人工智能而不是传统的天线电磁场等方向?
如何解读 Jeff Dean 等联合在 arXiv 上发布的用深度学习分析电子病历的论文？
Learning To Rank的pair wise方法如何得到全局排序结果呢？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
如何评价余凯创立的horizon robotics？
研一，在学机器学习和深度学习，为什么感觉越学越不会，怎么解决这个问题？
如何评价Kaiming He团队的MoCo v3？
经过足够长的时间， AlphaGo 的棋谱能收敛到一张上吗？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？在推荐系统中，如何较好的采用深度学习方法获取用户长短期兴趣？
强化学习和自适应控制的关系是什么？
深度学习领域，你心目中 idea 最惊艳的论文是哪篇？
推荐系统有什么危害?
微软小冰测颜值是否比较准？为什么？
如何看待 2014 年以来计算机视觉（Computer Vision）界创业潮？
研究推荐系统要对NLP很了解吗？
如何看待鄂维南院士等发起的机器学习联合研讨计划（c2sml.cn）？
计算机视觉中video understanding领域有什么研究方向和比较重要的成果？
2021年深度学习在哪些应用上有实质进展？
南京大学LAMDA（周志华）组的实力如何？
在NLP当中，不同的评价指标，BLEU, METEOR, ROUGE和CIDEr的逻辑意义？
自动化的控制与检测领域中，有没有像机器学习、图像处理领域一样经典巧妙的算法？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
用 Python 进行数据分析，不懂 Python，求合适的 Python 书籍或资料推荐？
从应用的角度来看，深度学习怎样快速入门？
如何评价 DeepMind 公布的可生成算法竞赛解题代码的 AlphaCode？
迁移学习入门，新手该如何下手？
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
如何评价通信工程很多导师都研究机器学习人工智能而不是传统的天线电磁场等方向?
为什么要学习吴恩达的机器学习？
如何才能看得懂变分贝叶斯方法（Variational Bayesian）？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
KL散度衡量的是两个概率分布的距离吗？
训练过程中loss震荡特别严重，可能是什么问题？
如何看待End-to-End Object Detection with Transformers？
如何评价Google最新提出的gMLP：MLP模型在CV和NLP任务上均取得较好的效果？
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
神经网络的万能逼近定理已经发展到什么地步了？