计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
如何评价2020年计算机视觉顶会CVPR投稿量破万的现象？请解释下variational inference？
自监督学习（Self-supervised Learning）有什么比较新的思路？
人工智能 CV 岗位是不是现在供严重大于需？
如何看待 AI 方向 PhD 申请竞争过于激烈的现象？
主题模型(topic model)到底还有没有用，该怎么用？
如何看待多模态transformer，是否会成为多模态领域的主流？
CVPR 2015 有什么值得关注的亮点？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
ICLR 2021 有什么值得关注的投稿？
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
pytorch dataloader数据加载占用了大部分时间，各位大佬都是怎么解决的？使用pytorch时，训练集数据太多达到上千万张，Dataloader加载很慢怎么办?
Apriori算法是什么？适用于什么情境？
如何评价生成模型框架 ZhuSuan?
pytorch 的高层库ignite怎么样？
如何评价通信工程很多导师都研究机器学习人工智能而不是传统的天线电磁场等方向?
如何评价生成模型框架 ZhuSuan?
谷歌翻译原理是什么，从语言A到B，中间是否要翻译成中介语言C（如英语）？
如何看待指出 神经网络的训练罪魁祸首是退化一文？
多任务学习中loss多次backward和loss加和后backward有区别吗？
如何评价2020年计算机视觉顶会CVPR投稿量破万的现象？
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
研一，在学机器学习和深度学习，为什么感觉越学越不会，怎么解决这个问题？
BERT中，multi-head 768*64*12与直接使用768*768矩阵统一计算，有什么区别？
目前 AI 在疾病的诊断和治疗上，有哪些成功的应用？
如何评价 Exploring Simple Siamese Learning?
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
如何用机器学习判断《溪岸图》是否董源真迹？
pytorch 的高层库ignite怎么样？
三维重建怎么入门？
机器学习算法进行分类时，样本极度不平衡，评估模型要看哪些指标？
如何看待 Alex Smola 加入 Amazon？
如何学习视频识别技术？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
人工「神经网络」技术在信息处理上有何特点，工作原理是什么？
在算力充沛，深度学习模型大行其道的今天，传统机器学习的未来在哪里？
如何评价 2018 清华大学特等奖学金计算机大类（贵系、软院、姚班）无人通过一轮筛选？
UCLA 的朱松纯教授是一个什么样的人？