计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
为什么图形学的会议siggraph的论文代码很少会开源？好像视觉如CVPR、ICCV开源的更多一些。机器学习包含哪些学习思想？
Python中 __init__的通俗解释是什么？
2020到2021年小样本学习取得重大进展了吗？
caffe开发过程中使用了哪些工具？
为什么神经网络具有泛化能力？
如何评价1700亿参数的GPT-3？
如何看待NVIDIA 即将开源的DLA？
深度学习（机器学习）的下一步如何发展？
有哪些比较好的机器学习、数据挖掘、计算机视觉的订阅号、微博或者是论坛？
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
如何理解空洞卷积（dilated convolution）？联邦学习在机器学习领域有什么独立存在的价值?
如何评价何恺明、Ross Girshick组的自监督时空表征学习新作？
在数据分析、挖掘方面，有哪些好书值得推荐？
机器学习如何才能避免「只是调参数」？
验证集loss上升，准确率却上升该如何理解？
如何评价 PyTorch 团队推出的推荐系统库 TorchRec？
如何看待学霸君的高考机器人 Aidam 高考全国文科数学卷考了 134 分？
如何看待在某度搜不到megengine官网？
如何将某个分布作为机器学习的特征？
超越人类的人工智能 (AI) 是否能够实现？
如何评价 Face++ 旷视科技最新出品的检测专用 backbone 网络 DetNet ？
怎么通过一维分布的随机样本推测原分布？
神经网络中 warmup 策略为什么有效；有什么理论解释么？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
计算机视觉中，目前有哪些经典的目标跟踪算法？
反馈控制理论在优化、机器学习等领域有哪些应用？
机器学习里面的流形都是怎么用的？
2019年CVPR有哪些糟糕的论文?
为什么VAE-GAN的训练很容易发生梯度爆炸，如何避免？
PyTorch中在反向传播前为什么要手动将梯度清零？
为什么yolov5从零开始训练（不在ImageNet上预训练）能够达到如此高的性能？
如何看待与评价 AAAI 2022 的录用结果？
只有正样本和未标签数据的机器学习怎么做？
如何评价MSRA最新的 Relation Networks for Object Detection？
c4.5为什么使用信息增益比来选择特征？
如何可以通过自学来深入学习机器学习？
数字图像处理的工作是用传统算法更多还是用深度学习更多?
谈谈机器学习在网络安全领域的局限性，以及是否乐观？
请问有没有基于实例的迁移学习的数据？