百科问答小站 logo
百科问答小站 font logo



如何看待Transformer在CV上的应用前景,未来有可能替代CNN吗? 第1页

  

user avatar   zhangshujia 网友的相关建议: 
      

传统机器学习模型被诟病较多的是单任务学习,诟病指向的是:那些从一开始就把单任务学习简化成一个向量输入、一个分布输出的简单复合函数,或者seq2seq+attention,或是再不济加上graph的取巧模式…

然而Deepmind / OpenAI这样的团队,一出世就是World Model,然后持续的醍醐灌顶+庖丁解牛一步步逼近AGI的数学思维进化;期间,犹抱琵琶的发布一组模型,引得一众追随者。因此我们看到国内产学这种followership的开发者氛围的局限性在于,仍是在追随、喂养由领跑者创造的模型和规则,削弱实质创新;那么当下沉迷讨论Transformer替代CNN,潜在心理不过是想把它当作另一个开箱即用的CNN。

如今,以算力密集的数据中心来看:摩尔定律演进变缓的当下,多样性workload激增的当下,Domain-specific算力的应用迫切性会变得更高,且这个form factor无需那么严肃考虑向后兼容性了,DSA会以异构形式发扬出下一阶的算力升级和池化需求,算力升级和池化实践的体验也将引导云用户逐渐摆脱IaaS的束缚;每种DSA算力资源还能独立快速演进。那么,没有了向后兼容的编程顾虑,也没有了冯结构一切计算/存储/通信规则框的束缚,我们就放开手脚迫切追求自己的核心、自己的uArch/uOP(fusion)指令、自己的神经网络拓扑、自己的编程语法+编译器+池化调度器设计、自己通往AGI的数学原理模型,以支持本土千行百业的需求和workloads,逐渐从DC应用及其数据集处理的计算体系结构和软件层面摆脱对于外国商用主/协处理器的依赖,这莫非不是Azure/AWS等风口数据中心也正在做的事?—— 在一些不那么严肃考虑向后兼容式迭代的未来异构场景,有巨大的商业疆域,何必仍以追随者的姿态付出自己难得的domain-workload去喂养别人的生态和迭代。


user avatar   shusenwang 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。


user avatar   rainstorm-53 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。


user avatar   hankai 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。


user avatar   qi-guo-jun-99 网友的相关建议: 
      

首先这是Fed一月 memo

先说结论:

FOMC 维持利率在 0-0.25% 不变。且确定 3 月完全停止 QE,同时 3 月加息也是箭在弦上,基本会后声明皆符合市场预期,没有太多的意外。

Powell 记者会确实是偏一点点的小鹰派,但我也认为,Powell 的说法不至于拉升市场加息预期至 5次 、并拉升缩表预期至上半年,反而比较像是在强化加息 4 次之预期。

另外我个人觉得,一些中文媒体似乎误读了Powell 记者会的部分片段,下面 Allen 再进一步说明。


1. 3 月加息停止 QE 早已定价

本次会议 Fed 再次确认 3 月将准备第一次加息,并同时停止 QE。

Fed 也再次重申,货币政策是要支持美国经济达到充分就业、与通膨长期均值维持 2.0% 的两大目标。

这部分我想市场早已定价,这裡完全不会是问题,所以我们不讨论太多。


2.未来加息在每次会议都可能发生 (?)

Powell 的原文说法是:Won't Rule Out Hike Every Meeting.

但我有看到部分中文媒体写:不排除每次会议都加息的可能性。

上述我想或许是误读了 (还是其实是我自己误会中文的意思 ?)

我的理解是:Powell 是说加息在未来每场会议都可能发生,指的是“不会在特定月份才加息”,不是说每场都要加息。

Powell 说得很合理,经济本来就是动态的,加息本就不会侷限在什麽月份才启动,端看当时的经济状况而定。

我认为Powell 上述说法,并未延展今年加息预期至五次或更多,若有这种想法,那绝对是误读了。


3.更大规模的缩表?

Powell 在记者会上提到,Fed 需要更大规模的缩表,但请大家不要恐慌,因为我又觉得部份中文媒体过度解读了。

我认为Powell 说到的“更大规模缩表”,在思维上指的是:

因为当前 Fed 资产负债表高达 8.9 万美元,这是新冠疫情爆发之前的两倍大,显然在绝对规模上是非常巨大的。

而上一轮 2017-2019 年 Fed 缩减资产负债表,是自 4.4 万亿美元缩到 3.7 万亿美元停止,缩表的幅度大概是 15.9%,共缩减了约 7000 亿美元。

确实每次缩表的经济背景绝对是不一样的,所以幅度也绝对不会相同,但我们随便抓,假设本轮缩表将缩减 10% 资产负债表规模,那麽这也要降低 8900 亿美元,规模当然很大。

但我认为,不需要过度恐慌在“更大规模缩表”这几个字上。更重要的,我认为是“Fed 缩表的速率是多少?”

我相信缩表没问题,缩表太快才是问题,因为缩表速度若太快,将直接影响的会是美债殖利率升速、以及殖利率曲线的斜率。

这点Powell 也非常清楚,Powell 在记者会上也不断强调,联准会内部尚未具体讨论到一切缩表的进度,要等到 3 月再说。


4.缩表比较可能落在下半年

Powell 在记者会上说明,希望在加息至少一次之后,再来开会讨论缩表的事情,且委员会至少将讨论一次,才会做最终拍板。

更重要的,Powell 希望缩表的进程是有秩序的、是可被预见的过程。

从上述Powell 丢出的时间表看,我个人认为缩表将落在 2022 下半年,最快可能是 6 月份,因为在 3 月加息后,Fed 才会来讨论缩表。

我个人相信 Fed 现在内部早已在讨论缩表,但委员会显然尚未准备好来与市场沟通缩表的前瞻指引。

而缩表这麽大的事情,我个人认为 Fed 需要起次跟市场沟通 2 次,并把缩表规划说得非常清楚之后,才会开始进行,所以比较合理的缩表时间,估计将会落在下半年。


5.最大风险:高通膨

Powell 在记者会上,大概提到了 800 万次的“高通膨压力”,并认为目前美国通膨风险仍在上升阶段,但预计 2022 通膨还是会回落。

Powell 说明,目前美国通膨居高不下,主要仍是供应链所致,白话来说就是供需仍然失衡,且供给侧 (Supply Side) 改善的速度是低于预期。

Powell 强调,目前美国高通膨持续存在,而美国经济要的是长期扩张,所以若要长期扩张,物价势必需要保持稳定。

这边开始进入正题了,我认为这是本次会议的最重要核心,是让我体感上,觉得 Fed 鹰派的地方。我认为 Fed 承认自己落后给菲利浦曲线 (Behind the curve),简单而言,Fed 这次的加息速度大幅落后给通膨。

由于 Fed 在 2021 年对于通膨的误判,先前 Fed 在 2021 年认为通膨在年底就可望自然回落,但也就是因为这件事没有发生,反而通膨还更为严重,所以目前才有使用加息来追赶通膨的压力。但当前宏观环境看,通膨的压力是来自于缺工、供应链紧俏等问题,再加上拜登政府的大力推行财政刺激在那边推波助澜~

所以这一次的通膨是来自于实体经济上的供需失衡问题,并不是金融市场过度投机、企业超额投资等问题,我认为 Fed 在这次的通膨问题上,能做得空间非常有限。

这裡将产生一个不确定性的较大风险,就是 Fed 只能靠货币紧缩去压通膨预期,但实体经济的根本性通膨问题,还是没有获得解决。变成最终 Fed 只能再用更剧烈的紧缩政策,去引导通膨预期走低后,尝试来压低实际通膨率,所以这裡将让 Fed 的紧缩路径,存在著较大不确定性。

比较好的处理方式,应该是直接去解决实体经济上的缺工和供应链/例如我之前提到的塞港问题,让实际通膨率自己走低、而不是靠 Fed 挤压通膨预期之后去引导。

谁可以去把坐在白宫裡疑似患有阿兹海默的白髮老头一巴掌打醒...还我特~


结论:我个人认为 Fed 今年将加息四次,不至于加息五次,而加息四次之预期,相信市场应该已经定价;至于缩表,相信市场尚未定价,估计将落在 2022 下半年,最快可能是 6 月。

如果 Fed 今年加息五次,我会感到非常意外,因为这意味著 Fed 很可能在 2023 年底、2024 年初,就因为美国经济放缓太快而需要降息,Fed 这波操作就会变得非常韭。

最后说说股市的想法目前 Nasdaq 已经插水一段时日,抑制通胀是当务之急,而股市所谓修正才多久已出现V转。对通胀而言意义不大,修正数月才可能有帮助~所以我之前一直描述为“恐慌”。因此对白髮老头而言,怎麽做才有利于中期选举就很清晰了。

最好还是坚持认为市场或已定价加息四次之预期,但缩表预期则是尚未定价的观点。

配置上美股我倾向持有科技权值股,一些 Megacap 的估值我认为合理、前景确定性较高,而这样也可以让你的收益贴著 QQQ 走。

考虑到一堆成长股腰斩,我也愿意加仓接刀成长股,但建议佔据投资组合的比例,或许不要超过 15%,如果选股功力不错,这裡就会开始让你的收益拉开与 QQQ 之类的差距。

最后,我相信人人都会想在市场下跌的环境裡接刀,接刀不是不行,但若接刀失败,斩缆我建议速度要快,我个人不考虑价投的话一次斩缆的比例都是 50% 以上。


user avatar   openmmlab 网友的相关建议: 
      

首先这是Fed一月 memo

先说结论:

FOMC 维持利率在 0-0.25% 不变。且确定 3 月完全停止 QE,同时 3 月加息也是箭在弦上,基本会后声明皆符合市场预期,没有太多的意外。

Powell 记者会确实是偏一点点的小鹰派,但我也认为,Powell 的说法不至于拉升市场加息预期至 5次 、并拉升缩表预期至上半年,反而比较像是在强化加息 4 次之预期。

另外我个人觉得,一些中文媒体似乎误读了Powell 记者会的部分片段,下面 Allen 再进一步说明。


1. 3 月加息停止 QE 早已定价

本次会议 Fed 再次确认 3 月将准备第一次加息,并同时停止 QE。

Fed 也再次重申,货币政策是要支持美国经济达到充分就业、与通膨长期均值维持 2.0% 的两大目标。

这部分我想市场早已定价,这裡完全不会是问题,所以我们不讨论太多。


2.未来加息在每次会议都可能发生 (?)

Powell 的原文说法是:Won't Rule Out Hike Every Meeting.

但我有看到部分中文媒体写:不排除每次会议都加息的可能性。

上述我想或许是误读了 (还是其实是我自己误会中文的意思 ?)

我的理解是:Powell 是说加息在未来每场会议都可能发生,指的是“不会在特定月份才加息”,不是说每场都要加息。

Powell 说得很合理,经济本来就是动态的,加息本就不会侷限在什麽月份才启动,端看当时的经济状况而定。

我认为Powell 上述说法,并未延展今年加息预期至五次或更多,若有这种想法,那绝对是误读了。


3.更大规模的缩表?

Powell 在记者会上提到,Fed 需要更大规模的缩表,但请大家不要恐慌,因为我又觉得部份中文媒体过度解读了。

我认为Powell 说到的“更大规模缩表”,在思维上指的是:

因为当前 Fed 资产负债表高达 8.9 万美元,这是新冠疫情爆发之前的两倍大,显然在绝对规模上是非常巨大的。

而上一轮 2017-2019 年 Fed 缩减资产负债表,是自 4.4 万亿美元缩到 3.7 万亿美元停止,缩表的幅度大概是 15.9%,共缩减了约 7000 亿美元。

确实每次缩表的经济背景绝对是不一样的,所以幅度也绝对不会相同,但我们随便抓,假设本轮缩表将缩减 10% 资产负债表规模,那麽这也要降低 8900 亿美元,规模当然很大。

但我认为,不需要过度恐慌在“更大规模缩表”这几个字上。更重要的,我认为是“Fed 缩表的速率是多少?”

我相信缩表没问题,缩表太快才是问题,因为缩表速度若太快,将直接影响的会是美债殖利率升速、以及殖利率曲线的斜率。

这点Powell 也非常清楚,Powell 在记者会上也不断强调,联准会内部尚未具体讨论到一切缩表的进度,要等到 3 月再说。


4.缩表比较可能落在下半年

Powell 在记者会上说明,希望在加息至少一次之后,再来开会讨论缩表的事情,且委员会至少将讨论一次,才会做最终拍板。

更重要的,Powell 希望缩表的进程是有秩序的、是可被预见的过程。

从上述Powell 丢出的时间表看,我个人认为缩表将落在 2022 下半年,最快可能是 6 月份,因为在 3 月加息后,Fed 才会来讨论缩表。

我个人相信 Fed 现在内部早已在讨论缩表,但委员会显然尚未准备好来与市场沟通缩表的前瞻指引。

而缩表这麽大的事情,我个人认为 Fed 需要起次跟市场沟通 2 次,并把缩表规划说得非常清楚之后,才会开始进行,所以比较合理的缩表时间,估计将会落在下半年。


5.最大风险:高通膨

Powell 在记者会上,大概提到了 800 万次的“高通膨压力”,并认为目前美国通膨风险仍在上升阶段,但预计 2022 通膨还是会回落。

Powell 说明,目前美国通膨居高不下,主要仍是供应链所致,白话来说就是供需仍然失衡,且供给侧 (Supply Side) 改善的速度是低于预期。

Powell 强调,目前美国高通膨持续存在,而美国经济要的是长期扩张,所以若要长期扩张,物价势必需要保持稳定。

这边开始进入正题了,我认为这是本次会议的最重要核心,是让我体感上,觉得 Fed 鹰派的地方。我认为 Fed 承认自己落后给菲利浦曲线 (Behind the curve),简单而言,Fed 这次的加息速度大幅落后给通膨。

由于 Fed 在 2021 年对于通膨的误判,先前 Fed 在 2021 年认为通膨在年底就可望自然回落,但也就是因为这件事没有发生,反而通膨还更为严重,所以目前才有使用加息来追赶通膨的压力。但当前宏观环境看,通膨的压力是来自于缺工、供应链紧俏等问题,再加上拜登政府的大力推行财政刺激在那边推波助澜~

所以这一次的通膨是来自于实体经济上的供需失衡问题,并不是金融市场过度投机、企业超额投资等问题,我认为 Fed 在这次的通膨问题上,能做得空间非常有限。

这裡将产生一个不确定性的较大风险,就是 Fed 只能靠货币紧缩去压通膨预期,但实体经济的根本性通膨问题,还是没有获得解决。变成最终 Fed 只能再用更剧烈的紧缩政策,去引导通膨预期走低后,尝试来压低实际通膨率,所以这裡将让 Fed 的紧缩路径,存在著较大不确定性。

比较好的处理方式,应该是直接去解决实体经济上的缺工和供应链/例如我之前提到的塞港问题,让实际通膨率自己走低、而不是靠 Fed 挤压通膨预期之后去引导。

谁可以去把坐在白宫裡疑似患有阿兹海默的白髮老头一巴掌打醒...还我特~


结论:我个人认为 Fed 今年将加息四次,不至于加息五次,而加息四次之预期,相信市场应该已经定价;至于缩表,相信市场尚未定价,估计将落在 2022 下半年,最快可能是 6 月。

如果 Fed 今年加息五次,我会感到非常意外,因为这意味著 Fed 很可能在 2023 年底、2024 年初,就因为美国经济放缓太快而需要降息,Fed 这波操作就会变得非常韭。

最后说说股市的想法目前 Nasdaq 已经插水一段时日,抑制通胀是当务之急,而股市所谓修正才多久已出现V转。对通胀而言意义不大,修正数月才可能有帮助~所以我之前一直描述为“恐慌”。因此对白髮老头而言,怎麽做才有利于中期选举就很清晰了。

最好还是坚持认为市场或已定价加息四次之预期,但缩表预期则是尚未定价的观点。

配置上美股我倾向持有科技权值股,一些 Megacap 的估值我认为合理、前景确定性较高,而这样也可以让你的收益贴著 QQQ 走。

考虑到一堆成长股腰斩,我也愿意加仓接刀成长股,但建议佔据投资组合的比例,或许不要超过 15%,如果选股功力不错,这裡就会开始让你的收益拉开与 QQQ 之类的差距。

最后,我相信人人都会想在市场下跌的环境裡接刀,接刀不是不行,但若接刀失败,斩缆我建议速度要快,我个人不考虑价投的话一次斩缆的比例都是 50% 以上。


user avatar   mileistone 网友的相关建议: 
      

“我举报女友吸毒,自己反而被判刑六个月…”


今天的推送我觉得是所有去夜店蹦迪、电音节的人都应该看的一篇文章。


tututu先讲个真实发生过的故事:


主人公是个白纸男孩,我们就叫小白吧。


小白去蹦迪认识了朋友的朋友Yuki,Yuki是个留学生、老夜店玩咖,一看到小白跟个宝藏男孩一样,就疯狂的去倒追小白,两个人就在一起了。


在一起之后,Yuki就经常会去小白家里睡觉。


但因为Yuki在美国留学的时候喜欢飞叶子(大麻),每次事后就喜欢在小白家里自己卷上一根。


一次、两次、三次…小白实在受不来了,他是个小白纸啊,咋可能找个会飞叶子的女朋友啊?


两个人就吵架,小白说:“你以后不能碰这种东西了。”


Yuki就跟他说美国叶子合法之云云,两个人越吵越厉害,小白气坏了说我现在就报警叫警察抓你!


结果Yuki也是个岔道B,她说你报警就报警,我他妈现在就自己举报我自己。


警察就来了,一到现场,好,看到叶子了,给小白和Yuki验尿,小白没事,Yuki倒闭了,警察跟说Yuki得被关进去十四天,完了Yuki就进去了。


行政拘留十四天,第一次吸毒被抓都是这个处理结果。


接下来就到了这个故事最他妈精彩的部分了——


小白知道自己没事啊,就问警察叔叔说我要不先回家了?明天还得早起去上班呢。


警察叔叔笑了笑,就跟小白说你更走不了。


“吧哒”,一个手铐跟呼啦圈一样拷小白手上了,“您因为涉嫌容留他人吸毒,请配合调查。”


那一刻小白的心里真的是日了大狗了。


两个月后,法院判决结果出来了:


小白在三次明知女友在自己家吸毒的情况下,仍然容留她,为其提供吸毒场所,触犯了《中华人民共和国刑法》,判有期徒刑6个月,罚款5000元。


你是不是觉得这个故事在扯犊子?


你会觉得,WTF??小白连他妈碰都没碰,他简直太无辜了!


但对不起,这个故事就是现实中的判例:


而且判的合理合法,没有任何错误。


因为根据《中华人民共和国刑法》,容留他人吸毒的量刑标准就是三年以下有期徒刑,这个跟你吸不吸没有任何关系。


你说那我假如夜店认识了一个女生,我把她带回酒店满分,但她却要打气、飞叶子,我根本不碰这些东西,我就是在旁边守株待兔玩手机呢,我这也得被判刑么?


是的,如果缉毒警察突击进来,那你就拉闸了。


要是她还带了几个女生一起,是在你酒店房间高轰趴,那情节更严重,还得加刑。


你得被判半年,那个害你入狱的岔道B,没准被关了14天就出来了,还能去监狱探访你呢。


她还会隔着玻璃跟你说,兄弟你太惨了,我就是被关看守所里而已,环境还不错呢,你咋就进监狱了呢?等兄弟你出来之后我请你蹦迪好吧!


之所以要写这篇文章,是因为昨天朋友跟我吐槽了她以前一个蹭住的朋友,那个朋友就天天蹭住在她家里,她那个蹭住的朋友不仅每天带不同的男生回家,还玩东西。


我朋友给我吐槽的时候,她就根本不知道她已经触犯了刑法里“容留他人吸毒”这条罪名。


这也让我意识到,大部分的蹦迪选手也好、电音节Raver也好,其实都缺乏法律常识的,不知道有一条罪名是“容留他人吸毒”,总觉得“我不碰,就一点关系都没有”,真别等到自己被关半年,才后悔自己是个法盲。


我不知道这个数据是不是正确的:


但根据2019年国家禁毒办发布的中国毒品形势报告,登记在册的吸毒人员是214.8W名,这个群体其实鱼龙混杂,人们总觉得吸毒的都是黑社会、站街女,其实不是。


富二代、女艺人、留学生、网红、导演、金融…各行各业都有,所以如果你常去电音节和夜店,总会不可避免的接触到这类人。


这是很常出现的一种情况:


你知道对方吸毒,对方却不会像电影里一样教唆你吸毒,反而是在你好奇的时候严厉呵斥你,让你别碰这种东西。


而你自己也有一定的自制力、明辨是非的能力,不碰那些东西。


你会发现对方也并不像电影里描绘的那样精神错乱,反而温和有礼,跟你还很聊得来,而且人家还有正当工作,并且杰出优秀。


于是你们渐渐的变成了好友,你们会一起去电音节或夜店,之后你们还会一起在酒店的房间里轰趴、小酌。


他有时候还会来你的城市,你会直接让他住在你家里,因为你信的过他的人品。


他会在你的酒店房间、你家玩点东西什么的,当然每次你好奇的时候,他都让你别碰这些。


结果有一天恰好是电音节的时候,一个瘾君子被警察抓了,他又跟警察报出了很多他知道的名字,于是你朋友就被点了,警察来抓你朋友,直接敲开了你酒店房间的门。


一进门,你在沙发上玩手机喝酒上头呢,你朋友在那里玩东西。


最后的结果是什么呢?


你朋友被关14天,而且他是行政处罚,你得被关半年甚至更久,你这个叫刑事处罚。


所以我希望所有蹦迪选手、Raver都能记住这一点:


不管你碰不碰那些东西,请务必不要收留任何人在你家吸毒。


也别随便让吸毒的人来你家,你咋知道人家会不会因为你抢过他的小哥哥/小姐姐,所以故意接近你,去你家吸毒,自己举报自己,然后跟你来个同归于尽呢?


最后我想来理性的谈谈毒品和法律这个问题。


不可否认吸毒对于灵感创作、人生顿悟的帮助,比如许多画家、作家、音乐人都通过毒品创造了传世的佳作,比如柯尔律、济慈、勃朗宁、伯勒斯、梅勒、金斯堡、迪克、卡林、斯蒂芬金,甚至连白求恩都是经过一段毒品、糜烂的生活后,才寻找到了人生真正的意义。


但须知,世界上没有对错,所谓价值观即是多种利益之妥协,法律乃是社会契约所成,法律的本质目的在于维系社会的稳定,在大部分人生命权益的自由和小部人创作灵感的自由中进行取舍是困难的,这就像“电车难题”一样,从来不会有一个答案,每个人的答案都是主观的。


但如果我是立法者,我仍然会坚定的在毒品和枪支两件事上以重刑。


很多自由派会批评社会过于追求稳定,但须知一个人生在中国,他大可以在凌晨三点放心的出门,他不用担心自己乘坐的地铁会突然爆炸,更不用担心自己的办公室会突然遭到枪击,甚至连新冠流行你都会像没事人一样轻松。


但生在其他国家,你必须为这些事情担心,这个世界上没有能够兼顾到所有人、所有事的法律,没有尽善尽美的制度,任何一种法律和制度都是在各种问题上进行取舍得出一个答案而已。


很高兴认识你,我是tututu、一个从衡中考到上财之后不务正业的蹦迪博主,并莫名其妙写着写着就成了中国最大的蹦迪公众号,如果你想看更多有趣的蹦迪文章,请关注公众号 满分激光枪




  

相关话题

  如何评价 Exploring Simple Siamese Learning? 
  如何激怒一位人工智能(机器学习、深度学习、强化学习等)爱好者? 
  数据挖掘、机器学习、自然语言处理这三者是什么关系?这几个怎么入门啊? 
  如何评价谷歌用30亿数据训练的20亿参数ViT-G/14模型在 ImageNet 达到新的 SOTA? 
  CNN网络的pooling层有什么用? 
  word2vec 相比之前的 Word Embedding 方法好在什么地方? 
  计算机视觉研一,只学过Python基础,目前代码能力很差,要不要换导师,不换的话如何毕业? 
  深度学习有哪些好玩的案例? 
  transformer中的Q,K,V到底是什么? 
  如果你是面试官,你怎么去判断一个面试者的深度学习水平? 

前一个讨论
美国经济在2020年下半年复苏的可能性大吗?
下一个讨论
ARM的架构授权和ip core授权方式各有什么不同?拿到后能做哪方面的修改?





© 2024-11-24 - tinynew.org. All Rights Reserved.
© 2024-11-24 - tinynew.org. 保留所有权利