别吧,量子力学、统计力学、混沌理论用概率干了多少年的事了,轮得到机器学习来“预示”?
物理公式可以产生概率,机器学习产生的概率不在任何角度比公式产生的概率特殊。
机器学习对复杂事物产生的概率,无论看起来有多“神奇”,都可能包含严重的常识问题,因为现有的绝大部分机器缺少与世界互动的经验、缺少自行探索世界所需的硬件。这些问题被发现后非常难以修正,重新训练需要大量的资源和时间。在“预测蛋白质折叠方式”与“运用这些知识诊疗人体疾病”之间横亘的鸿沟,既不是“简洁、唯美的精确数学”能轻易填上的,也不是交给机器学习搞个“和人体一样让人搞不明白的黑盒子”作为桥梁就万事大吉的。
现在世界上真的存在“机器学习的不可解释就像世界本身的不可解释一样”的论调。不同程度地做过机器学习的学者(例如搞了很多年“机器学习与哲学”的大卫·温伯格)在幻想“假如我们弄出一个机器学习算法,它对人体在各种情况下的举动的预测与现实都一致但我们看不懂其算法,我们可以说这算法的不可解释是缺陷,或者承认这算法的有效正是因为不可解释”。世界当然有可能在表现得可预测的同时是不可理解的,但这些人对当前存在的算法的认识在某种意义上是天真的。