梅斯医学MedSci APP
医路相伴，成就大医
梅斯医学MedSci APP
医路相伴，成就大医
最近，图灵奖得主 Yann LeCun 给一场辩论做了个特别的开场。LeCun认为，「从现在起 5 年内，没有哪个头脑正常的人会使用自回归模型。」。而他口中的自回归，正是当前爆红的 GPT 家族模型所依赖的学习范式。
Yann LeCun 延续了他一贯的犀利风格，直言不讳地指出「Machine Learning sucks!」「Auto-Regressive Generative Models Suck!」最后话题自然是回到「世界模型」。
LeCun 一直在强调，与人和动物相比，当前的这些大型语言模型在学习方面是非常低效的：一个从没有开过车的青少年可以在 20 小时之内学会驾驶，但最好的自动驾驶系统却需要数百万或数十亿的标记数据，或在虚拟环境中进行数百万次强化学习试验。即使费这么大力，它们也无法获得像人类一样可靠的驾驶能力。
在 LeCun 看来，目前各种大模型是基于自回归算法的，而这类模型是没有前途的（Auto-Regressive LLMs are doomed）。因为它们虽然表现惊人，但很多问题难以解决，包括事实错误、逻辑错误、前后矛盾、推理有限、容易生成有害内容等。重要的是，这类模型并不了解这个世界底层的事实（underlying reality）。
LeCun 提出了构建「世界」模型的想法，并在一篇题为《A path towards autonomous machine intelligence》的论文中进行了详细阐述。
具体来说，他想要构建一个能够进行推理和规划的认知架构。这个架构由 6 个独立的模块组成：
配置器（Configurator）模块；
感知模块（Perception module）；
世界模型（World model）；
成本模块（Cost module）；
actor 模块；
短期记忆模块（Short-term memory module）。
Yann LeCun 还在 PPT 中阐述了之前论文里提到的一些细节。
概率模型在连续域中是难以实现的，而生成式模型必须预测世界的每一个细节。
基于此，LeCun 给出了一种解决方案：联合嵌入预测架构（Joint-Embedding Predictive Architecture，JEPA）。
JEPA 不是生成式的，因为它不能轻易地用于从 x 预测 y。它仅捕获 x 和 y 之间的依赖关系，而不显式生成 y 的预测。
通用 JEPA。
如上图所示，在这种架构中，x 代表过去和当前观察到的，y 代表未来，a 代表 action，z 代表未知的潜在变量，D（）代表预测成本，C（）代表替代成本。JEPA 从代表过去和现在的 S_x 的表征中预测一个代表未来的 S_y 的表征。
生成式架构会预测 y 的所有的细节，包括不相关的；而 JEPA 会预测 y 的抽象表征。
在这种情况下，LeCun 认为有五种思路是需要「彻底抛弃」的：
放弃生成式模型，支持联合嵌入架构；
放弃自回归式生成；
放弃概率模型，支持能量模型；
放弃对比式方法，支持正则化方法；
放弃强化学习，支持模型预测控制。
他的建议是，只有在计划不能产生预测结果时才使用 RL，以调整世界模型或 critic。
迈向自主式 AI 系统的步骤都有哪些？LeCun 也给出了自己的想法：
1、自监督学习
学习世界的表征
学习世界的预测模型
2、处理预测中的不确定性
联合嵌入的预测架构
能量模型框架
3、从观察中学习世界模型
像动物和人类婴儿一样？
4、推理和规划
与基于梯度的学习兼容
没有符号，没有逻辑→向量和连续函数
原始出处：
https://openreview.net/pdf?id=BZ5a1r-kVsf
https://mp.weixin.qq.com/s/m943KNGUzFqu62lAlyl5-A s机器之心
https://www.shaped.ai/blog/yann-lecun-a-path-towards-autonomous-machine-intelligence
0
