信息层级:【有据可查】= 附官方文档或可信来源链接;【社区共识】= 社区用户普遍经验,未经官方确认;【待考察/推测】= 推测或暂未能核实,请谨慎对待。
📝 术语说明:用户原稿写作"jev",并补充说明指"那个纯决策的模型类型"。本文按 JEPA(Joint-Embedding Predictive Architecture,联合嵌入预测架构)理解——这是 Yann LeCun 提出的非生成式架构,不生成内容、只在表征空间做预测,用于理解、规划和决策。若原意另有所指,欢迎指正。【待确认】
1. 一张总表
| 类别 | 输入 → 输出 | 核心机制 | 代表 | 你日常能接触吗 | 层级 |
|---|---|---|---|---|---|
| LLM | 文字(多模态版还收图/音) → 文字 | Transformer 自回归预测下一个 Token | GPT、Claude、DeepSeek、Qwen、GLM | ✅ 天天用 | 有据可查 |
| 扩散模型 | 文字提示 + 噪声 → 图片 | 多步去噪 | Stable Diffusion、FLUX 等 | ✅ 文生图 | 有据可查(DDPM,arXiv:2006.11239) |
| 视频生成模型 | 文字/图片 → 视频 | 多为扩散 + Transformer,兼顾时间连续 | Sora、Veo、Kling 等 | ✅ | 有据可查(产品存在) |
| JEPA | 观测(图/视频) → 表征与预测(不出图) | 在表征空间预测被遮住的部分 | I-JEPA、V-JEPA 2 | ⚠️ 研究/开发者向 | 有据可查 |
| 世界模型 | 当前状态 + 动作 → 下一状态 | 学习"环境如何演变" | Genie 3、V-JEPA 2-AC 等 | ⚠️ 少量预览 | 有据可查 / 定义有争议 |
| 决策/策略模型 | 状态 → 动作 | 强化学习、序列建模 | AlphaGo 类、Decision Transformer、VLA | ⚠️ 游戏/机器人 | 有据可查 |
| Bot / Agent | 用户请求 → 完成任务 | 应用层:模型 + 提示词 + 工具 + 记忆 | 客服机器人、Codex、OpenClaw | ✅ | 社区共识 |
2. LLM:会说话的"接龙高手"
原理见 大语言模型原理:Token、上下文、生成与幻觉。要点:它的"世界"是 Token 序列,所有能力(编程、推理、写作)都通过生成文字体现。
3. 扩散模型:从噪声里"雕"出图片
- 【有据可查】Stable Diffusion 类"潜空间扩散"(Latent Diffusion,arXiv:2112.10752)在压缩后的潜空间去噪,再由 VAE 解码成像素——这正是 ComfyUI 节点图里
KSampler → VAE Decode的来历(见 ComfyUI 入门:安装、节点、模型文件与第一张图)。 - 【社区共识】也有用自回归方式生成图片的模型;"文生图 = 扩散"是常见但不绝对的说法。
4. 视频模型:会动的扩散
- 在图片基础上多了时间维度:要保证人物、物体、光照在帧之间一致。
- 【有据可查】OpenAI 在 Sora 技术报告中把视频生成模型称为"世界模拟器(world simulators)"的一种尝试:Video generation models as world simulators。
- 【社区共识】但会画出"看起来真实"的视频,不等于理解物理——常见穿模、物体凭空出现。
5. JEPA("jev")与其他偏"决策"类模型
5.1 JEPA 是什么?
【有据可查】
- LeCun 在 2022 年的立场论文 A Path Towards Autonomous Machine Intelligence 中提出 JEPA,主张智能体应学习世界模型,在抽象表征空间里预测,而不是逐像素/逐词生成。
- I-JEPA(图像,arXiv:2301.08243)、V-JEPA 2(视频,arXiv:2506.09985、Meta 博客)。
- V-JEPA 2:约 12 亿参数,用超过 100 万小时网络视频自监督预训练;再用不到 62 小时机器人数据训练动作条件版本 V-JEPA 2-AC,在新环境中以"目标图片"规划机械臂抓取放置(零样本)。2026 年发布 V-JEPA 2.1(arXiv:2603.14482)。
白话:生成式模型被要求"把树叶每一片都画对";JEPA 只被要求"知道那里会有一棵在风中摇摆的树"。后者把力气花在可预测的本质上,因此更适合做理解、预测和规划。【社区共识 / 研究观点转述】
它不能做什么:JEPA 本身不给你生成图片、视频或文章,普通用户不会直接"用"它聊天。它的价值在机器人、视频理解等方向。
5.2 其他偏"决策"的模型——和 JEPA 怎么区分?
| 类型 | 输入 → 输出 | 怎么学 | 代表 | 与 JEPA 的区别 | 层级 |
|---|---|---|---|---|---|
| 强化学习策略模型(Policy) | 状态 → 动作 | 试错 + 奖励 | AlphaGo / AlphaZero(Nature 2016) | 直接学"该怎么做";JEPA 学"世界会怎样",再交给规划器决定动作 | 有据可查 |
| Decision Transformer | (目标回报, 状态, 历史动作) → 下一个动作 | 把决策当序列预测,用离线轨迹训练 | arXiv:2106.01345 | 用 Transformer"接龙"出动作;不在表征空间预测未来 | 有据可查 |
| VLA(视觉-语言-动作) | 图像 + 语言指令 → 机器人动作 | 在视觉语言模型上加动作输出并用机器人数据训练 | RT-2(arXiv:2307.15818)、OpenVLA(arXiv:2406.09246) | 端到端输出动作,借 LLM 常识;JEPA 路线强调先学世界表征 | 有据可查 |
| 世界模型 + 规划器 | 状态 + 候选动作 → 预测结果 → 选最优 | 学环境动力学 | V-JEPA 2-AC、Dreamer 系列 | V-JEPA 2-AC 就属于这一类 | 有据可查 |
📌 "纯决策模型"这个说法:JEPA 本身是"学表征 + 预测",决策由其上的规划模块完成;严格意义上"直接输出决策"的是策略模型/VLA。把 JEPA 称作"决策类"是对其用途的概括。【作者理解,待确认】
6. 世界模型:最容易被滥用的词
【社区共识】"世界模型"至少有三种用法:
| 用法 | 例子 | 是否可交互 |
|---|---|---|
| 机器人/强化学习中的环境动力学模型 | V-JEPA 2-AC、Dreamer | 内部使用 |
| 可交互的生成式虚拟世界 | Google DeepMind Genie 3(官方博客) | ✅ 可实时操控 |
| 营销说法:视频模型"理解物理世界" | 各视频产品宣传 | ❌ |
7. Bot / Agent:不是模型,是"组装好的应用"
同一个模型可以做成客服 Bot、编程 Agent、酒馆角色(SillyTavern 酒馆图解:连接、角色卡、世界书与提示词)——区别在外壳,不在模型。
8. 这几类之外:还有哪些模型?
| 类别 | 做什么 | 例子 | 层级 |
|---|---|---|---|
| Embedding 模型 | 文字/图片 → 向量,用于检索、聚类 | 各家 embedding API | 有据可查 |
| 重排序 Reranker | 给检索结果重新打分 | RAG 系统常用 | 社区共识 |
| 语音识别 ASR | 语音 → 文字 | Whisper(arXiv:2212.04356) | 有据可查 |
| 语音合成 TTS / 音乐生成 | 文字 → 语音/音乐 | 各家 TTS | 社区共识 |
| 视觉识别/检测/分割 | 图片 → 标签/框/掩码 | YOLO、SAM 系列 | 社区共识 |
| 对比学习图文模型 | 图文对齐 | CLIP(arXiv:2103.00020),扩散模型的文本编码器常用 | 有据可查 |
| 科学模型 | 蛋白质结构、天气预测 | AlphaFold(Nature 2021) | 有据可查 |
| 推荐/排序模型 | 你刷到什么 | 各大平台 | 社区共识 |
| 时间序列预测 | 销量、负载预测 | 各类 | 社区共识 |
| 安全分类器 | 判断内容/操作是否危险 | Agent 的 auto 审批模式(Claude Code 使用:安装、权限与项目工作流/Qoder 使用:IDE、CLI、权限与自定义模型) | 社区共识 |
注意区分"类别"与"架构":MoE(混合专家)、Mamba/SSM(arXiv:2312.00752)是架构,可以用来做 LLM;不是与 LLM 并列的"另一类模型"。【社区共识】
9. 本篇无法核实/需谨慎的点
- "jev"按 JEPA 理解(用户已补充为"纯决策的模型类型"),仍待原作者最终确认。
- "世界模型"无统一定义,各家宣传口径不同。
- 各闭源视频模型的具体架构:多数未公开。
- JEPA 路线能否在通用 AI 上超越生成式路线:学界有争议,属开放问题。
小白练习:把本文流程逐项走通
练习目标:按输入、输出和能力判断产品属于哪一层。
上文已介绍概念、配置和操作示例。下面侧重第一次实际操作时的顺序、检查点和结果核对;需要查具体参数时回到对应小节。命令逐条输入,看到上一条的结果后再继续。
-
看到一个新名字时先找官方模型卡或产品文档,记录它接受什么输入、产生什么输出。
-
分别标出文字生成、图像生成、表征预测和动作输出。能看图与能画图是不同能力。
-
再看它是模型权重、API 服务还是带工具的应用;Agent 和 Bot 属于应用层,不能直接等同于某个架构。
-
阅读世界模型宣传时,继续检查是否能交互、是否接收动作、是否有可复核的研究或演示。
-
把文中的研究结果、产品存在和作者评价分开记录;不要把一个版本的实验成绩当作整个类别的必然能力。
