制器坊 模型基础

模型类别:LLM、扩散、JEPA、世界模型与 Agent

按输入、输出和能力判断产品属于哪一层。配合操作示例、图解和检查点,完成第一次练习,再逐步排查使用中的问题。

信息层级:【有据可查】= 附官方文档或可信来源链接;【社区共识】= 社区用户普遍经验,未经官方确认;【待考察/推测】= 推测或暂未能核实,请谨慎对待。

📝 术语说明:用户原稿写作"jev",并补充说明指"那个纯决策的模型类型"。本文按 JEPA(Joint-Embedding Predictive Architecture,联合嵌入预测架构)理解——这是 Yann LeCun 提出的非生成式架构,不生成内容、只在表征空间做预测,用于理解、规划和决策。若原意另有所指,欢迎指正。【待确认】

模型家族总览

1. 一张总表

类别 输入 → 输出 核心机制 代表 你日常能接触吗 层级
LLM 文字(多模态版还收图/音) → 文字 Transformer 自回归预测下一个 Token GPT、Claude、DeepSeek、Qwen、GLM ✅ 天天用 有据可查
扩散模型 文字提示 + 噪声 → 图片 多步去噪 Stable Diffusion、FLUX 等 ✅ 文生图 有据可查(DDPM,arXiv:2006.11239)
视频生成模型 文字/图片 → 视频 多为扩散 + Transformer,兼顾时间连续 Sora、Veo、Kling 等 ✅ 有据可查(产品存在)
JEPA 观测(图/视频) → 表征与预测(不出图) 在表征空间预测被遮住的部分 I-JEPA、V-JEPA 2 ⚠️ 研究/开发者向 有据可查
世界模型 当前状态 + 动作 → 下一状态 学习"环境如何演变" Genie 3、V-JEPA 2-AC 等 ⚠️ 少量预览 有据可查 / 定义有争议
决策/策略模型 状态 → 动作 强化学习、序列建模 AlphaGo 类、Decision Transformer、VLA ⚠️ 游戏/机器人 有据可查
Bot / Agent 用户请求 → 完成任务 应用层:模型 + 提示词 + 工具 + 记忆 客服机器人、Codex、OpenClaw ✅ 社区共识

2. LLM:会说话的"接龙高手"

原理见 大语言模型原理:Token、上下文、生成与幻觉。要点:它的"世界"是 Token 序列,所有能力(编程、推理、写作)都通过生成文字体现。


3. 扩散模型:从噪声里"雕"出图片

图 1
  • 【有据可查】Stable Diffusion 类"潜空间扩散"(Latent Diffusion,arXiv:2112.10752)在压缩后的潜空间去噪,再由 VAE 解码成像素——这正是 ComfyUI 节点图里 KSampler → VAE Decode 的来历(见 ComfyUI 入门:安装、节点、模型文件与第一张图)。
  • 【社区共识】也有用自回归方式生成图片的模型;"文生图 = 扩散"是常见但不绝对的说法。

4. 视频模型:会动的扩散

  • 在图片基础上多了时间维度:要保证人物、物体、光照在帧之间一致。
  • 【有据可查】OpenAI 在 Sora 技术报告中把视频生成模型称为"世界模拟器(world simulators)"的一种尝试:Video generation models as world simulators。
  • 【社区共识】但会画出"看起来真实"的视频,不等于理解物理——常见穿模、物体凭空出现。

5. JEPA("jev")与其他偏"决策"类模型

5.1 JEPA 是什么?

【有据可查】

  • LeCun 在 2022 年的立场论文 A Path Towards Autonomous Machine Intelligence 中提出 JEPA,主张智能体应学习世界模型,在抽象表征空间里预测,而不是逐像素/逐词生成。
  • I-JEPA(图像,arXiv:2301.08243)、V-JEPA 2(视频,arXiv:2506.09985、Meta 博客)。
  • V-JEPA 2:约 12 亿参数,用超过 100 万小时网络视频自监督预训练;再用不到 62 小时机器人数据训练动作条件版本 V-JEPA 2-AC,在新环境中以"目标图片"规划机械臂抓取放置(零样本)。2026 年发布 V-JEPA 2.1(arXiv:2603.14482)。
图 2

白话:生成式模型被要求"把树叶每一片都画对";JEPA 只被要求"知道那里会有一棵在风中摇摆的树"。后者把力气花在可预测的本质上,因此更适合做理解、预测和规划。【社区共识 / 研究观点转述】

它不能做什么:JEPA 本身不给你生成图片、视频或文章,普通用户不会直接"用"它聊天。它的价值在机器人、视频理解等方向。

5.2 其他偏"决策"的模型——和 JEPA 怎么区分?

类型 输入 → 输出 怎么学 代表 与 JEPA 的区别 层级
强化学习策略模型(Policy) 状态 → 动作 试错 + 奖励 AlphaGo / AlphaZero(Nature 2016) 直接学"该怎么做";JEPA 学"世界会怎样",再交给规划器决定动作 有据可查
Decision Transformer (目标回报, 状态, 历史动作) → 下一个动作 把决策当序列预测,用离线轨迹训练 arXiv:2106.01345 用 Transformer"接龙"出动作;不在表征空间预测未来 有据可查
VLA(视觉-语言-动作) 图像 + 语言指令 → 机器人动作 在视觉语言模型上加动作输出并用机器人数据训练 RT-2(arXiv:2307.15818)、OpenVLA(arXiv:2406.09246) 端到端输出动作,借 LLM 常识;JEPA 路线强调先学世界表征 有据可查
世界模型 + 规划器 状态 + 候选动作 → 预测结果 → 选最优 学环境动力学 V-JEPA 2-AC、Dreamer 系列 V-JEPA 2-AC 就属于这一类 有据可查
图 3

📌 "纯决策模型"这个说法:JEPA 本身是"学表征 + 预测",决策由其上的规划模块完成;严格意义上"直接输出决策"的是策略模型/VLA。把 JEPA 称作"决策类"是对其用途的概括。【作者理解,待确认】


6. 世界模型:最容易被滥用的词

【社区共识】"世界模型"至少有三种用法:

用法 例子 是否可交互
机器人/强化学习中的环境动力学模型 V-JEPA 2-AC、Dreamer 内部使用
可交互的生成式虚拟世界 Google DeepMind Genie 3(官方博客) ✅ 可实时操控
营销说法:视频模型"理解物理世界" 各视频产品宣传 ❌

7. Bot / Agent:不是模型,是"组装好的应用"

图 4

同一个模型可以做成客服 Bot、编程 Agent、酒馆角色(SillyTavern 酒馆图解:连接、角色卡、世界书与提示词)——区别在外壳,不在模型。


8. 这几类之外:还有哪些模型?

类别 做什么 例子 层级
Embedding 模型 文字/图片 → 向量,用于检索、聚类 各家 embedding API 有据可查
重排序 Reranker 给检索结果重新打分 RAG 系统常用 社区共识
语音识别 ASR 语音 → 文字 Whisper(arXiv:2212.04356) 有据可查
语音合成 TTS / 音乐生成 文字 → 语音/音乐 各家 TTS 社区共识
视觉识别/检测/分割 图片 → 标签/框/掩码 YOLO、SAM 系列 社区共识
对比学习图文模型 图文对齐 CLIP(arXiv:2103.00020),扩散模型的文本编码器常用 有据可查
科学模型 蛋白质结构、天气预测 AlphaFold(Nature 2021) 有据可查
推荐/排序模型 你刷到什么 各大平台 社区共识
时间序列预测 销量、负载预测 各类 社区共识
安全分类器 判断内容/操作是否危险 Agent 的 auto 审批模式(Claude Code 使用:安装、权限与项目工作流/Qoder 使用:IDE、CLI、权限与自定义模型) 社区共识

注意区分"类别"与"架构":MoE(混合专家)、Mamba/SSM(arXiv:2312.00752)是架构,可以用来做 LLM;不是与 LLM 并列的"另一类模型"。【社区共识】


9. 本篇无法核实/需谨慎的点

  • "jev"按 JEPA 理解(用户已补充为"纯决策的模型类型"),仍待原作者最终确认。
  • "世界模型"无统一定义,各家宣传口径不同。
  • 各闭源视频模型的具体架构:多数未公开。
  • JEPA 路线能否在通用 AI 上超越生成式路线:学界有争议,属开放问题。

小白练习:把本文流程逐项走通

练习目标:按输入、输出和能力判断产品属于哪一层。

上文已介绍概念、配置和操作示例。下面侧重第一次实际操作时的顺序、检查点和结果核对;需要查具体参数时回到对应小节。命令逐条输入,看到上一条的结果后再继续。

  1. 看到一个新名字时先找官方模型卡或产品文档,记录它接受什么输入、产生什么输出。

  2. 分别标出文字生成、图像生成、表征预测和动作输出。能看图与能画图是不同能力。

  3. 再看它是模型权重、API 服务还是带工具的应用;Agent 和 Bot 属于应用层,不能直接等同于某个架构。

  4. 阅读世界模型宣传时,继续检查是否能交互、是否接收动作、是否有可复核的研究或演示。

  5. 把文中的研究结果、产品存在和作者评价分开记录;不要把一个版本的实验成绩当作整个类别的必然能力。

继续浏览制器坊 返回顶部 ↑
教程图解100%
教程图解
灵犀台