地平线CVPR论文透视:端到端、场景重建、世界模型与具身智能
每年CVPR放榜那几天,朋友圈都会被一波接一波的“中啦”“太太”刷屏。今年看到地平线一口气11篇论文被CVPR 2026接收,我还是有点意外的——不是意外它中得多,而是它中稿的方向几乎全踩在端到端、场景重建、世界模型、具身智能这几个最热也最难啃的坑里。作为常年在自动驾驶和机器人感知领域摸爬滚打的人,我特别想把这件事拆开聊聊:地平线这11篇论文背后,技术上到底在下一盘什么棋?对我们这些做算法、做落地的人,又有哪些能抄作业的思路?
这篇文章不打算逐篇列题目(毕竟正式版还没全放出来),而是围绕标题里的四个关键词,把每个方向的赛道背景、技术难点、以及地平线可能的研究切入点都梳理一遍。你可以把它当成一份“CVPR 2026自动驾驶+具身智能方向论文地图”,也可以当成“地平线技术布局的观察笔记”。如果你正在考虑做端到端、3D重建、世界模型或者具身智能方向的研究,这里面的很多思路都能直接用来找课题、定方案。
1. 端到端:从“感知-规划解耦”到“一条网络直出”,中间差的不只是模型结构
1.1 端到端到底是什么,为什么车企和智驾公司都在押注
传统的自动驾驶系统,感知、预测、规划、控制是分开的模块,像一条流水线:感知模块识别车道线和障碍物,预测模块猜别人下一步去哪,规划模块再算一条轨迹,最后交给控制模块执行。这套方案的好处是每个环节都能单独debug、单独优化,坏处也很明显——信息在模块间传递时会丢失。比如感知只输出目标的3D框和类别,那“旁边那辆车虽然在车道内但明显有压线倾向”这类细节,到规划那里就没了。
端到端思路则是把感知到规划这整条链路压缩成一个神经网络,输入的是传感器原始数据(图像+点云,有时加导航信息),输出的是轨迹点或者控制量。这样信息的损失就少了,模型可以自己去学“什么特征对规划有用”,而不是靠人去定义。不过端到端也有代价:可解释性差、训练数据要求高、系统出问题了不好定位。所以业内现在通常做的是“分段端到端”或者“带有中间监督的端到端”,并不是说把中间表示全部干掉。
地平线把端到端作为CVPR论文的主打方向之一,逻辑上很通顺。它本身有征程系列芯片,一直强调“BPU架构原生支持神经网络计算”,如果端到端模型能在自家芯片上跑起来,就能形成“算法+芯片”的协同闭环。说直白点,论文不仅是在刷榜,也是在为量产智驾系统的下一代架构探路。
1.2 端到端论文里最常见的三类技术命题
如果你去看近几年顶会上的端到端自动驾驶论文,基本可以归成三类。
第一类是“感知到轨迹”的直接映射研究。这类工作会把多个摄像头、激光雷达的数据在特征层面融合,然后通过一个可学习的规划头输出未来几秒的轨迹。难点在于怎么对齐多传感器特征、怎么建模周围交互。常见做法是在特征图里引入注意力机制,或者用一个Scene Transformer把道路和障碍物都编码成一个图,再做决策。
第二类是“闭环预测与控制”研究。也就是说,模型不只预测一条轨迹,还要预测控制量(方向盘转角、油门刹车),甚至要输出一个概率分布,表达多种可能的驾驶策略。这里常见的技术点是“多模态轨迹预测”和“安全约束解码”——比如预测几条候选轨迹,再用可微优化器挑一条满足碰撞约束的。
第三类是“数据闭环和数据增强”研究。端到端模型吃数据,尤其吃“老司机在复杂场景下的接管数据”。那么怎么自动挖掘难例、怎么用生成模型造出逼真的训练数据,就成了新的研究焦点。
地平线11篇论文里,端到端相关的应该会占据相当比例。结合行业趋势,我猜它们会在“多模态融合”“轻量化端到端结构”“带安全约束的规划头”这几个点上做文章。特别是轻量化,因为端到端模型参数动辄上亿,如果还想跑进车规级芯片,模型剪枝、量化、蒸馏几乎是绕不开的命题。
1.3 地平线做端到端,绕不开的“算力与安全”平衡
很多人聊端到端只聊效果,忽略了一个工程现实:端到端模型要在车里实时跑,功耗和延迟都是硬约束。
以地平线的征程6系列为例,它标称算力比上一代提升很多,但端到端模型如果全是Transformer、全是大Feature Map,再大的算力也扛不住。所以论文里的网络结构设计,大概率会考虑“怎么在精度不降的前提下压低计算量”。比如用稀疏注意力替代全局注意力,用层级特征金字塔减少冗余计算,或者干脆把部分模块蒸馏成CNN小模型。这类工作看标题可能不炫,但落地价值极高。
另一个绕不开的点是安全。端到端模型是黑盒,如果它输出了一条“看起来合理但会压线”的轨迹,系统怎么兜底?行业里普遍的做法是加一个安全层,用规则或者优化器对模型输出做约束。但如果安全层是在网络外面硬加的,就破坏了端到端的平滑性。所以现在也有论文在探索“可微分安全约束”,就是说让模型自己学到安全边界,而不是靠外部硬规则。我觉得地平线作为量产方案供应商,一定会在这一点上花大力气——毕竟论文可以激进,量产必须保守。
2. 场景重建:从“看得见”到“重建出可以交互的虚拟世界”
2.1 为什么场景重建是自动驾驶的“隐形基础设施”
场景重建这个词听起来挺学术,但它对应的需求非常实在:我们要把车辆周围的世界从“传感器看到的一堆点”变成“连续、完整、带语义的三维模型”。有了这个模型,车才能做更精细的规划,离线仿真也才能生成更真实的环境。
过去几年,NeRF在三维重建里火过一阵,但它太慢了,一个场景要训练很久,渲染也不实时。后来3D Gaussian Splatting(3DGS)出来,用一堆三维高斯点来表示场景,训练速度大大提升,渲染也能做到实时,一下子就成为了CVPR、ICCV这些顶会的宠儿。自动驾驶这边也大量引入3DGS:用采集车拍一段视频,就能重建出街道、建筑、车辆、行人,然后放进仿真环境里做测试。
地平线在这个方向发力,意味着它不只是在做“车上实时感知”,还在做“数据合成和测试场景生成”。你可以理解为,它是想打通“真实道路数据采集 → 3D场景重建 → 仿真测试 → 数据反哺模型训练”这条链路。这恰恰是端到端模型最需要的东西。
2.2 自动驾驶场景重建里的几个棘手问题
静态场景重建现在相对成熟,难的是动态场景。路上有行人、车辆、飘动的树叶、变化的光影,它们不是静止的,如果用一个静态3DGS去表达,就会出现“糊影”“鬼影”。
所以顶会论文里经常出现“Deformable Gaussian”“Dynamic Scene”这类关键词,核心思路是给每一个3D高斯点加一个随时间变化的形变场,点位置和颜色都可以随帧变化。这类工作放在自动驾驶里,难点在于:运动物体多且互相遮挡,物体刚性和柔性运动同时存在,再加上摄像头本身也在运动,整个优化问题非常病态。
另一个问题是“重建和理解的结合”。单纯重建出几何形状还不够,系统还得知道“这是一个车,门能打开”之类的语义和物理属性。近两年有论文在做“语义高斯”,就是把三维高斯点附加上语义标签,这样重建出来的场景不只是好看的模型,还可以用于交互验证。举个例子,如果车辆规划要打开右侧车门,系统需要知道右后方有没有动态障碍物,而这需要三维场景里有“可运动”“是否遮挡”这类语义。
2.3 地平线会在场景重建上打什么牌
如果让我猜,地平线在场景重建方向的论文会集中在三个点:在线(Online)重建、轻量化表达、以及“重建+感知”协同。
在线重建指的是车在行驶过程中实时重建环境,而不是回传离线处理。这关系到车对未知区域的即时理解,比如临时施工路段的绕行决策。在线重建对算力要求极高,所以研究点通常在“稀疏点表达”“实时更新策略”上。
轻量化表达则是跟地平线的芯片强相关的。一个道路场景如果用成百万个三维高斯点表达,存储和渲染都是灾难。能不能压缩到几万个点还保持轮廓清晰?能不能用树结构或者八叉树组织稀疏场景?这些都是适合做顶会论文的题目,也是量产系统真正会用到的东西。
还有一个方向是“重建感知一体化”。传统流程是先重建、再识别,但如果重建出来的是语义感知过的模型,识别和重建就可以互相促进。比如车一开始分不清前面那团东西是什么,但重建出轮廓后再决策,就能更稳妥地绕行。这类工作对自动驾驶规控模块的帮助很大,也符合地平线现在“从感知到决策全链路”的布局。
3. 世界模型:不是用来“生成视频”,而是用来“预测未来”
3.1 世界模型和视频生成的区别在哪里
很多人一听到世界模型就以为是视频生成模型,其实两者目的完全不一样。视频生成追求的是画面自然好看,比如你给一句话“一只猫在屋顶晒太阳”,它能生成一段以假乱真的视频;世界模型追求的则是:给定当前时刻的观测(比如车周围的一圈传感器数据)和当前动作(方向盘、油门),能不能准确预测下一时刻甚至未来几秒的观测。
自动驾驶里的世界模型,本质上是一个“可学习的环境动力学模型”。它要理解物理世界的规律:车往前开会接近前车;踩刹车是因为前车减速;绿灯亮了旁边的行人可能会走。只有理解了这些,模型才能预测未来,也才能帮助车做更合理的决策。
从学术角度,世界模型主要有两大用途。一是用于“模型预测控制”:世界模型预测未来状态,规划模块在预测结果上寻优。二是用于“数据生成和增强”:世界模型能生成大量逼真的驾驶场景,让端到端模型在这些合成数据上训练,从而解决长尾场景数据不足的问题。
3.2 自动驾驶世界模型的三大技术挑战
挑战一:多模态输入与输出的对齐。自动驾驶的世界模型输入是多个摄像头加雷达点云,输出也是多视角的图像和点云。要在这个多维空间里做预测,模型需要先学会对齐不同模态之间的信息。很多时候摄像头看到了但雷达没扫到,或者雷达扫到了但摄像头看不清楚,如何融合就成了一大难题。
挑战二:长时预测的稳定性。预测未来0.5秒相对容易,但预测未来3秒、5秒,误差会指数级累积。一个小的预测偏差,经过几步迭代后可能已经完全偏离真实轨迹。所以现在很多论文在研究“自回归世界模型”时会加入“错题本机制”——把预测错的步骤重新作为输入再滚一遍,让模型学会纠错。
挑战三:不确定性建模。真实世界的未来不是唯一的,前方可能有一个行人要过马路,也可能他只是站在路边。世界模型需要输出一个分布而不是一条确定性的未来。这就要用到概率模型、扩散模型或者变分方法。有了不确定性,下游规划模块才能做风险评估,而不是盲目听从模型生成的单一预测。
地平线在世界模型方向的论文,大概率会跟它自己的智驾功能强绑定。比如做“交互场景下的未来状态预测”“基于世界模型的决策预训练”,或者“用世界模型生成极端天气数据”。这些方向看起来偏研究,但它们最终都会变成量产智驾系统里更聪明的“预判能力”。
3.3 我会怎么“抄”世界模型这篇论文里的作业
对研究人员来说,世界模型是目前最容易出成果的大方向之一,因为它既有理论深度又有明确应用场景。我的建议是先从“单项任务”切入,不要一上来就做一个全能的驾驶世界模型。
比如你可以只做“换道场景下的未来轨迹预测”:输入当前车的视觉和激光雷达特征,预测自车和前车的未来轨迹,再把这个预测结果用于换道决策。任务范围缩小后,模型可以做得更深,指标也容易刷上去。等到这个单项跑通,再逐步扩大预测范围,变成一个真正的世界模型。
另外,复现世界模型论文时,数据格式的坑很多。你从nuScenes或者Waymo Open Dataset拿数据,要先把多个传感器的坐标系统一,再把时间戳对齐。很多代码能跑但结果不对,都是前处理出了问题。我建议先把官方提供的可视化脚本跑通,确认“数据是什么样子”,再动模型结构,能省下大量debug时间。
4. 具身智能:从自动驾驶到机器人,技术栈的“平移”
4.1 为什么一个智驾公司会发具身智能论文
标题里出现的“具身智能”可能是近几年AI圈最热的关键词。它和自动驾驶有很强的血缘关系:自动驾驶本质上就是一个轮式机器人,在理解三维世界、做运动规划、根据视觉反馈闭环执行这件事上,自动驾驶和机器人的底层逻辑几乎一模一样。
地平线布局具身智能,信号很明确:智能载体不会只停留在汽车上。今天你在车里用的感知模型、决策模型、仿真环境,明天大概率都会被迁移到机械臂、双足机器人、服务机器人上。如果说自动驾驶是“封闭道路内的具身智能”,那具身智能就是“开放世界里的自动驾驶”。
所以地平线论文里如果出现具身智能相关的,我认为不是蹭热点,而是技术复用的必然结果。它在自动驾驶里积累的三维感知、轨迹预测、仿真训练经验,放到具身智能场景里几乎全部成立。区别只在于执行器从方向盘和油门,变成了机械臂的关节角度和步态决定。
4.2 具身智能目前最热的几个研究子方向
第一是视觉-语言-动作模型(VLA)。模型输入视觉图像加文字指令,输出机械臂或机器人的动作序列。这类工作强调的是跨模态理解,比如你对机器人说“把桌上的红色杯子放到托盘里”,模型要先定位杯子、理解“红色”、知道“放”是什么语义,再规划一条抓取轨迹。VLA模型本身并不产生新的运动学知识,难点在于把大语言模型的世界知识跟真实环境的物理约束对齐。
第二是机器人操作策略的仿真到真机迁移(Sim2Real)。在仿真环境里练得再好,一到真实世界就抓不住杯子,这是机器人领域的老大难问题。光线变化、物体材质、机械摩擦、执行器延迟,都会让仿真数据失真。现在热门的研究方向是域随机化(Domain Randomization):在仿真里随机改变物体颜色、光照、摩擦系数,让模型在多变条件下练出更鲁棒的策略,消除掉那些不真实的“捷径”。
第三是“灵巧操作”。抓取一个瓶子跟抓取一支笔、抓取一张纸,难度完全不同。软体物体、薄片物体、不规则物体的操作,涉及接触建模和力控,是当前具身智能最前沿的瓶颈之一。这类研究不仅需要算法团队,还非常吃硬件能力,所以它通常出现在机器人公司或者像地平线这样有芯片和平台能力的大厂里。
4.3 新手想入门具身智能,该按什么路线学
热词里提到的“具身智能学习路线”,我结合自己的经验给一个不算成熟但很接地气的建议:不要一上来就啃VLA大模型,先从“仿真环境+单任务”开始。
第一步,先跑通一套仿真平台,比如Isaac Sim或者MuJoCo,让机器人完成一个简单任务,比如“把桌上的方块推到指定位置”。做完这件事,你会理解什么是状态空间、动作空间、奖励函数,也会理解为什么仿真和真实世界差别那么大。
第二步,上手一个轻量级的操作策略算法,比如Diffusion Policy或者ACT,让机械臂模仿人类示教轨迹。这类算法有开源代码、有现成的数据集,你只要照着跑一遍,就能对“模仿学习”这个核心概念建立体感。
第三步,再回头补视觉感知。你可以用分割模型把目标物体从图像里抠出来,再把2D像素坐标投影到3D空间,完成最简版本的“看到哪里、手就到哪里”闭环。等你把这三步走完,再去看VLA论文,你会发现它们说的每一句话你都能在系统里找到对应组件。
5. 从11篇论文看地平线的技术布局,以及它给研究者带来的三个信号
5.1 论文方向的组合,基本暴露了技术栈的闭环逻辑
把标题里的四个关键词连起来看,地平线这波技术布局的闭环逻辑其实很清晰。
端到端解决的是“从感知到决策的压缩”,场景重建解决的是“环境的三维表达”,世界模型解决的是“未来的预测能力”,具身智能解决的是“交互执行”。这四层合在一起,根本不是四个孤立的技术点,而是一条完整的“感知-理解-预测-执行”技术栈。
这也解释了为什么地平线一次性投了11篇论文而不是分散在四个领域各自耕耘。它本质上是在搭建一个通用智能体的底层能力,汽车只是第一个落地的载体。以后哪怕把它用到机器人、或者更广义的具身智能终端上,这套组合技依然成立。
5.2 给研究者的三个建议:找课题、做复现、写论文都可以参考
我亲眼看过太多人追热点,结果追了个寂寞。结合地平线这些方向,我提三个建议。
第一,选题时优先挑“有数据闭环价值”的方向。别做那种发完论文就完事、产业里没人用的课题。一个方向如果它天然能反哺真实系统、能在量产场景里闭环,那么它就有持续的经费和研究动力。端到端、世界模型都是这样的方向,因为行业真的在等它们成熟。
第二,复现时别只盯着SOTA指标,要把“算力约束”当成研究变量写进论文。地平线这类公司的论文,很多都体现了“低算力下如何保持性能”的思考。你如果能在论文里明确提出“在不同算力上限下,模型精度如何变化”,并给出方案,这样的工作既被学术界认可,也会被工业界看重。
第三,写作时多讲“为什么”,少堆公式。我在审稿的时候最怕看到那种“为了创新而创新”的稿件,模块加了一堆但不知道每个模块解决什么问题。地平线如果真能在四大赛道里都有产出,我相信它们的论文一定会有比较强的动机推导。这是从工业界视角做研究的一个优点,建议大家学习。
5.3 这些方向下次还会怎么演变
从我个人的观察看,这几个方向在CVPR 2026之后肯定会继续演进。端到端会越来越强调“可解释”,也就是把中间过程可视化、可干预;场景重建会走向“实时+语义+物理属性”的多维表示;世界模型会跟强化学习和决策规划更深度地结合;具身智能则会从“抓取静态物体”走向“动态环境下长程任务执行”。
对开发者而言,现在是最好的进入时机。因为顶会论文虽然多,但大多数还停留在demo阶段,真正能转化成开源工具、数据集、评测基准的东西还很少。如果你能趁这个窗口期把一个方向吃透,并做出开箱即用的开源项目,你会很快建立起个人影响力。
我个人的下一步,是打算把地平线这次论文里和世界模型、场景重建相关的几篇重点复现一下,结合nuScenes数据和我的轻量化部署环境,看看有没有机会提一个“重建-预测一体的模型蒸馏”方案。如果你也在这个方向,欢迎评论区交流,到时候我们可以组队一起做benchmark。
更多推荐
所有评论(0)