2016年体育游戏app平台，AlphaGo击败李世石的时候，围棋界也曾有一种共鸣正在偷偷坍塌:machine只可效法东说念主类，不可能超越东说念主类。这个共鸣在自动驾驶领域也存在了许多年。险些整个的端到端自动驾驶系统，都在作念合并件事:找一堆东说念主类司机开车的摄像，让AI去效法。这套蹊径跑了快十年，大众都以为这是唯一正确的说念路。

但小米汽车此次的接头，把这个共鸣撬开了一说念弊端。他们作念了一套叫DriveZero的系统，中枢想路粗浅热烈又反直观：不靠东说念主类示范，靠AI我方在假造寰宇里练出来的驾驶才略去教另一个AI。而且终结还挺让东说念主未必，在NAVSIMv1这个业界公认的自动驾驶评测榜单上，DriveZero拿到了95.3分，高出了东说念主类司机的94.8分。这是第一次有端到端模子在这个榜单上比东说念主类司机分数更高。

这件事值得琢磨一下:AI凭什么能高出东说念主类司机?东说念主类开车这样多年积聚的教育难说念不是天花板吗?

效法学习的天花板在何处

先说说传统样式卡在哪儿了。

绝大多数端到端自动驾驶系统用的是效法学习，说白了即是让AI看着东说念主类司机开车的视频和轨迹数据，去学"东说念主在这种情况下会怎么打场所盘、怎么踩油门"。这套蹊径刚正很彰着:数据来源现成，老师闲适，工程上好落地。

但问题也很扎心。每一段被纪录下来的真实驾驶场景，只包含东说念主类司机实践作念出的那一个选用。可现实中，合并个路口、合并个红绿灯前，其实有许多种合理的开法，猛打场所回避、徐徐刹停、加快通过都可能是对的，但摄像里长期只留住了那一种。更曲折的是，委果危急的场景，比如险些追尾后的伏击修正、被别的车逼到路肩后怎么调整回想，这些"救命"级别的操作在日常行车纪录里少之又少，因为大部分司机大部分时刻都开得很章程。

效法学习*：一种让AI不雅察东说念主类行径纪录，然后学习效法疏通决策的老师神态，AI的才略上限被老师数据的质料和障翳范围锁死。

这就带来一个致命的四百四病。AI一朝在实践出发时走出了老师数据障翳的范围，比如遭遇了摄像里没出现过的诡异路况，它就莫得任何"东说念主类怎么吩咐"的参考样本，只可靠老师时学到的弄脏教育硬撑，一步走错就可能步步错下去。这个怡悦在学术界有个专门的名字，叫复合罪过（compounding error）。

这就好比让一个只看过别东说念主棋战摄像的生手去棋战。棋谱里的每一步都是妙手的正解，生手学得再认真，也只学到了棋谱里那唯一的一条旅途。一朝敌手走出了棋谱除外的一步，生手坐窝没了参照，只可强迫应付，而这一步强迫通常会让背面的场所越来越糟。要是不让AI我方去试错、去承受走错一步之后的四百四病，它长期学不会怎么从特殊里爬出来，因为它根蒂没阅历过"走错"这件事。

强化学习给出了另一条路。它不是照抄东说念主类的某一步，而是让AI我方在环境里试错，通过一个明确的奖励信号，去优化举座弘扬。开对了给奖励，闹事了给刑事牵累，AI我方去摸索什么是好的驾驶行径。这条路表面上能冲突摄像数据的天花板，因为它不依赖于某一次具体的示范，而是在束缚的交互里靠近一个"好司机"应该有的战略。

强化学习*：让AI通过与环境互动、凭证反馈奖励束缚调整我方行径战略的一种老师神态，区别于死记硬背某个圭表谜底。

但强化学惯用在自动驾驶上有个浩大的门槛:径直在摄像头画面上作念强化学习，需要海量的探索和极其腾贵的视觉仿真，老本高到离谱。这就变成了一个两难:闭环强化学习最允洽用来学怎么开车，但委果要部署上车的阿谁只看摄像头的战略汇集，恰恰最不允洽拿来作念大范畴在线试错。这个矛盾，即是DriveZero整篇论文要科罚的中枢问题。

拒绝来作念:感知和行径分开练

小米团队的解法很挑升想，他们莫得硬着头皮去科罚"摄像头战略怎么作念强化学习"这个难题，而是绕了个弯:把感知和行径这两件事透顶拒绝，各私用最允洽的神态去练，练好了再拼到一都。

这个想路背后有个朴素的判断。感知这件事的中枢是"看懂寰宇"，什么是车、什么是路、什么是挫折物，这种才略靠海量各样的图片喂出来最灵验，越多越杂越好。而行径这件事的中枢是"跟寰宇打交说念"，场所盘怎么打、刹车怎么踩，这种才略必须靠真实的交互反馈才能学出来，光看图片是学不会开车的。既然两件事需要的养料全都不同，那就没必要绑在一都老师，分别喂给它们最合适的食品，练就之后再想办法拼起来。

这就像培养一个赛车手。你不会让他一边学怎么通事后视镜和相貌盘判断路况，一边同期学怎么在弯说念上精确胁制刹车和油门，这两件事的老师神态霄壤之别。判断路况需要渊博的不雅察和宗旨,你会带他看无数场比赛摄像、无数种路况图片;胁制车辆需要真实的手感反馈,你必须让他果然坐进车里,一次次过弯,一次次感受轮胎打滑的临界点。要是把这两种老师硬凑在一都,又要看摄像又要练手感,服从反而会更低,因为不雅察宗旨和肌肉记念本来就不是一趟事。

DriveRL：教AI在假造寰宇里学开车

行径这部分的中枢叫DriveRL，这是一个从零动手、全都莫得用东说念主类示范来预老师的强化学习驾驶战略。

DriveRL的第一步是造一个能"互动"的寰宇。他们拿真实的nuPlan行车日记作念基础底细，把里面纪录的场景重新搭建成一个不错交互的仿真环境，环境里除了我方胁制的那辆车，周围的其他车辆和行东说念主不错有三种行径神态：按摄像原样重演、用章程模子（比如智能驾驶员模子IDM）模拟日常跟车传神反馈、八成干脆亦然一个正在被老师的AI战略。这三种神态不错在合并个场景里搀杂共存。

nuPlan*：由自动驾驶公司motional开源的一个大范畴真实行车数据集，亦然业内常用的闭环仿真测试基准。

IDM*：智能驾驶员模子（Intelligent Driver Model），一种经典的交通流仿真章程，用于让假造车辆模拟出跟车、刹车等适当物理知识的行径。

这个仿真环境跑起来的范畴相当夸张，96块GPU同期运转，最多不错同期模拟196608个落寞的驾驶寰宇。在这些寰宇里，DriveRL的战略汇集用PPO算法反复试错。

PPO*：近端战略优化（Proximal Policy Optimization），强化学习里一种常用且老师相对闲适的优化算法，通过为止每次战略更新的幅度来幸免老师倏得崩掉。

值得讲解晰的是，PPO这套老师全都从马上启动化动手，莫得用任何东说念主类的驾驶轨迹去作念预老师，日记数据只用来给场景和导航宗旨"起个头"，剩下的驾驶行径全靠AI我方在互动里练出来。

这个战略汇集自己想象得很紧凑，唯独570万个参数，输入是结构化的场景信息（周围车辆、舆图、红绿灯状态）和导航宗旨点，输出是纵向加快度变化率和场所盘动弹速度的概率散播，径直胁制车辆，不需要中间再作念一次轨迹规划。

DriveRL在老师时用的奖励函数想象得相当崇拜。它把奖励拆成三块:硬性安全事件（比如撞车会径直扣分并终止这一趟合）、到达宗旨的一次性奖励、以及六项软性驾驶质料规划（安全性、合规性、舒戒指等）的乘积。这里有个细节值得多说一句，为什么要用乘积而不是加权乞降？因为乘积意味着六项规划必须同期弘扬苟且才能拿到高分，任何一项终点差都会把举座分数拉得很低，这样不错驻防AI找到某种"偏科"的取巧战略,比如开得终点稳但老是抢黄灯,八成终点礼服章程但开得跌跌撞撞。

这套系统练出来之后，恶果怎么？在nuPlan官方的三个社区测试集（Val14、Test14-hard、Test14-random）上，涵盖非反馈式和反馈式两种模式共六项评测，DriveRL的平平分是93.01，六项全部高出了原始摄像重演（Log-Replay）的弘扬。这个终结自己就很讲解问题，因为原始摄像重演代表的正是东说念主类司机其时的实践驾驶水平，AI在相似的场景里弘扬得比东说念主类司机纪录自己更好。

推理时的"再想一想"：值价值辅导的测试时搜索

DriveRL老师完之后，团队又加了一层手段，叫value-guided test-time action search（价值辅导的测试时动作搜索），这个想象挺值得细说，因为它科罚了一个很实践的问题:老师好的战略汇集输出的是一个概率散播，实践膨胀时只取这个散播里最可能的阿谁动作（模态动作），这样作念会丢掉两类有用的信息，一是战略自己还保留的其他备选动作，二是PPO老师时顺带学出来的价值函数（critic）对畴昔收益的臆想。

价值函数（critic）*：强化学习里用来琢磨"现时状态畴昔能拿到些许总收益"的一个扶持模子，PPO老师战略汇集的同期也会老师出这个价值函数。

具体作念法是，在每一步决策时，除了保留战略汇集认为最优的阿谁动作四肢候选0,再从合并个战略散播里零碎采样几个备选动作,然后针对每个候选动作,往后滚动模拟几步,用相似的奖励函数和价值函数给每个候选打分,唯独当某个备选动作的分数彰着高出默许动作（高出一个固定安全边缘）时,才会用这个备选动作替换默许选用,不然依然膨胀默许动作。

这个想象的严慎程度值得琢磨。它不是每次都无脑选"看起来更好"的阿谁动作，而是设了一说念门槛，唯独彰着更优才换。这就好比一个教育丰富的老司机在开车，脑子里其实一直在策动好几种打场所的决策，大部分时候他会按照最练习、最保障的阿谁决策走，但偶尔遭遇一个稍稍复杂的路口，他会多想一步"要是我眼赶赴左压少量，背面几秒会不会更顺"，唯独照实想明晰了更好的决策时才会临时调整，而不是每次都瞎折腾。要是莫得这说念安全边缘，AI可能会因为仿真罪过导致的噪声波动而等闲地作念出没挑升想的临时调整，反而遏制了举座的闲适性。

这层加成把候选数目从8个升迁到64个时，平平分从93.01进一步升迁到93.57，其中升迁最彰着的是Test14-hard和Test14-random的非反馈式设立，分别升迁了1.16分和1.43分。这讲解零碎的狡计量照实在帮AI找到一些蓝本会错过的更优选用。

DriveVFM：不靠标注数据也能学会"看懂路"

行径模子练好了，接下来要科罚感知这一半的问题。行径模子DriveRL用的是结构化的场景信息，比如也曾标注好的车辆位置、舆图信息，这些是"天主视角"的输入。但委果部署到车上的战略只可看摄像头拍到的原始图像，怎么让AI从像素里径直读出"这是车、这是路、这个东西离我多远"，这即是感知模子DriveVFM要科罚的事。

传统作念法等闲是给一个分享的主干汇集配上好几个专门的任务头，比如检测头、分割头、深度臆想头，每个任务头都需要渊博东说念主工标注的数据去老师。这条路走得通，但代价很大，标注老本跟着任务数目线性高涨。

DriveVFM换了个想路，它不去标注新数据，而是"偷师"也曾老师好的几个视觉基础模子，把它们的知识索要到一个谐和的主干汇集里，通盘流程只用原始图片，不需要任何东说念主工标注。具体请来的"至意"有四位:DINOv3负责提供空间结构和视觉对应关连的才略，SigLIP2孝顺图像级别的语义会通，SAM提供对物体畛域终点敏锐的分割才略，Depth Anything V2带来几何深度信息。

视觉基础模子*：在海量通用图片上预老师好、也曾具备刚劲视觉会通才略的大模子，比如DINOv3、SAM等，各自擅长不同的视觉任务场所。

蒸馏*：让一个较小或待老师的模子去效法一个也曾老师好的模子的输出或里面特征，从而经受其才略的老师神态。

这套多至意蒸馏的想路模仿了RADIO这个使命的agglomerative distillation（团员式蒸馏）样式。挑升想的是，不同至意被安排去教不同的"课"，DINOv3同期教全局语义和局部细节，SigLIP2只教全局语义，SAM只教局部细节，这是因为每个至意模子在各自擅长的那部分弘扬最强，让它只教我方最擅长的部分，恶果会比强行让它教全部内容更好。

这里有个容易被忽略但很要津的技能细节：不同至意模子输出的特征在数值圭表上离别很大，有的激活值围聚，有的分散，要是径直混在一都老师，数值大的阿谁至意会不自发田主导通盘学习流程，把学生汇集往它的场所拉偏。DriveVFM用了一个叫PHI Standardization（PHI-S）的手段，把每个至意的特征作念圭表化处理，让它们在合并个圭表上公说念竞争，谁也别仗着数值大就占低廉。

这就像几个不同领域的各人一都给一个学生上课，要是物理诚真话语声息终点大，数学诚真话语很轻，学生很容易不自发地更信服物理至意说的话，即便数学至意讲的内容相似紧要。你得先把大众的音量调整到合并个响度，学生才能委果公说念地汲取每一门课的知识，而不是被嗓门大小驾驭了留神力。

DriveVFM老师分两阶段，先在256x256分辨率下老师60万步，再放大到512x512持续老师20万步，老师数据搀杂了通用图片（LAION-2B、ImageNet-21K、SA-1B）和真实驾驶场景图片（OpenDV、nuPlan、Waymo）。老师完成后，那几个至意模子的任务就完成了，径直扔掉，只留住这个谐和的主干汇集供后续使用。

论文里作念了一个终点直不雅的可视化实验，用Mask2Former分割模子找出图像里的大地区域，算出大地的平均特征四肢"大地原型"，然后看每个像素点的特征和这个原型的相似度。终结发现DriveVFM比较DINOv3，能更剖释地把路面上的长尾挫折物（比如一些不常见体式的杂物）和大地自己分歧开来，这讲解它照实学到了更详尽的空间鉴别力，而不仅仅糊涂地知说念"这是路"。

拼起来：DriveZero怎么把双方的知识交融

有了行径模子和感知模子，终末一步是把它们拼成一个能委果上车用的、只靠摄像头就能开车的系统，这即是DriveZero。

要津的桥梁是行车日记自己。每一帧行车纪录里，既有多视角摄像头拍到的图像，也有对应的结构化场景状态。这意味着不错让DriveRL这个"至意"在结构化状态上跑出一条它认为最优的轨迹，同期让DriveZero这个"学生"看着合并帧的图像，去学着效法至意跑出来的那条轨迹，而不是去效法东说念主类司机其时实践走的那条路。

这个想象玄机的地方在于，学生从来不需要果然干涉一个仿真环境里去闭环试错，它是在也曾录好的日记帧上作念开环老师，老师宗旨全部来自至意的推演终结，通盘流程不需要渲染任何画面，服从很高。

DriveZero的架构上，它输入四个摄像头视角的图像、车辆现时的畅通状态和一个导航辅导，输出64条候选轨迹，每条轨迹还配了一个琢磨得分。摄像头图像先过DriveVFM主干汇集编码，为了在服从和恶果间找均衡，老师时DriveVFM的主体参数是冻结的，只用LoRA微调其中很小一部分参数。

LoRA*：低秩恰当（Low-Rank Adaptation），一种参数高效的微调样式，只老师一小部分新增的低秩参数，而不转变原模子的绝大部均权重，能大幅缩短老师老本。

轨迹的老师用了一个叫winner-takes-all（胜者全得）的战略，64条候选轨迹里，唯独和至意轨迹最接近的那一条会参与亏空狡计并获取梯度更新，剩下的候选轨迹在这一次不会被径直翻新。这样想象是为了让不同的候选轨迹去捕捉不同的驾驶作风模式，具体选哪一条在委果出发时交给另外一个专门的打分模块来判断。

这套系统还有一个终点值得伸开说的想象,叫goal augmentation（宗旨增强）。因为DriveRL这个至意是不错凭证不同的导航宗旨点给出不同回报的,合并个场景,只消换一个宗旨点去问它,它就能给出一条全都不同但相似合理的轨迹。这意味着不错给合并段真实场景反复"换角度发问"，生成好几条不同的、但各自都合理的监督轨迹，而这少量，靠真实的东说念主类行车纪录是长期作念不到的，因为东说念主类司机在那一刻只会实践走一条路，你没法让真实寰宇里的阿谁东说念主"重新走一次不同的路"给你摄像。

这就像给一个学生出考卷，要是唯唯一份圭表谜底，学生学到的即是死记硬背这一份谜底。但要是至意能针对合并说念题，从不同的解题角度反复演示好几种正确解法，学生学到的即是解题的想路自己，而不是某一个具体的谜底。东说念主类司机的行车纪录天生只可提供"一份圭表谜底"，而DriveRL这个不错被反复发问的至意，能提供好几份不同但都正确的解法，这径直扩大了监督信号的丰富程度。

终结阐述了这个想象的价值。论文里的对照实验骄慢，要是只用东说念主类轨迹作念监督，PDMS得分是93.92；要是换成DriveRL生成的轨迹（不加宗旨增强），得分反而略降到93.61；但一朝加上宗旨增强，得分跳到94.41，比东说念主类轨迹监督还进步0.49分。这讲解单纯换一个"至意"并不势必更好，委果带来升迁的是宗旨增强所开放的那种数据各样性，这是唯独可交互的AI至意才能提供的独到上风。

跑分话语：这套系统到底有多强

表面讲罢了，望望实践得益单。

在NAVSIMv1的navtest测试集上，用来评估自动驾驶系统的中枢理划叫PDMS（Predictive Driver Model Score，琢磨性驾驶模子评分），它笼统了无碰撞率、可行驶区域合规性、碰撞时刻、舒戒指、行驶进程等多个维度。

DriveZero（纯摄像头输入，不必SimScale零碎数据）拿到94.8分，正值和东说念主类司机的94.8分打平。要是再重复SimScale这个仿真数据集作念数据范畴扩展，获取的DriveZero-Scale进一步冲到95.3分，隆重高出东说念主类司机。

SimScale*：一个用于膨胀自动驾驶老师数据的仿真数据集，能提供渊博真实数据里障翳不到的场景。

样式 | 输入 | PDMS

Human Driver | GT | 94.8

DriveSuprim | 摄像头+激光雷达 | 93.5

DrivoR-Scale | 摄像头 | 94.6

DriveZero | 摄像头 | 94.8

DriveZero-Scale | 摄像头 | 95.3

在更难的NAVSIMv2 navhard测试集上，评价规划升级为EPDMS（Extended PDMS），这个测试集还专门想象了第二阶段考验，用高斯溅射（Gaussian Splatting）技能给车辆状态加扰动，锤真金不怕火系统面临突发气象的鲁棒性。DriveZero-Scale在这里拿到57.1分，高出了相似用了SimScale数据的DrivoR-Scale（54.6分），也高出了用天主视角输入的传统章程样式PDM-Closed（56.6分）。这少量终点值得强调，因为PDM-Closed用的是完好意思的场景信息，DriveZero-Scale只靠摄像头图像就作念到了更高的分数。

在委果的闭环测试基准HUGSIM上（这个基准是用真实场景重建出来的相片级仿真寰宇，测试时车辆的每一步动作都会委果影响后续场景，不是粗浅的轨迹打分），DriveZero-Scale在零样本迁徙（也即是全都莫得针对HUGSIM场景作念过任何微调）的情况下，拿到46.6的HD-Score，比之前的最佳得益GigaPixel（38.5分）进步8.1分。

论文里还专门放了几个直不雅的对比场景。有一个场景是东说念主类司机在路口前彰着踯躅、停在原地不动，虽然路况其实是畅通的，DriveZero-Scale经过相似的场景，给出了一条更长、更顺滑的轨迹，同期和周围车辆保抓安全距离，径直开昔时了。另一个对比场景是前车倏得刹车，之前的最强基线模子DrivoR-Scale莫得实时减慢，径直撞了上去，而DriveZero-Scale提前减慢，保抓了安全距离。

真车出发：这不仅仅跑分

小米团队还把DriveRL部署到了实车上作念了考据，这少量值得单独提一下，因为许多论文的样式只停留在仿真评测阶段。

部署时的老师逻辑延续了论文里的想路，用我方汇集的行车日记作念仿真寰宇的种子场景，相似不使用东说念主类示范轨迹，结构化状态由自动标注的感知真值构建，同期把实践车载感知系统输出的（带一定罪过的）终结混进老师数据里，让AI提前恰当真实感知系统不完好意思的情况，而况加入了渊博域马上化来升迁鲁棒性。团队在一条车流密集的城市说念路演出示了系统的闭环胁制才略。

写在背面

读到这篇论文时，最颠簸我的其实不是那几个跑分数字，而是它对"数据"这个东西的会通神态。昔时这些年,通盘深度学习行业有种默许的信仰,数据越多越真实越好,东说念主类行径纪录是最可贵的黄金圭表。但这篇论文实践上在说一件更渊博的事:东说念主类行径纪录天然真实，但它天生只可提供"一个谜底"，而好的监督信号需要的是"多个合理谜底"，这两者不是一趟事。

这让我想起小时候学写稿文，至意给你看一篇范文，你学的是那一篇的写法，但要是至意能针对合并个题目给你演示三种不同的开首神态，你学到的是"怎么想开首"这件事自己。DriveRL之是以能通过宗旨增强产生比东说念主类纪录更好的监督恶果，实质上即是完成了从"给一个谜底"到"教一种想路"的转变。

另一个让我未必的细节是QK-Clip这个看似很小的工程手段。论文花了不少篇幅讲怎么驻防留神力机制里的数值爆炸，还专门作念了FP32到FP16调整后的特征偏差对比实验。这种细节等闲不会被写进选录，但恰正是这种细节决定了一个系统能不成委果闲适地跑在量产车上，而不仅仅在论文的实验环境里顺眼。

论文里还留了一个没全都讲透的问题:老师时用的仿真寰宇，配景车辆的行径无论是按摄像重演如故用IDM章程模拟，都不是真实东说念主类司契机作念出的复杂反馈。论文我方也承认，在nuPlan的评测体系下，让配景车辆变得更"颖悟"（比如让它们亦然自我博弈老师出来的AI），带来的升迁很有限，作家归因于评测体系自己莫得奖励这种更天然的交互行径。这其实披露了一个更深的问题：咱们面前用来评价自动驾驶强横的圭表，自己可能还莫得全都跟上"AI能超越东说念主类"这件事所需要的评价维度。

要是连怎么给一个超越东说念主类的司机打分都还没想明晰，那超越自己又意味着什么？

Q&A

Q1：DriveZero是什么？

A：DriveZero是小米汽车团队研发的一套端到端自动驾驶系统，它不依赖东说念主类驾驶摄像作念老师，而是通过强化学习教出来的AI至意DriveRL生成监督信号，互助视觉基础模子DriveVFM构建感知才略，最终拼成一个只靠摄像头就能开车的系统。

Q2：DriveZero果然比东说念主类司机开得好吗？

A：在NAVSIMv1 navtest这个业界公认的仿真评测基准上，DriveZero-Scale拿到95.3分的PDMS得益，高出了东说念主类司机纪录对应的94.8分，这是初次有端到端自动驾驶模子在该榜单上超越东说念主类司机分数。但这仅仅特定评测圭表下的终结，不代表在整个真实路况下都全面超越东说念主类。

Q3：DriveRL和DriveVFM分别负责什么？

A：DriveRL是负责学开车的行径模子体育游戏app平台，全都通过强化学习在仿真寰宇里从零练就，不必东说念主类示范数据；DriveVFM是负责看懂路况的感知模子，通过蒸馏多个视觉基础模子（如DINOv3、SAM等）的知识练就，不需要东说念主工标注数据。两者老师好之后再通过蒸馏神态拼接成完整的DriveZero系统。