全国服务热线:363050.com
当前位置: 首页 > PG电子PG电子

深度报道皇冠体育中心官网_社会新闻_PG电子-PG电子平台-官方网站大众网

发布时间:2025-05-23 15:22:03点击量:

  Pocket Games Soft 是世界一流的手机游戏开发商。[永久网址:wdhash.com]致力于在iOS,Android和HTML5平台上提供前所未有,身临其境的移动游戏解决方案,为提供玩家安全优质的pg电子,PG游戏试玩,PG电子官方网站,pg电子游戏,pg游戏,pg电子app,PG APP下载,pg电子平台,PG模拟器,pg娱乐,欢迎注册体验!【新智元导读】何恺明团队又一力作!这次他们带来的是「生成模型界的降维打击」——MeanFlow:无需预训练、无需蒸馏、不搞课程学习,仅一步函数评估(1-NFE),就能碾压以往的扩散与流模型!

  全新的生成模型MeanFlow,最大亮点在于它彻底跳脱了传统训练范式——无须预训练、蒸馏或课程学习,仅通过一次函数评估(1-NFE)即可完成生成。

  在ImageNet 256×256数据集上,MeanFlow在一次函数评估(1-NFE)下达到了3.43的FID分数,性能相比此前同类最佳方法有50%到70%的相对提升(见图1左)。

  其中iCT、Shortcut和MF都是一次函数评估(1-NFE),而IMM则使用了两次函数评估(2-NFE)的引导策略。

  表2:ImageNet-256×256上的类别条件生成实验,不同模型的参数、FID得分等统计数据

  值得一提的是,作者共有5位,其中4位是华人,均来自CMU和MIT两所顶校。

  其中一作耿正阳,是CMU的博士生,在MIT访问时完成了这次研究的部分工作。

  平均速度是指「位移/时间间隔」的比值,本质上是对瞬时速度在时间轴上的积分。

  仅基于这一定义,研究者推导出了平均速度与瞬时速度之间清晰且内在的数学关系,这为神经网络训练提供了理论依据。

  为此,研究者设计了新的损失函数,引导网络去满足平均速度与瞬时速度之间的内在关系,无需引入额外的启发式方法。

  由于存在明确定义的目标速度场,理论上最优解与网络的具体结构无关,这种属性有助于训练过程更加稳健和稳定。

  此外,新方法还能自然地将「无分类器引导」(Classifier-Free Guidance,CFG)融入目标速度场,在采样阶段使用引导时不会带来额外的计算开销。

  在图1和表2(左侧)中,研究者将MeanFlow与现有的一步扩散/流模型进行了比较。

  如果仅比较1-NFE(一次函数评估)的生成结果,MeanFlow相比此前的最优方法Shortcut(FID 10.60),相对提升接近70%。

  这表明,MeanFlow在很大程度上缩小了一步与多步扩散/流模型之间的性能差距。

  在2-NFE(两次函数评估)设定下,新方法取得了2.20的FID分数(见表2左下角)。

  它们都采用了XL/2级别的骨干网络,且NFE达到250×2(见表2右侧)。

  在CIFAR-10数据集(32×32)上,研究人员进行了无条件生成实验,结果列在表3中。

  需要注意的是,其他所有对比方法均使用了EDM风格的预处理器(pre-conditioner),而新方法没有使用任何预处理器。

  形式上,给定数据x∼pdata(x)和先验噪声ϵ∼pprior(ϵ),可以构造一条流动路径,

  这个速度被称为条件速度(conditional velocity)。参见图2左侧部分。

  Flow Matching本质上是在对所有可能情况的期望进行建模,这种平均后的速度称为边缘速度(marginal velocity)(见图2右侧):

  图2:Flow Matching中的速度场示意图。左图:条件流(ConditionalFlows)。同一个z_t可能由不同的(x,ϵ)组合生成,因此会对应不同的条件速度v_t。右图:边缘流(Marginal Flows)。通过对所有可能的条件速度进行边缘化(求平均)得到边缘速度场。这个边缘速度场被作为训练神经网络时的「真实目标速度场」

  图例说明:灰点表示从先验分布中采样得到的样本,红点表示来自真实数据分布的样本。

  接着,学习由参数θ表示的神经网络v_θ,来拟合这个边缘速度场,其损失函数为:

  但由于式(1)中的边缘化过程难以直接计算,因此Flow Matching提出使用条件Flow Matching损失来代替:

  一旦得到了边缘速度场v(z_t,t),就可以通过求解下面的常微分方程(ODE)来生成样本:

  值得注意的是,即便条件流被设计为「直线流动」(即所谓「校正流」),最终得到的边缘速度场(公式(1))往往仍会诱导出弯曲的轨迹(见图2的示意)。

  这种轨迹的弯曲不仅仅是因为神经网络的近似误差,更是源于真实的边缘速度场本身。

  当对这些弯曲轨迹使用粗粒度的时间离散化时,数值ODE解法往往会产生较大的误差,从而导致生成结果不准确。

  平均流(Mean Flows)的核心思想是:引入一个表示平均速度的新场(velocity field),而传统Flow Matching所建模的是瞬时速度。

  平均速度被定义为两个时间点t和r之间的位移(通过对瞬时速度积分获得),再除以时间间隔。

  平均速度场u(z_t,r,t)同时依赖于起始时间r和终止时间t,如图3所示。

  从概念上讲,就像在Flow Matching中,瞬时速度v是训练的「真实目标场」,在MeanFlow中,平均速度u则扮演着类似的角色,是学习所依据的「真实速度场」。

  这样做的优势显著:一旦平均速度被准确建模,就可以仅通过一次前向计算来近似整个流动路径。

  换句话说,这种方法非常适合一步或少步数的生成任务,因为它在推理阶段不需要显式计算时间积分——这是传统建模瞬时速度方法所必须的步骤。

  不过,在实践中,直接使用公式(3)定义的平均速度作为训练网络的「真值」行不通,因为这要求在训练时就对瞬时速度执行积分,计算成本高且不可行。

  研究人员的关键见解是:可以对平均速度的定义公式进行数学变形,从而构造一个更易于训练的优化目标,即使在只能访问瞬时速度的前提下依然可行。

  接着,对这个等式的两边关于t求导(把r当作常数),然后运用函数积的求导法则和微积分基本定理,得到:

  需要说明的是,公式(6)与之前的积分公式(4)是等价的(详见原文附录B.3)。

  在MeanFlow恒等式中,公式右侧给出了可以作为训练目标的形式,可以利用它构建损失函数,来训练神经网络预测u(z_t,r,t)。

  要计算公式(6)右侧第二项全导数(total derivative),它可以用偏导数展开如下:

  到目前为止,上述公式还没有涉及任何网络参数。现在引入可学习的模型u_θ,并希望它满足MeanFlow恒等式(公式(6))。

  训练信号来自于瞬时速度v,不需要积分操作,因此相比平均速度定义式(3)更容易实现。

  虽然公式中出现了对u的偏导数,但实际训练中使用的是网络输出uθ的梯度(自动微分实现)。

  使用了stop-gradient操作(记为sg):这是为了避免「二阶反向传播」,从而减小优化的计算负担。

  需要说明的是,即使在优化中进行了这些近似,只要u_θ最终能够使损失为零,它就一定满足MeanFlow恒等式,从而也满足最初的平均速度定义。

  在公式(10)中的v(z_t,t)是Flow Matching中的边缘速度(见图2右),但它难以直接计算。

  因此,借鉴Flow Matching已有的做法,使用条件速度(见图2左)来替代:

  使用MeanFlow模型进行采样非常简单:只需将时间积分项替换为平均速度即可,伪代码详见算法2。

  与传统做法在采样阶段直接应用CFG不同,研究者将CFG视为底层「真实速度场」的一部分属性。

  其中,类别条件速度(即对给定类别c条件下的边缘速度)、无条件边缘速度,定义如下:

  我们再次强调,vcfg和ucfg都是理论上的真实速度场,与神经网络参数无关。

  stop-gradient操作用于阻断目标对网络参数的反向传播,避免二阶梯度计算。

  因此,在采样阶段,无需再进行线性组合计算,只需直接网络调用即可完成一步采样(见算法2)。

  最终,新在保留CFG效果的同时,依然维持了理想的单步采样性能(1-NFE),兼顾了效率与质量。

  他热衷于研究动态系统,致力于识别、理解并开发能够自组织形成复杂系统的动态机制。

  众人倒吸冷气,那个少年的箭法与臂力太惊人了,才十几岁而已啊,就能与石村最强壮的男人石林虎一争高下。

  转眼又过去了大半个月,狈村的人时常越界,甚至在这片区域挖下很多兽坑,石村的人误坠当中,差点被坑底锋锐的铁矛洞穿。

  2、调整组织架构,优化再造工作流程。一是重新设立以计划引领为中枢的组织架构。二是针对各单位、各车间工作流程不规范、物品错拿乱放、遇事相互推诿、生产效率不高的现象,我们要以“简洁”为原则,以“形成完整密闭的回路”为指导思想,以“重点工作”为对象,重新界定各单位、各部门的工作职能,修改重申工作流程。三是以工作流程为依据,严格执行考核办法。这样做,一是为了提高生产效率,减少不必要的中间环节;二是为了使公司各项生产经营活动都在受控的状态下进行,尽快走上规范化、标准化的模块式生产道路。

  当暴风雨止住时,已经到了傍晚,乌云散尽,山中巨树折断,大水滔滔,山石翻滚,许多地方化成了大泽。

  05月13日,机构预测2030年中国高端医疗器械市场规模有望突破3000亿美元,

  远处,一群凶寇战栗,见到这种如同天威般的景象,他们凶戾全都消失了,簌簌发抖。

  本文将围绕京东金条逾期如何协商这一问题展开讨论,包括逾期原因、协商方式、注意事项等方面的内容,希望能帮助大家解决相关问题。 1.京东金条逾期的原因是什么?京东金条逾期主要是由于借款人未按时还款导致的。可能是因为借款人不畅,或者是由于其他原因导致无法按时偿还借款。在借款过程中,借款...

  第二,要用崇高的事业凝聚人心。崇高的事业就像一个极富感染力的“磁场”,能够产生巨大的吸引力,让人激动,让人投入,让人拼命想干事,敢于干大事。近年来,我镇广泛深入开展解放思想大讨论活动,提出了加快千人桥发展的新思路、新策略,广大干部群众聚精会神干事业,团结一心促发展,全镇人民的积极性创造性空前高涨。我们要继续以高度的责任感和紧迫感,把实现千人桥在舒城率先崛起纳入到全面建设小康社会的总体部署,以此凝聚民心,集中民智,团结和带领全 镇人民共同创造我们的幸福生活和美好未来。这是一个崇高的事业,只有这样的事业,才能在全镇营造良好的干事创业氛围。任何事业都是大家齐心协力干出来的,不是坐在那里等出来的,更不是“吹”出来的。千人桥的建设事业任重道远,需要我们每一个干部群众一滴汗一滴汗付出,一项工作一项工作完成,一步一个脚印地前进。干事创业,一要想干、肯干,二要能干、会干。要弘扬正气,保持朝气,培育锐气,通过强有力的思想政治工作,正确的舆论导向,完善的动力机制,切实的措施保障,从选拔任用到利益分配,坚决杜绝“干的不如看的,看的不如捣蛋的”这样一种不正常现象,让埋头苦干,集中精力工作的能不受干扰,无后顾之忧;让那些不仅自己不干,别人干了还要毫无根据说三道四,散布闲言碎语的人没有市场;让兢兢业业、踏踏实实、辛勤工作和劳动的受到表扬和鼓励;让那些工作拈轻怕重,疲疲沓沓,甚至“当了和尚不撞钟”的人受到批评和责备;让坚持在经济工作第一线,有才华、有创见的受到尊敬和重用;让品质恶劣、搞歪门邪道的人受到和惩罚。这样,才能真正凝聚人心,把干事创业的氛围搞得浓浓的。俗话说“无事生非”,没有事干才会玩扑克。当领导的应该想方设法一方面要创造一个使这些人干事的环境,另一方面使下面的人有事干,没有大事有小事,只要大家肯干事,我看哪个村、哪个部门都有事。比如公共环境卫生问题,这也是个事,可谁落到了实处?古话说,“自扫门前雪”,我们现在有些部门,有些领导是门前雪也不扫啊!这是没有事业心,没有用事业来凝聚人心。

  05月13日,【新春纪事】趵突泉迎春花灯将于大年初一正式亮灯 提前一睹为快,

  两人激烈大战,转眼过去了数十招,小不点的背后的银月突然一颤,一声禽鸣响起,一头巨大的太古魔禽浮现,冲了出来,迅速放大,刹那铺天盖地,笼罩了山地。

  新闻信息服务许可证音像制品出版许可证广播电视节目制作经营许可证网络视听许可证网络文化经营许可证

地址:PG电子永久网址【363050.com】  电话:363050.com  手机:363050.com
Copyright © 2012-2025 PG电子官方网站 版权所有 非商用版本  ICP备案编号: