363050.com

256块NPU训成8B视频模型抖音内容技术团队开源ContentV开云体育官方

  开云体育[永久网址:363050.com]成立于2022年在中国,是华人市场最大的线上娱乐服务供应商而且是亚洲最大的在线娱乐博彩公司之一。包括开云、开云棋牌、开云彩票、开云电竞、开云电子、全球各地赛事、动画直播、视频直播等服务。开云体育,开云体育官方,开云app下载,开云体育靠谱吗,开云官网,欢迎注册体验!

256块NPU训成8B视频模型抖音内容技术团队开源ContentV开云体育官方

  近日,抖音内容技术团队开源了 ContentV,一种面向视频生成任务的高效训练方案。该方案在多项技术优化的基础上,使用 256 块 NPU,在约 4 周内完成了一个 8B 参数模型的训练。尽管资源有限,ContentV 在多个评估维度上取得了与现有主流方案相近的生成效果。

  该工作探索了在有限算力条件下训练视频生成模型的可行路径。目前,推理代码与模型权重已对外开放。

  CogVideoX、HunyuanVideo 和 Wan2.1 等一系列优秀的开源工作表明,视频生成的关键并不在于架构上的特殊设计,而在于如何高效利用有限的数据资源,并有效对齐人类偏好。

  为验证 ContentV 方案的通用性,本次开源的版本在扩散模型部分采用了经典的文生图模型 Stable Diffusion 3.5 Large。为了适配视频模态,模型在结构上仅做了以下两项必要调整:

  将原始图像 VAE 替换为 Wan2.1 中使用的 3D-VAE;将 2D 位置编码升级为 3D 版本。在具体编码方式上,团队对比了传统的绝对位置编码与主流的旋转位置编码。评估结果显示,两者在客观指标和主观感受上差异较小,因此保留了计算更高效的绝对位置编码方案。

  上述的最小化结构改动,在解锁了视频生成能力的同时,也最大限度地保留了原模型的图像生成能力。实验证明,在新的 VAE 和位置编码的适配阶段,沿用 Flow Matching 的训练方式,仅需 1000 步左右的微调,就能基本还原模型的图片生成能力,大幅节省图片预训练阶段的训练成本。

  在视频生成的预训练阶段,为加速收敛实现高效训练,研究团队设计了一套从「低清短片」到「高清长片」的多阶段渐进式训练流程,逐步引导模型学习时间维度与空间维度上的动态表征,从而提升视频的连续性、动态表现力和画面细节。

  此外,实验证明,在推理阶段引入非线性采样步长机制(Flow Shift)能够显著提升视频的整体生成质量。通过多组对比实验,团队最终确定了最优的采样策略,进一步优化了生成效果。

  在后训练阶段,除了使用高质量数据集进行微调外,通过 RLHF 或 DPO 等对齐人类偏好的监督训练,也能显著提升视频生成质量。然而,这类方法通常依赖大量人工标注,用于训练奖励模型或直接监督扩散模型。同时,相较于图像,视频的序列长度显著增加了 RLHF 和 DPO 的训练资源需求。

  为此,ContentV 研究团队提出了一种轻量级的 RLHF 训练方案,旨在不依赖人工标注的前提下,低成本提升视频质量:

  利用开源的图像奖励模型对生成视频的单帧进行监督。相较于视频场景,目前图像奖励模型的训练数据更易获取,且在实际效果中表现更佳。实验证明,由于 MM DiT 采用全局注意力机制,仅优化单帧即可带动整体视频质量的提升;将监督范围限制在生成视频的前 1 秒,相较于对完整视频进行监督,可大幅减少训练资源的消耗,同时获得相近的质量提升效果。

  采用上述策略后,在无需人工标注的情况下,仅使用少量训练资源,便可显著提升画面质量。RLHF 微调后,模型在视觉质量(VQ)指标上的表现大幅提升,评估胜率高达 89.38%。

  在 VBench 这一主流视频生成评测基准上,ContentV(8B)取得了 85.14 的综合得分,表现优于多个现有的商业闭源模型,包括 Sora、Kling 1.6 和 Gen-3 等。

  为更贴近真实用户偏好,研究团队围绕感知质量、指令跟随、物理一致性和视觉效果四个维度开展了人类偏好评估。结果显示,ContentV 在整体表现上与 CogVideoX-5B、HunyuanVideo-13B 和 Wan2.1-14B 等主流开源模型相比具有一定优势。

  “凤凰体育app买球官网”高端的茶艺都是从烫手开始的推动中国金融高质量发展

  06月06日,针灸拔罐样样行:“Z世代”泰国女孩探寻望闻问切之妙,威尼斯人登录不进去,tvt体育彩票,ag8真人网站,天空之城游戏

  06月06日,两会好声音,银河新网站,凤凰体育网,e乐彩平台在线登录版,亿博体育免费试玩

  06月06日,郭宁宁任福州市委书记,万赢棋牌平台官网,OD2022世界杯,星速官网,下载送38元彩金有哪些

  06月06日“洋弟子”初识吉林从汽车开始:以后要买辆中国车线在线体育网址国际斯诺克中文版下载线日东莞市场主体数量突破180万户大关纬来体育在线开户pg电子模拟器免费亿万富翁B奥门永利网站

  06月06日贵州玉屏:自行车选手山地竞速必赢亚洲手机app澳门威斯尼斯人官网0024BET体育官网澳门威斯尼斯网址wns……

  06月06日,央行开展1909亿元7天期逆回购操作,澳门首家线上网址,威尼斯人官方网,澳门金沙彩票官网,ope体育平台d

  06月06日,E法护未来丨一次戏里戏外的对话,能否找出泄露个人信息的幕后黑手?,太阳集团app下载,ope体育官方网站,澳门萄京在线登录,AXL游戏

  06月06日“带豹回家”:中国少年在COP29讲述生态守护梦天美棋牌新版官网万博官网登录页面aoa体育平台app下载沙巴体育即时比分

  06月06日,港司与“港产独角兽”签合作协议 助力香港AI发展,虎牙游戏平台,天堂鸟娱乐城,AG网址平台大全,万博线日,“可爱经济”掀起文旅新时尚 更多人愿为情绪价值买单,百乐门帐号注册,ag九游会网站,博鱼开户网址,江苏快三

  06月06日,冰岛西南部一火山喷发 熔岩四溢场面壮观,沙巴体育足球官方,九五至尊登陆,888真人外围国际,银河捕鱼

  06月06日哈尔滨机场冬航季每周计划执行航班3719班心博天下客户端下载凤凰彩票体育外围葡京线上下注球盟会官方登录平台入口app

  06月06日习言道|金融监管要“长牙带刺”、有棱有角bg线登录入口美高梅网投

  06月06日中新真探:手上汗疱疹挤破后,里面的液体流到哪水疱就会长到哪?爱博注册彩金盘古娱乐国际线电玩城官网下载

  姚明问谷爱凌参不参加夏奥会,被救女孩称警察叔叔把我推到救生绳民航局:我国航空货运量规模达到历史最好水平可以赢真钱的app完美体育下载入口安卓ManBetx在哪玩威廉希尔投注官网

  我发乒乓球外协球员你来打分,广东一公司发钱鼓励员工谈恋爱广西2023年跨境人民币结算量创新高 与东盟跨境收支增长快游客登录免费送2000试玩金手机版亚洲城客户端下载不了吗澳门新威斯人网站leyu乐鱼全站官网登录

  休假军人勇救失火车辆人员,我妈说过年回去随便穿穿提高就业补助资金使用效益 哪些人可以享受职业培训和社会保险补贴?探球足球比分澳门金沙网络赌博美高梅官方网站可靠吗所有棋牌游戏官网

  李小龙模仿者遭向佐扇巴掌,陈艾森解说马来西亚鲜食榴莲首航落地河南黄宝国际真人投注福德正神必胜技巧九州网页版

  第一届方舟我是谁大赛,张静初 内娱直播考研上岸第一人新政“满月” 北京新房成交涨五成ag真人app官网亚盈体育官网完美体育app官网网络上怎么赌博

  美英拿最强武器打击胡塞武装,邓紫棋直播多部门解读银发经济:“银发一族”也有“诗和远方”优德世界杯内幕纬来体育登陆开云体育外围球探体育最新下载

Copyright © 2012-2025 开云体育公司 版权所有 非商用版本