资讯详情

资讯详情

3.5倍训练提速+多模态融合:蚂蚁金服Ming-UniVision终结视觉AI“散装时代“

3.5倍训练提速多模态融合蚂蚁金服Ming-UniVision终结视觉AI散装时代导语2025年10月蚂蚁金服开源发布多模态大模型Ming-UniVision-16B-A3B首次在自回归范式下实现图像理解与生成的原生融合一个模型即可流畅完成看图说话、文生图、图修图等全流程视觉任务标志着AI视觉处理正式进入一体化时代。行业现状多模态大模型的散装困境当前AI视觉领域长期存在效率瓶颈企业需部署至少3个专用模型——如Qwen2.5-VL负责图像理解、Stable Diffusion处理生成、Photoshop AI插件进行编辑这种散装方案导致模态切换成本高、上下文连贯性差。IDC最新报告显示2025年中国多模态大模型市场规模达156.3亿元但企业平均需集成4.2个模态模型造成30%以上的算力资源浪费。行业数据显示尽管扩散模型占据83%的商业图像生成市场份额但其黑箱式生成过程缺乏可控性专业创作者对高精度渐进式编辑的需求正以年均45%速度增长。而传统自回归模型虽具备序列生成优势却因依赖离散量化VQ导致信息损失始终难以突破性能瓶颈。如上图所示Ming-UniVision配套标记器MingTok能够生成高质量的多样化图像包含动物、风景、人物等多种类型展示了其强大的图像生成能力。这些示例表明该模型在视觉内容创作方面具有广泛的应用潜力为解决当前多模态模型散装问题提供了技术基础。技术突破连续视觉标记的范式革新Ming-UniVision的核心创新在于其自研的MingTok连续视觉标记器采用三阶段架构实现理解与生成的统一低层编码将图像压缩为紧凑连续向量优化自回归生成效率语义扩展通过自回归细化生成高维语义特征支持复杂推理视觉重建从语义特征精确恢复图像细节LPIPS指标降低42%这种设计绕开传统离散量化步骤使模型能直接在连续空间操作。实验数据显示在GenEval测评中其文本-图像生成整体得分达0.85尤其在位置关系0.92和颜色属性0.70任务上刷新自回归模型纪录。与Qwen2.5-VL-7B相比训练收敛速度提升3.5倍相同性能下节省68%计算资源。该图展示了Ming-UniVision在图像生成、编辑及多轮上下文编辑方面的效果包含多样化生成图像及编辑前后对比。左侧为原始生成图像中间为局部编辑过程右侧为最终优化结果。这一完整流程展示了模型在统一框架下处理多种视觉任务的能力体现了连续视觉标记技术在保持任务连贯性方面的优势。多模态能力矩阵从理解到创作的全流程支持通过统一自回归框架Ming-UniVision实现四大核心功能1. 跨模态理解在MMBench测评中达78.5分与Qwen2.5-VL-7B相当MMMU数据集获40.3分显示基础推理能力支持图像描述、视觉问答、OCR识别等12类理解任务2. 可控图像生成单目标生成准确率达1.00颜色匹配任务0.93分DPG-Bench测评获82.12分接近SD3-Medium水平支持文本引导的风格迁移、元素增减等创作需求3. 迭代式图像编辑实现类似Google NanoBanana的区域感知编辑支持基于自然语言的局部修改如将裙子改为红色保持整体风格一致性的多轮调整实时反馈的渐进式优化流程4. 多轮视觉对话通过Feature→Feature直接循环避免传统模型的潜在→像素→特征低效转换支持上下文连贯的交互编辑生成→修改→再创作跨轮次的视觉元素追踪如保持人物姿势不变更换背景为办公室最长支持16轮次的复杂任务协作行业影响重新定义视觉AI的应用边界Ming-UniVision的开源仓库地址https://gitcode.com/hf_mirrors/inclusionAI/Ming-UniVision-16B-A3B将加速三个领域的变革1. 内容创作工具链整合专业创作者可通过单一接口完成构思→生成→优化→定稿全流程测试显示设计效率提升37%。已有广告公司测试将其集成到创意工作流替代原先需要SDControlNetPS的复杂组合。2. 工业级视觉质检升级统一框架特别适合制造业的缺陷检测→原因分析→修复建议闭环需求某汽车厂商试点显示质检效率提升52%误判率降低28%。3. 智能交互系统进化在AR/VR领域模型可实时响应用户指令修改虚拟场景延迟降低至80ms以下接近人类交互的自然阈值。挑战与展望尽管表现出色模型仍存在局限性在OCRBench测试中得724分低于Qwen2.5-VL的864分显示字符级细节识别能力有待加强多轮复杂任务切换如描述→生成→比较→修订的流畅度需提升。团队计划在下一代模型中引入更高分辨率标记化策略降低每个令牌的信息负载增加1000万级多轮编辑专用数据训练开发针对细粒度控制的专用适配器随着技术迭代Ming-UniVision开创的统一连续视觉空间范式有望在未来2-3年内彻底终结视觉AI的散装时代推动人机协作的视觉智能进入新阶段。提示使用模型时需注意其仅支持两轮对话优化复杂编辑任务建议分步执行。目前开源版本采用混合分辨率训练策略高分辨率理解/低分辨率生成图像编辑质量与专业生成模型仍有差距。如何获取与使用项目地址https://gitcode.com/hf_mirrors/inclusionAI/Ming-UniVision-16B-A3B支持Hugging Face Transformers和ModelScope平台部署提供A3B量化版本适配消费级GPU推理。如果觉得本文有价值请点赞、收藏并关注我们获取更多AI技术前沿动态下期我们将深入解析MingTok连续视觉标记器的技术细节敬请期待。创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
觉得有用,分享给同行:

为您的企业打造数字门面

稳重轻奢商务风格,端正雅致视觉,长效耐看不易过时。

立即咨询 →