解决“佛跳墙、老婆饼”问题,联通开源中文原生文生图模型

IT之家 2025-01-08 18:07:51

IT之家1月8日消息,联通数据智能有限公司今日宣布开源首个完全在国产昇腾AI基础软硬件平台上实现训练和推理的中文原生文生图模型——元景文生图模型。

在架构上,通过在SDXL架构中融合复合语言编码模块,实现了对中文长文本、多属性对应和中文特色词汇的精确语义理解,对应图像的生成效果得到了极大提升。

在昇腾AI大规模算力集群上实现了中文原生文生图模型的训练和推理,并将模型和代码对业界开源,以推动文生图领域的国产化进程。

联通数据智能有限公司表示,当前的文生图主流模型以英文输入为主,中文原生的文生图模型研发则相对比较缓慢,这导致了模型对中文语义的理解能力不足,中文特色图片生成能力有限。

对此,元景文生图模型一方面将英文CLIP模型替换成中文CLIP,使得模型中文短文本输入具有更好的理解能力;同时,引入复合语言编码架构,将基于encoder-decoder架构的语言模型引入了语言编码器部分,这使得模型能支持超过CLIP长度限制的长文本,实现更准确的中文语义理解和判断。

通过引入复合语言编码模块,元景文生图模型实现了原生中文语义理解,避免了传统的利用翻译插件等作为中介调用英文文生图模型的方法所带来的中文信息损失。

同时通过引入海量中文图文对数据进行预训练,模型对中文专属名词,如鼠标-老鼠、仙鹤-吊车等英文模型易混淆的对象,以及中文菜谱等英文模型无法理解的名词,都能够准确理解并生成对应的图片。

中国联通在国产昇腾AI基础软硬件平台上实现了元景文生图模型从微调训练到推理的一体化适配。在微调训练方面,用户可使用自定义数据集,实现从其它平台至昇腾的平滑切换;在模型推理方面,接口与Diffusers对齐,支持单卡和多卡,单卡推理支持UNetCache加速。

联通数据智能有限公司透露,目前,元景文生图模型已在联通内外部多个项目中成功应用。

目前,元景文生图模型已在GitHub、HuggingFace、魔搭、始智等社区全面开源,IT之家附开源地址如下:

GitHub:https://github.com/UnicomAI/UniT2IXL.git

HuggingFace:https://huggingface.co/UnicomAI/UniT2IXL

0 阅读:1