返回

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文

2024-12-26内容来源

中国联通宣布,联通数据智能公司打造、首个完全在国产昇腾AI软硬件平台上实现训练和推理的中文原生文生图模型联通元景文生图模型”,正式开源。

该模型实现了多项自主创新突破:

首先是在架构上,通过在SDXL架构中融合复合语言编码模块,实现了对中文长文本、多属性对应和中文特色词汇的精确语义理解,对应图像的生成效果得到了极大提升。

其次是在昇腾AI大规模算力集群上,实现了中文原生文生图模型的训练和推理,并将模型和代码对业界开源,以推动文生图领域的国产化进程。

据悉,原始SDXL的语言编码器仅使用英文CLIP模型,智能支持英文文本输入,输入长度也不能超过77个token。

对此,联通元景文生图模型一方面将英文CLIP模型替换成中文CLIP,并引入复合语言编码架构,使用基于encoder-decoder架构的语言模型,突破文本长度限制。

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文

通过引入复合语言编码模块,元景文生图模型实现了原生中文语义理解,避免了利用翻译插件等作为中介调用英文文生图模型造成的中文信息损失。

同时,通过引入海量中文图文对数据进行预训练,模型对中文专属名词,如鼠标-老鼠、仙鹤-吊车等英文模型易混淆的对象,以及中文菜谱等英文模型无法理解的名词,都能够准确理解并生成对应的高质量图片。

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文(在英文中均翻译成crane,易混淆)

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文(中文特色词汇)

中国联通在国产昇腾AI基础软硬件平台上实现了元景文生图模型从微调训练到推理的一体化适配。

在微调训练方面,用户可使用自定义数据集,实现从其它平台至昇腾的平滑切换;

在模型推理方面,接口与Diffusers对齐,简单易用,支持单卡和多卡,单卡推理支持UNet Cache加速。

该模型已在联通的多个内外部项目中服务于文创、服装、工业设计等诸多领域,支撑了中华器灵、服装大模型等数十个案例。

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文联通元景文生图模型赋能服装设计

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文联通元景文生图模型赋能文物活化

目前,元景文生图模型已在GitHub、Hugging Face、魔搭、始智等社区全面开源,地址如下:

GitHub:

https://github.com/UnicomAI/UniT2IXL.git

HuggingFace:

https://huggingface.co/UnicomAI/UniT2IXL

魔搭:

https://www.modelscope.cn/UnicomAI/UniT2IXL.git

始智:

https://wisemodel.cn/models/UnicomAI/UniT2IXL

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文联通元景文生图模型在全球数字经济大会上获奖

中国联通宣布,联通数据智能公司打造、首个完全在国产昇腾AI软硬件平台上实现训练和推理的中文原生文生图模型联通元景文生图模型”,正式开源。

该模型实现了多项自主创新突破:

首先是在架构上,通过在SDXL架构中融合复合语言编码模块,实现了对中文长文本、多属性对应和中文特色词汇的精确语义理解,对应图像的生成效果得到了极大提升。

其次是在昇腾AI大规模算力集群上,实现了中文原生文生图模型的训练和推理,并将模型和代码对业界开源,以推动文生图领域的国产化进程。

据悉,原始SDXL的语言编码器仅使用英文CLIP模型,智能支持英文文本输入,输入长度也不能超过77个token。

对此,联通元景文生图模型一方面将英文CLIP模型替换成中文CLIP,并引入复合语言编码架构,使用基于encoder-decoder架构的语言模型,突破文本长度限制。

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文

通过引入复合语言编码模块,元景文生图模型实现了原生中文语义理解,避免了利用翻译插件等作为中介调用英文文生图模型造成的中文信息损失。

同时,通过引入海量中文图文对数据进行预训练,模型对中文专属名词,如鼠标-老鼠、仙鹤-吊车等英文模型易混淆的对象,以及中文菜谱等英文模型无法理解的名词,都能够准确理解并生成对应的高质量图片。

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文(在英文中均翻译成crane,易混淆)

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文(中文特色词汇)

中国联通在国产昇腾AI基础软硬件平台上实现了元景文生图模型从微调训练到推理的一体化适配。

在微调训练方面,用户可使用自定义数据集,实现从其它平台至昇腾的平滑切换;

在模型推理方面,接口与Diffusers对齐,简单易用,支持单卡和多卡,单卡推理支持UNet Cache加速。

该模型已在联通的多个内外部项目中服务于文创、服装、工业设计等诸多领域,支撑了中华器灵、服装大模型等数十个案例。

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文联通元景文生图模型赋能服装设计

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文联通元景文生图模型赋能文物活化

目前,元景文生图模型已在GitHub、Hugging Face、魔搭、始智等社区全面开源,地址如下:

GitHub:

https://github.com/UnicomAI/UniT2IXL.git

HuggingFace:

https://huggingface.co/UnicomAI/UniT2IXL

魔搭:

https://www.modelscope.cn/UnicomAI/UniT2IXL.git

始智:

https://wisemodel.cn/models/UnicomAI/UniT2IXL

昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文联通元景文生图模型在全球数字经济大会上获奖

电脑版

综合新闻

猜你感兴趣

  • 深圳证券交易所
    深圳证券交易所
    深交所 SZSE 全国性证券交易场所
  • 腾讯体育
    腾讯体育
    奥运会 NBA赛程 体育直播 体育新闻 腾讯体育 腾讯网 NBA视频直播 英超直播
  • 南京体育学院
    南京体育学院
    公立大学 南体 普通本科 体育类
  • 网易娱乐
    网易娱乐
    有态度的娱乐门户
  • 乐哈健康网
    乐哈健康网
  • 飞卢小说网
    飞卢小说网
    好看的免费小说网 小说听书电子书阅读平台
  • 华为开发者大会
    华为开发者大会
    华为面向ICT领域全球开发者的年度旗舰活动
  • 自媒体经验分享网
    自媒体经验分享网
  • 安徽省妇幼保健院
    安徽省妇幼保健院
  • qiankunxin
    qiankunxin
    星光影院 星光手机影院 最新电影 高清电影 免费电影院
  • 大家都在看

  • 95分类目录
    95分类目录
    分类目录 网站目录 网站分类目录 网站大全 网址大全 网址导航 网站外链 网站收录
  • 百度新闻
    百度新闻
    海量中文资讯平台
  • 阴阳师
    阴阳师
    网易公司研发的3D日式和风回合制RPG手游
  • 凡科网
    凡科网
    自助建站 微信小程序开发平台 广州凡科互联网科技股份有限公司
  • 天涯神贴
    天涯神贴
    天涯论坛