Model details
模型介绍
中文整理🎨 DDColor-Anime 动漫图像上色模型
该模型为黑白动漫图像上色模型,输入一张黑白漫画,实现端到端的全图上色,返回上色处理后的彩色图像。
English Version(原项目介绍)**
模型描述
DDColor 是最新的 SOTA 图像上色算法,能够对输入的黑白图像生成自然生动的彩色结果。
本模型是使用300w张彩色漫画重新训练,针对动漫图像进行特化的上色模型。
算法整体流程如下图,使用 UNet 结构的骨干网络和图像解码器分别实现图像特征提取和特征图上采样,并利用 Transformer 结构的颜色解码器完成基于视觉语义的颜色查询,最终聚合输出彩色通道预测结果。
效果预览
INPUT iic/cv ddcolor image-colorization DDColor-Anime
:-----------------: :----: :------------:
模型局限性以及可能的偏差
本算法模型只使用彩色漫画数据集进行训练,对于分布外场景(例如真实场景等)可能产生不恰当的上色结果;
对于低分辨率或包含明显噪声的图像,算法可能无法得到理想的生成效果。
训练数据介绍
模型使用群友[有🌸无实]提供的非公开彩色漫画数据集训练,其训练集包含 300 万张彩色图像。
如何使用
环境要求
Linux ✔
Python >= 3.7
PyTorch >= 1.7
安装依赖
运行推理
模型训练流程
预处理
将图像数据集分为数据集和校验集
生成训练数据和校验数据列表
生成训练数据列表
生成校验数据列表
如果有替换 --output-name 路径或者有其他配置需要修改,可以单独修改 options/train/train ddcolor.yml
下载预训练模型
手动下载后放置在 pretrain 目录中或运行下面命令
ConvNeXt
InceptionV3
开始训练
在后台运行训练
训练日志重定向至train.log中,训练达到40w步则停止。
训练的模型位于 experiments 目录中,训练过程中会自动备份模型与生成中间效果图,请准备足够充足的空间。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.